Кейтлин Калиновски, бывший руководитель отдела робототехники OpenAI, ушла в отставку после работы в компании чуть более года. Калиновски выразила обеспокоенность тем, что вооруженные силы США могут использовать ИИ-инструменты компании для внутреннего наблюдения и для автоматизированных систем целеуказания в американском оружии.
Руководитель отдела аппаратного обеспечения и робототехники OpenAI Кейтлин Калиновски покинула ИИ-компанию после работы с ноября 2024 года. Калиновски объявила о своей отставке 7 марта, сославшись на обеспокоенность по поводу соглашения, достигнутого между OpenAI и Министерством обороны США в феврале.
Вооруженные силы США будут использовать ИИ для внутреннего наблюдения, заявляет Калиновски
По словам Калиновски, её отставка была вызвана намерением Министерства обороны США использовать ИИ-инструменты и возможности для проведения наблюдения за гражданами США без судебного надзора. Бывшая сотрудница OpenAI написала в X, что ИИ играет важную роль в национальной безопасности.
Она объяснила, что Министерство обороны США намерено использовать ИИ для наблюдения и автономного оружия — решение, с которым она не согласна. Она сказала, что её решение "касалось принципов, а не людей" и что она гордится тем, что команда OpenAI построила за время её работы в компании.
В феврале Пентагон активизировал переговоры с ведущими ИИ-компаниями о развертывании автоматизированных моделей в секретных системах. Cryptopolitan сообщил, что Пентагон настаивал на переговорах с Anthropic и OpenAI о внедрении ИИ-инструментов в секретные военные сети.
Эмиль Майкл, Руководитель технологического отдела（CTO） Пентагона, заявил на встрече в Белом доме с технологическими лидерами, что военные хотят, чтобы ИИ-модели работали как в секретных, так и в несекретных сетях без ограничений или запретов.
Переговоры между правительством США и Anthropic зашли в тупик, поскольку руководство компании провело четкие границы: их технология не будет использоваться для операций внутреннего наблюдения и систем целеуказания автономного оружия. Компания отказалась подчиниться ультиматуму Пентагона об удалении защитных мер ИИ в конце февраля.
Генеральный директор Anthropic Дарио Амодеи остался непреклонен, отказавшись разрешить использование технологии компании в военных операциях. В ответ Трамп поручил всем федеральным агентствам прекратить использование технологии Anthropic в конце февраля.
OpenAI ввела ограничения на военное развертывание ИИ
Министерство обороны заключило соглашение с OpenAI, которое с тех пор подверглось критике. Сэм Альтман упомянул, что соглашение выглядело довольно оппортунистическим, и пояснил, что компания ввела ограничения на то, как её ИИ-инструменты будут использоваться в военных операциях.
Однако заявление Калиновски утверждает, что объявление было поспешным, без необходимых защитных мер. Она добавила, что её уход был основан на проблемах управления, которые слишком важны, чтобы спешить.
OpenAI подтвердила уход Калиновски в заявлении, но подтвердила, что связи компании с министерствами обороны прокладывают путь к ответственному использованию ИИ-инструментов в национальной безопасности.
В феврале OpenAI объявила, что развернет пользовательскую версию ChatGPT на защищенной корпоративной ИИ-платформе Министерства обороны под названием GenAI.mil. Компания отметила, что её сотрудничество с военными и оборонными ведомствами вытекает из критической роли ИИ в защите людей и предотвращении конфликтов.
Трения между правительством США и ИИ-компаниями по вопросу развития военного ИИ также привели к тому, что больше исследователей покидают ИИ-компании. Один из ведущих исследователей безопасности Anthropic ушел с заявлением: "Мир в опасности."
Еще один исследователь OpenAI также ушел со своей должности, заявив, что ИИ-технология имеет способ контролировать людей, который разработчики не могут понять или предотвратить.
Зоя Хитциг, бывший исследователь OpenAI, также покинула компанию 11 февраля. Она ушла в отставку в тот же день, когда OpenAI объявила о начале тестирования рекламы в своей языковой модели ChatGPT. Она заявила, что ИИ-компания совершает ту же ошибку, что и Facebook.
Хитциг выразила обеспокоенность тем, что уникальная роль ChatGPT как доверенного лица для глубоко личных откровений (медицинские опасения, проблемы в отношениях, религиозные убеждения) делает таргетинг рекламы особенно рискованным.
Источник: https://www.cryptopolitan.com/openai-robotics-boss-resigns-ai-warning/
