Scout AI представила боевых ИИ-агентов для управления ударными дронами — видео

• Компания создает боевые ИИ-агенты для поиска и уничтожения целей в физическом мире.
• Во время демонстрации система автономно обнаружила и взорвала грузовик с помощью дронов.
• Эксперты предупреждают о рисках надежности и этических последствиях применения таких технологий.

Американская компания Scout AI продемонстрировала систему ИИ-агентов, способных управлять боевыми платформами и выполнять задачи по уничтожению целей. Испытания прошли на военной базе США в центральной Калифорнии с использованием беспилотного внедорожника и ударных дронов.

В ходе демонстрации агент получил команду найти грузовик в заданной зоне и провести миссии кинетического удара. 

Система интерпретировала приказ и направила наземное транспортное средство к точке операции. После этого она запустила дроны, которые обнаружили цель и подорвали ее взрывным устройством.

Основой разработки стала большая языковая модель (LLM) с более чем 100 млрд параметров, способная работать как в защищенном облаке, так и на локальном оборудовании. 

Она действует как управляющий агент, передавая команды более компактным моделям на дронах и наземных системах. Они, в свою очередь, координируют движение и выполнение задачи.

Генеральный директор Scout AI Колби Адкок заявил, что компания адаптирует подходы ИИ-индустрии для военных задач и обучает модели выполнять боевые миссии. По его словам, цель — превратить LLM в системы, способные действовать в реальных операциях.

Эксперты отмечают, что внедрение таких технологий связано с трудностями. Профессор Пенсильванского университета Майкл Горовиц указал, что ИИ-модели по своей природе непредсказуемы, а доказать их надежность и устойчивость к киберугрозам особенно сложно.

Вооруженные силы разных стран уже используют автономные системы в ограниченных сценариях. Однако развитие ИИ-агентов может расширить их применение, считают эксперты. 

Критики предупреждают, что это усилит риски и поставит новые вопросы — например, о том, кто несет ответственность за решения о применении силы.

Представители Scout AI утверждают, что технология создается с учетом правил применения силы вооруженных сил США и международных норм. Компания уже получила несколько контрактов Министерства обороны и рассчитывает на новые проекты, включая системы управления роем беспилотников. 

Эксперты при этом подчеркнули, что демонстрации не следует воспринимать как готовые боевые возможности до подтверждения надежности и безопасности таких систем.

Напомним, мы писали, что компания OpenAI получила $200 млн для интеграции ИИ-продуктов в структуру Минобороны США.