ИИ оставил клиентов Amazon без доступа к сервисам: как алгоритм «сломал» систему

► Подписывайтесь на телеграм-канал «Минфина»: главные финансовые новости

Как ИИ «удалил» систему

Наиболее показательный случай произошел в середине декабря, когда одна из систем AWS, позволяющая клиентам мониторить свои расходы на облачные услуги, перестала работать на 13 часов. По словам осведомленных источников, причиной коллапса стал фирменный ИИ-инструмент для программирования под названием Kiro. Инженеры предоставили ему полномочия самостоятельно вносить изменения в систему. Получив автономию, алгоритм пришел к выводу, что оптимальным путем решения задачи будет радикальный шаг — «удалить и заново создать среду».

В официальном отчете об инциденте компания признала факт сбоя, однако отметила, что он имел «крайне ограниченный» характер и повлиял только на один сервис для пользователей на территории материкового Китая.

Человеческий фактор или предсказуемая ошибка машины?

Это уже не первый подобный случай. Сотрудники компании рассказали журналистам о еще одном недавнем инциденте, когда использование ИИ привело к перебоям.

«За последние несколько месяцев мы уже видели как минимум два сбоя в рабочей среде. Инженеры позволили агенту искусственного интеллекта решить проблему без вмешательства. Сбои были небольшими, но полностью предсказуемыми», — отметил один из старших сотрудников AWS.

Руководство Amazon категорически не соглашается с тем, что проблема заключается в самой технологии. В компании убеждены, что участие нейросети было лишь стечением обстоятельств, а подобный коллапс мог произойти в результате ручного вмешательства или использования любой другой программы.

«В обоих случаях это была ошибка пользователя, а не ошибка искусственного интеллекта», — подчеркнули в пресс-службе, добавив, что не видят доказательств того, что ошибки случаются чаще именно при использовании ИИ-инструментов. Также в Amazon заверили, что второй инцидент вообще не повлиял на клиентские сервисы.