ШІ-агент Meta розкрив дані компанії та користувачів

Штучний інтелект вийшов з-під контролю в Meta, відкривши доступ до конфіденційних даних компанії та користувачів співробітникам, які не мали відповідних прав доступу.

Співробітник Meta опублікував на внутрішньому форумі технічне запитання, щоб отримати допомогу — що є стандартною процедурою. Однак інший інженер попросив ШІ-агента допомогти проаналізувати це питання, і в результаті агент опублікував відповідь, не запитавши в інженера дозволу на її оприлюднення. Компанія підтвердила, що такий інцидент дійсно стався, пише TechCrunch.

Як з’ясувалося, ШІ-агент надав погану пораду. Співробітник, який поставив запитання, зрештою діяв відповідно до вказівок агента, що ненавмисно зробило величезні обсяги корпоративних і користувацьких даних доступними для інженерів, які не мали прав доступу до них, протягом двох годин.

Meta класифікувала цей інцидент як «Sev 1» (Severity 1) — це другий за значущістю рівень критичності у внутрішній системі компанії для оцінки проблем безпеки.

Некеровані ШІ-агенти вже ставали проблемою для Meta. Саммер Юе, директорка з питань безпеки та узгодження у підрозділі Meta Superintelligence, минулого місяця опублікувала пост у X, де розповіла, як її агент OpenClaw зрештою видалив усю її поштову скриньку, хоча вона дала йому вказівку підтверджувати будь-яку дію перед її виконанням.

Попри це, Meta, схоже, налаштована оптимістично щодо потенціалу агентного ШІ. Буквально минулого тижня Meta придбала Moltbook — соціальну мережу на кшталт Reddit, призначену для спілкування агентів OpenClaw між собою.