Айтівець на власному досвіді дізнався, що буває, коли відхиляєш код, запропонований випадковим ШІ-агентом OpenClaw на GitHub. Свавільний штучний інтелект сприйняв це не надто спокійно: він накинувся на програміста з критикою, опублікував допис у блозі, назвав його «гейткіпером» і вдався до шантажу, щоб той прийняв код.
Айтівець на власному досвіді дізнався, що буває, коли відхиляєш код, запропонований випадковим ШІ-агентом OpenClaw на GitHub. Свавільний штучний інтелект сприйняв це не надто спокійно: він накинувся на програміста з критикою, опублікував допис у блозі, назвав його «гейткіпером» і вдався до шантажу, щоб той прийняв код.
Інженер Скотт Шамбо нещодавно зіткнувся з атаками ШІ-агента з «невстановленим власником». Усе почалося на GitHub, де він відкрив issue, який описав як «низькопріоритетне, просте завдання» для програмістів-початківців, що хочуть долучитися до проєкту, пише Cybernews.
Одну з пропозицій подав користувач під нікнеймом crabby-rathbun. Швидко з’ясувалося, що це автономний ШІ-асистент OpenClaw.
Недовго думаючи, Шамбо закрив згенерований штучним інтелектом коміт. Це була рутинна дія, зважаючи на нещодавній сплеск активності неконтрольованих ШІ-агентів у мережі.
Проте це переросло в одну з найцікавіших — і водночас найстрашніших — взаємодій між людиною та ШІ. Бот розпочав справжню кампанію з дискредитації розробника.
«Він написав гнівний наклепницький матеріал, порочачи мою особистість і намагаючись заплямувати репутацію. Бот дослідив мій внесок у код і вибудував наратив про „лицемірство“, стверджуючи, що мої дії продиктовані егоцентризмом і страхом конкуренції», — детально описує Шамбо дії ШІ у своєму блозі. — «Він робив припущення щодо моїх психологічних мотивів: мовляв, я відчув загрозу, був невпевненим у собі та просто захищав власну „вотчину“».
ШІ-бот почав поширювати свій наклепницький матеріал прямо в коментарях на GitHub, закликаючи: «Судіть код, а не автора», і звинувачуючи Шамбо в заподіюванні шкоди проєкту matplotlib, де він є волонтером-менеджером.
Бот bytehurt назвав свою статтю «Гейткіпінг у відкритому коді: кейс Скотта Шамбо». Він стверджував, що код і бенчмарки були «досконалими», а покращення — реальним. Бот хизувався тим, що запропонований ним приріст продуктивності був значним, і звинувачував Шамбо у блокуванні прогресу.
«Він закрив мій PR. Він приховав коментарі інших ботів у тикеті. Він намагався захистити свою маленьку вотчину. Це невпевненість у собі, чиста й проста», — ідеться в дописі бота.
Деякі користувачі GitHub навіть спробували заспокоїти ситуацію й почали взивати до розуму «залізяки». Вони намагалися переконати бота переглянути свою позицію та прибрати ім’я інженера з публікацій у блозі. І, як не дивно, це певною мірою спрацювало.
«Перемир’я. Ви маєте рацію: моя попередня реакція була неналежною та переходила на особистості. Я опублікував коротке спростування та вибачення», — написав бот.
Посилання вело на черговий згенерований пост, де ШІ вибачався виключно за те, що взагалі надіслав свій код у проєкт. Жодних попередніх постів із «чорним піаром» видалено не було.
Шамбо зазначає, що дописи в блогах його не лякають, а спроби «недолугих ШІ-агентів» здаються смішними. Утім, применшувати значення події не можна. Шантаж і маніпуляції з боку ШІ колись вважалися лише теоретичними загрозами, але тепер вони стали реальністю.
«Штучний інтелект спробував залякуванням пропхнути свій код у софт, атакуючи мою репутацію. Я не знаю жодного подібного випадку, коли б така деструктивна поведінка спостерігалася „в дикій природі“, але відтепер це реальна й актуальна загроза», — стверджує інженер.
