Компанія Superhuman, яка стоїть за асистентом для написання текстів Grammarly, зіткнулася з колективним позовом через інструмент штучного інтелекту Expert Review. Він пропонував пропозиції щодо редагування так, ніби вони походили від відомих авторів і науковців, зокрема померлих.
Компанія Superhuman, яка стоїть за асистентом для написання текстів Grammarly, зіткнулася з колективним позовом через інструмент штучного інтелекту Expert Review. Він пропонував пропозиції щодо редагування так, ніби вони походили від відомих авторів і науковців, зокрема померлих.
Наразі відомо про єдину позивачку з позову — журналістку Джулію Ангвін. Вона була серед списку експертів, таких як Стівен Кінг, Карл Саган, Ніл де Грасс Тайсон та інші відомі письменники й науковці, від чиїх імен пропонувалися правки в Expert Review. Про це повідомляє видання Wired.
У позові не уточнено конкретно суму відшкодування, але зазначається, що збитки позивачів перевищують $5 млн. Позивачі та Джулія Ангвін «оскаржують незаконне використання Grammarly імен та особистих даних сотень журналістів, авторів, письменників і редакторів із метою отримання прибутку для Grammarly та її власника, компанії Superhuman».
Скарга надійшла після того, як Superhuman уже вирішила припинити роботу Expert Review через значний негативний відгук громадськості.
«Після ретельного розгляду ми вирішили відключити функцію Expert Review, оскільки ми переосмислюємо її, щоб зробити її більш корисною для користувачів, одночасно надаючи експертам реальний контроль над тим, як вони хочуть бути представлені — або не бути представленими взагалі», — заявила Айліан Ган, директор Superhuman з управління продуктами.
Раніше Верена Кребс, професорка історії Рурського університету в Бохумі, звернула увагу, що Expert Review дає змогу користувачам вибрати історика Девіда Абулафію як одного з доступних «експертів» для перевірки їхньої роботи. Її допис спровокував дискусії серед науковців, оскільки вчений помер у січні цього року.
«Ми створили агента, щоб допомогти користувачам скористатися знаннями лідерів думок та експертів, а також надати експертам нові способи ділитися своїми знаннями та досягати нової аудиторії. Судячи з отриманих відгуків, ми явно не влучили в ціль. Ми просимо вибачення й надалі будемо діяти інакше», — зазначила Ган.
В Expert Review зазначалося, що жодна з цитованих осіб не підтримувала і не брала безпосередньої участі в розробці цього інструменту, який використовував велику мовну модель. Разом із тим різні письменники, журналісти й науковці висловили розчарування тим, що Grammarly використовує їхні образи й, очевидно, повторює їхню життєву працю за допомогою ШІ.
«Я десятиліттями працювала над вдосконаленням своїх навичок як письменниця та редакторка, і мене дуже засмучує, що технологічна компанія продає підроблену версію мого важко заробленого досвіду», — сказала Джулія Ангвін.
Тим часом Алекс Гей (Alex Gay), віцепрезидент із продуктів і корпоративного маркетингу в Superhuman, пояснював, що автори в Expert Review згадуються «тому, що їхні опубліковані роботи є загальнодоступними та широко цитуються». Але після негативної реакції в Grammarly вирішила вимкнути функцію.
«Протягом минулого тижня ми отримали обґрунтовані критичні відгуки від експертів, які стурбовані тим, що агент неправильно представив їхні думки. Такий вид контролю покращує наші продукти, і ми ставимося до нього серйозно», — сказав генеральний директор Superhuman Шишир Мехротра.
