Чому люди продовжують фантазувати про те, що ШІ спричинить апокаліпсис?

Привіт усім, це Майкл Рейлі.

\ Зараз лише початок 2024 року, але чи хтось ще виснажений рівнем драми та гіперпереживань навколо ШІ? Одна річ, яка особливо вражає мене, це готовність деяких людей викликати катастрофу — справжні апокаліптичні бачення нашого майбутнього — щоб описати свої чудові чат-боти та генератори зображень.

\ Я думаю, зокрема, про нещодавню суперечку в X між Вінодом Хослою та Марком Андріссеном, двома найвідомішими венчурними фірмами Кремнієвої долини, які також є інвесторами OpenAI. Те, що почалося як обговорення, чи була хорошою ідеєю відкрити код власності OpenAI, якимось чином призвело до порівняння продуктів компанії з Манхеттенським проєктом.

\ Здавалося, що точка зору Хосли зосереджувалася на проблемах національної безпеки щодо відкриття дуже складного коду ШІ для будь-кого, хто може вирішити зловживати ним. Але такий апокаліптичний дискурс закладений у засновницькій ДНК OpenAI, компанії, яка почалася як цілеспрямоване зусилля створити комп'ютерний суперінтелект, який затьмарив би людський розум. Наприкінці 2022 року OpenAI випустила ChatGPT, і фанфари справді злетіли. Так само як і катастрофізація, яка поширилася від таких людей, як Сем Альтман, який як керівник компанії має особистий інтерес у тому, щоб його технологія звучала Дійсно Потужно.

\ Чому технічні люди люблять говорити про речі в апокаліптичних термінах? Будьмо чесними: *всі* люблять говорити про кінець світу. Стародавні цивілізації, релігійні тексти, голлівудські кінопродюсери, основні ЗМІ, інтернет-теоретики змови — технічні керівники не самотні. Є щось вроджено людське в вірі, що світ на межі катаклізму.

\ Але конкретно для технічних людей, я задаюся питанням: чи Сем Альтман каже, що йому потрібно 7 трильйонів доларів, щоб перетворити світ на утопію, керовану ШІ, тому що він щиро вірить, що це хороше використання грошей (чи чув він про зміну клімату)? Чи це просто маркетинг? Чим небезпечніше звучить їхня технологія, тим більше уваги вона отримує, а отже, більше грошей, як з точки зору інвестицій, так і оцінки компанії. Ця стратегія... здається, працює дуже добре! OpenAI оцінюється в 80 мільярдів доларів.

\ Справжня проблема, однак, полягає в тому, що цей наратив про блискучий об'єкт відволікає від реальних, життєвих наслідків ШІ. Програмне забезпечення, яке використовує великі масиви даних для прогнозування про світ, існує і активно виконує свою роботу. У деяких випадках — як у системі оцінювання субсидованого житла в Лос-Анджелесі, Системі раннього попередження про відсів у Вісконсині, інструментах виявлення плагіату та безлічі інших добре задокументованих випадків, починаючи від найму до кримінального правосуддя — воно шкодить людям.

\ Якби вони потрудилися звернути увагу, я думаю, Великі Технологічні Брокери Влади здебільшого погодилися б з ідеєю, що ми повинні виправити такі системи, як ті, які The Markup досліджував у Лос-Анджелесі чи Вісконсині, щоб вони працювали більш справедливо та рівноправно. Але ігноруючи ці, безумовно, набагато менш сексуальні теми і зосереджуючись натомість на суперечках про те, як ШІ призведе до кінця світу — або що лише через мудре керівництво первосвящеників венчурного капіталу ми можемо бути врятовані від знищення — нас просять зосередити нашу увагу на фантазії.

\ І гей, хто не любить хорошу фантазію. Просто переконайтеся, що залишаєте місце для реальності.

\ Дякую за читання,

Майкл Рейлі

Керуючий редактор

The Markup

\ PS – якщо ви дочитали до цього місця або просто перескочили до кінця, ви заслуговуєте на деякі цікаві речі. Ось кілька (переважно пов'язаних з ШІ) речей з інтернету, які я нещодавно знайшов дійсно цікавими. Сподіваюся, вони дадуть вам про що подумати цими вихідними:

• Ця історія від Карен Хао в The Atlantic є однією з найкращих статей, які я читав про природні ресурси, що споживаються Великим Хайпом ШІ 2020-х років.
• Наш власний Росс Тейшейра розмовляв з кількома вчителями по всьому світу про те, як вони використовують ШІ в класі. Я знайшов їхні відповіді захоплюючими.
• Нові діти на блоці 404 Media вбивають своїми ексклюзивними новинами майже щодня з моменту їх запуску шість місяців тому. Якщо ШІ збирається знищити світ, то це тому, що його використовуватимуть, щоб потопити нас усіх у спамі TikTok.
• Наш колишній колега, Леон Їн, та його колеги з Bloomberg провели дивовижне розслідування того, як інструмент рекрутингу OpenAI GPT має вбудовану расову упередженість. Візуально приголомшливо, а також чудовий зразок журналістики.
• Ця маленька компанія вважає, що Америці потрібно почати використовувати машини для голосування, які працюють повністю на відкритому коді.

Автори

• Майкл Рейлі, керуючий редактор

Редагування

• Сісі Вей

Дизайн та графіка

• Габріель Хонгсдусіт

Взаємодія

• Марія Пуертас

\ Також опубліковано тут

\ Фото Мілен Одебур на Unsplash

\