[Перевод] Сэм Альтман раскрыл, что техно-олигархи на самом деле думают о нас, людях

Сэм Альтман, генеральный директор OpenAI, наконец-то сказал это вслух. В интервью на мероприятии Express Adda в Индии он заявил:

С точки зрения Альтмана, это рациональный аргумент. Он оправдывает потребление ресурсов, необходимых для обучения ИИ-моделей, сравнивая его с ресурсами, которые потребляем мы, люди.

Для него ИИ и человечество относятся к одной ценностной категории. Он измеряет и то, и другое в терминах полезности.

Но не все думают так, как Сэм Альтман. Иммануил Кант, великий немецкий философ, однажды сказал:

И эта фраза стала моральным фундаментом современного общества.

Но Альтман и другие техно-олигархи мыслят наоборот. Для них цели и средства поменялись местами.

Прямо сейчас их цель - навязать обществу свой так называемый «ИИ». Для этого им нужны гипермасштабные дата-центры. Много дата-центров - более тысячи.

Спросите их зачем, и они дадут вам прямой ответ - на благо человечества.

(Вы, конечно, слышали это раньше - это повторяет не только Альтман, но и Маск, и вся остальная их тусовка).

Вы можете возразить, что строительство гигантских дата-центров наносит реальный ущерб людям: захват земель, скачки потребления электричества и воды с последующим ростом цен, вред окружающей среде и так далее. Не говоря уже о всплеске цен на компьютерное оборудование, подогреваемом ИИ-хайпом.

Они ответят вам: но это все для вашего же блага! Вы получите лекарство от рака, разбогатеете и будете свободны делать все, что захотите. Работа станет выбором, а не обязанностью.

Когда? - спросите вы.

Скоро, - ответят они, и продолжат строить гипермасштабные дата-центры.

Попутно они увольняют людей десятками тысяч - потому что ИИ эффективнее - и все, что они делают, это просто оптимизация процессов, чтобы принести как можно больше пользы человечеству.

Кстати, утверждение о том, что ИИ эффективнее людей - это ложь, которая была опровергнута множество раз, но это не имеет значения, поскольку увольнения сокращают корпоративные расходы. Просто остается меньше людей, которым нужно платить зарплату.

Конечно, те, кто остался, теперь работают усерднее - им приходится вычищать баги, которые оставляет за собой ИИ. И что с того? Это просто естественный порядок вещей. Оптимизация. В конце концов, все это на благо человечества.

Человек как статья расходов

Для Альтмана и ему подобных мы, люди - не более чем энергоемкая масса юнитов, нагруженных устаревшими багами. Мы все еще нужны лишь постольку, поскольку ИИ действительно не может выполнять всю работу за нас (они это знают).

Именно это они и пытаются исправить. Для этого им нужен AGI (и, видимо, они верят, что именно они его создадут). Поэтому, естественно, им нужны гипермасштабные дата-центры.

Они свернут горы, чтобы добиться своего. Для них человеческий опыт - любовь, страдания, ошибки, формирование личности - это просто входные данные (input). Неэффективный способ получить «умного юнита» на выходе.

Это образ мышления инфократов, для которых человеческая жизнь - это валюта, используемая для оплаты токенов.

Великая энергетическая ложь

Но давайте подыграем Альтману, как бы абсурдно ни было говорить на его языке. Давайте посмотрим на цифры - раз уж эффективность является его святым Граалем. Насколько он прав математически?

Исследователи уже все подсчитали:

• Человек: потребляет в среднем 2000 ккал в день. За 20 лет «обучения» до совершеннолетия это эквивалентно примерно 17 000 кВт·ч энергии.

• GPT-4: один цикл обучения этой модели потребил, по разным оценкам, около 50 ГВт·ч (50 000 000 кВт·ч).

Математика неумолима: обучение одной модели GPT-4 стоит столько же, сколько выращивание 3000 человек до совершеннолетия.

Но с точки зрения эффективности это даже не главная проблема. Человек, обученный за 17 000 кВт·ч, будет генерировать экономическую и интеллектуальную отдачу следующие 40-60 лет. GPT-4 устарела и была заменена менее чем за два года.

Альтман хочет до 7 триллионов долларов и доступ к 10 ГВт мощностей (энергопотребление Нью-Йорка) для проекта Stargate. Он хочет, чтобы мы приняли сжигание ресурсов, эквивалентных целым странам, как нечто «естественное» - сопоставимое с кормлением ребенка. Но с экономической и коммерческой точек зрения это абсурд:

• Генеративные модели - самый энергоемкий и быстро устаревающий продукт в истории цивилизации.

• ИИ-софт страдает первородным грехом галлюцинаций и никогда от него не избавится - это заложено в самой его природе.

• ИИ-компании хронически убыточны.

• Нет никаких оснований полагать, что надежность ИИ когда-либо приблизится к надежности «нормального» программного обеспечения.

Где именно здесь благо для человечества?

Сдвиг «нарратива»

Зачем Альтману нужна эта риторика? Ему нужно, чтобы общество приняло новую нормальность.

Если мы согласимся, что ребенок и серверная стойка - это сопоставимые «единицы интеллекта», тогда:

• Рост цен на электроэнергию из-за дата-центров станет «необходимой жертвой».

• Замена живых сотрудников «энергоэффективным» ИИ станет логичным следующим шагом эволюции.

• Упадок образования перестанет иметь значение - зачем инвестировать в 20 лет «биологического обучения», если можно просто купить подписку?

Кстати, пока техно-олигархи рассуждают о замене людей алгоритмами, реальным специалистам нужны инструменты, чтобы оставаться конкурентоспособными и не зависеть от прихотей одной корпорации.

Сервисы вроде BotHub дают возможность использовать передовые модели ИИ (от разных разработчиков) в одном окне. Это способ заставить технологию работать на вас, а не наоборот.

Для доступа не требуется VPN, можно использовать российскую карту.

Это напоминает то, как промышленное сельское хозяйство говорит о скоте. Нас оценивают по коэффициенту конверсии корма в продуктивность.

Экзистенциальный выбор

Мы приближаемся к точке, когда технология перестает быть инструментом.

В киберпанк-антиутопиях корпорации всегда относились к людям как к ресурсу. Сэм Альтман просто заявляет о своих правах на то, чтобы сделать этот дискурс официальным. Он «вынес за скобки» ценность человеческого опыта, оставив лишь голый сухой остаток - логический вывод (inference query).

Но правда в следующем: люди - это не промежуточный узел. Мы не «тренировочные данные» для ИИ. Мы - та самая цель, ради которой ИИ вообще должен существовать.

Если системе требуется энергопотребление целого мегаполиса, чтобы симулировать интеллект одного человека, а ее создатели утверждают, что это «эффективнее», чем растить детей - значит, система сломана.

И, как справедливо заметил один из комментаторов высказываний Альтмана, нам не нужны «гении кодинга», если у нас не останется философов. Потому что без понимания того, зачем нам нужен прогресс, наша технология становится инструментом высокоэффективного самоуничтожения нашего вида.

Сэм Альтман не просто защищает бизнес-модель OpenAI. Он предлагает нам сделку: признать себя устаревшим софтом в обмен на иллюзию эффективности.

Мой ответ: нет. Ребенок, на воспитание которого уходит 20 лет - это не «затраты». Это сама жизнь. И если ваш ИИ стоит на пути у этой жизни, то проблема не в энергии. Проблема в вас.