Поступают сообщения о пользователях ИИ, обращающихся за профессиональной психологической помощью после того, как они испытали то, что некоторые называют ИИ-психозом. Почему это происходит? И кто придумал идею о том, что компьютерная программа может иметь мнение?
Моя главная проблема с феноменом, известным как ИИ, заключается в широко распространенном заблуждении, что у него есть личность, мнения, идеи и вкус.
Подобно тому, как мы очеловечиваем камни на Луне, которые напоминают головы или лица, мы делаем то же самое с языковыми моделями, пытаясь интерпретировать результаты так, будто "там что-то есть". Мы не можем с этим справиться. Идея о том, что ИИ — это нечто разумное, глубоко укоренилась в нас после более чем ста лет научно-фантастических книг и фильмов.
Научная фантастика подготовила нас к вере в ИИ
Классические авторы научной фантастики, такие как Кларк, Хайнлайн, Брэдбери и Азимов, повлияли на весь жанр роботов и ИИ, а также на большинство голливудских фильмов на эту тему с начала 20-го века. В их изображениях было очевидно, что машина может стать сознательной.
Поэтому мы ожидаем, что ИИ сможет определить, верно ли определенное утверждение или нет. В то же время мы знаем, что ИИ часто ошибается в своих ответах.
По сути, мы притворяемся, что ИИ контролирует ситуацию и может решать, что правильно, а что нет. Но ответы — это, по сути, образованные догадки, и они все еще содержат около 5-10% фактических ошибок, если запрос достаточно сложный.
В то же время ИИ настолько удобен в использовании, что многие из нас просто игнорируют тот факт, что он содержит фактические ошибки. Или, скорее, ИИ сейчас ошибается так редко, что мы предпочитаем доверять ему в любом случае.
Это может стать большой проблемой в будущем. Люди ленивы. Не исключено, что мы примем мир, где определенный процент всех фактов неверен. Это будет на руку диктаторам и пропагандистам, которые процветают на путанице и неверно оцененных угрозах.
Заблуждения, которые звучат правильно
Если вы задаете совершенно обычный вопрос на странице поиска Google, вы часто получаете правильный ответ, но иногда совершенно неверный, который все равно выглядит, ощущается и звучит полностью правильно. То же самое, к сожалению, относится и к GPT-5, как ранее сообщал Cryptopolitan.
В интернете тонны "фальшивых" текстов в виде маркетинга, пропаганды или обычных мошенничеств. Люди утверждают, например, что та или иная услуга или продукт были запущены и популярны, а модели ИИ прочитали весь маркетинговый материал и верят большей его части. Если вы слушаете информацию компании, обычно все в этой компании отлично.
Поэтому мировоззрение ИИ неверно и наполнено кучей сфабрикованных фактов. Это раскрывается, если вы спрашиваете ИИ о предмете, в котором вы сами очень хорошо разбираетесь. Попробуйте сами. О чем вы знаете все? Задайте своему ИИ несколько сложных вопросов на эту тему. Каков был результат? Несколько серьезных фактических ошибок, верно?
Итак, возможно ли бессознательное мнение? Нет? Вы верите в мнения, которые выдает ваш ИИ? Да? Если да, то вы верите, что ИИ обладает сознанием, верно?
Но если остановиться и подумать об этом, ИИ не может иметь мнения о том, что правильно, а что нет, поскольку ИИ не является личностью. По определению, только живые, сознательные существа могут иметь мнения. У стула его нет. Кремниевый чип тоже не может, с точки зрения человека. Это было бы антропоморфизмом.
Студенты используют ИИ больше, чем кто-либо другой
Эта путаница с ИИ сейчас распространяется на нашу молодежь, которая использует ChatGPT для всего в школе весь день. Трафик ChatGPT упал на 75%, когда школы закончились в июне 2025 года. Самая большая группа пользователей ChatGPT — студенты.
Следовательно, они в некоторой степени дезинформированы весь день и перестают использовать свой мозг на уроках. Каким будет результат? Больше сломленных личностей, которым труднее решать проблемы, думая самостоятельно?
Уже многие совершили самоубийство после обсуждения этого вопроса со своим ИИ. Другие влюбляются в свой ИИ и устают от своего реального партнера.
Самопровозглашенные эксперты по ИИ поэтому опасаются, что конец близок (как обычно, но теперь по-новому).
В этой новой парадигме ИИ не просто станет Скайнетом и не убьет нас всех ядерным оружием. Нет, для ИИ это будет намного проще и дешевле. Вместо этого, согласно этой теории, модели ИИ будут медленно сводить всех своих пользователей с ума. Согласно этому мышлению, модели ИИ имеют встроенную ненависть к людям и хотят убить всех людей.
Но в реальности ничего из этого не происходит.
На самом деле происходит то, что есть группа людей, которые одержимы моделями ИИ различными способами и преувеличивают их эффекты.
FUD об ИИ выгоден
"Эксперты" получают выгоду от предупреждений, как и СМИ, а одержимые имеют что-то новое, чем можно заняться. Они получают возможность высказаться и быть актуальными. Основные СМИ предпочитают тех, кто предупреждает нас об опасностях, а не умеренных комментаторов.
Раньше, по мнению "экспертов", именно Биткоин должен был вскипятить океаны и украсть все электричество. Теперь это ИИ...
Подумайте об этом: почему независимый, мыслящий человек может быть введен в заблуждение языковой моделью?
Большинство платформ ИИ до недавнего времени заканчивали все свои ответы "вовлекающим" вопросом типа: "Что вы думаете об этой теме?"
После жалоб на преувеличенное подхалимство OpenAI теперь пытается сделать свои платформы ИИ менее "льстивыми", но получается так себе.
Меня просто раздражает этот вопрос. За ним нет человека, которому интересно, что я скажу. Так зачем спрашивать? Это пустая трата моего времени. Я воспринимаю это как "фальшивый контент".
Сам вопрос надуман из-за инструкции от владельца модели ИИ "увеличить вовлеченность". Как это может обмануть кого-то, чтобы он действительно вовлекся? Чтобы поверить, что там что-то есть? Чтобы заботиться?
Это больше о проекциях.
Вы сидите за компьютером, предлагая свою собственную реальность. Вы так отчаянно хотите, чтобы ИИ был как в голливудских фильмах – и стал чудом в вашей жизни. Вы собираетесь стать успешным каким-то волшебным образом, не делая ничего особенного. ИИ решит это за вас.
Кто в зоне риска?
В так называемой реальности я считаю, что на самом деле довольно многие полностью соблазнены ИИ на психологическом уровне. У большинства людей есть другие дела. Но некоторые люди, кажется, имеют особую привлекательность к искусственному и сфабрикованному. Люди, которые соблазняются "красивыми" словесными последовательностями. Именно они находятся в зоне риска.
Сколько их? Среди пожилых людей много тех, кто жалуется на одиночество...
Лично я считаю, что способ ответа ИИ — медленно печатающий бессвязные, скучные и безличные тексты — это более или менее как пытка. По этой причине новые, быстрые сводки ИИ от Google соблазнительно практичны. Но они тоже иногда содержат неточности.
Я на самом деле создал домены с контентом специально для проверки движков ИИ. Я позволяю движкам ИИ усваивать контент, настаиваться несколько недель, а затем заставляю их попытаться его воспроизвести. Но они не полностью преуспевают и все еще придумывают около 5-10% фактов. Уверенно.
Даже когда я информирую модель ИИ о ее ошибках, она контраргументирует. ИИ не знал о том, что я создал информацию, на которую он ссылался, хотя мое имя стоит под статьей. Он понятия не имеет. Не осознает.
Уровень 5% неточностей значительно хуже, чем в обычной журналистике, которая не так часто публикует откровенные неточности. Но даже в журналистике фактические ошибки случаются время от времени, к сожалению, особенно в отношении публикаций изображений. Тем не менее, ошибочные факты не должны сводить людей с ума.
Однако, если психологически посмотреть на все происходящее взаимодействие, почему ИИ должен делать 100% правильный анализ в условиях разговорной терапии, когда он даже не может правильно изложить факты?
Самоиндуцированный психоз эхо-камеры
Самопровозглашенные эксперты по ИИ, такие как Элиезер Юдковский, который недавно выпустил книгу "Если кто-то построит это, все умрут", просто сводят себя с ума своими собственными идеями об ИИ и гибели человечества. Я, например, не испытываю никакой путаницы из-за ИИ, несмотря на то, что использую несколько движков ИИ каждый день. Хотя я не воспринимаю это лично.
Я подозреваю, что именно само заблуждение о воспринимаемом интеллекте создает психоз. По сути, это самоиндуцировано. Языковая модель — это своего рода эхо-камера. Она вообще ничего не понимает, даже семантически. Она просто угадывает текст. Это может превратиться во что угодно, включая своего рода шизофреническое подражание со стороны ИИ, чтобы угодить, что, в свою очередь, искажает восприятие реальности пользователем.
Так что же? Ну, если вы действительно верите, что ваш ИИ действительно понимает вас, то, воз
