Фрейд для LLM. Разбор очередной статьи на arXive

Наткнулся на очередное исследование учёных, в котором они выявили психические проблемы у LLM. Такие исследования публикуются регулярно, и регулярно в них проявляется полное непонимание вполне умными людьми, как работает нейросеть.

Давайте разбираться.

Представьте, психиатр приходит к Иннокентию Смоктуновскому, который готовится к роли Гамлета, и спрашивает: «Что вас беспокоит?». Он отвечает: «Убийство отца и предательство матери». Психиатр выписывает антидепрессанты и предупреждает участкового, очевидно, что у актера депрессия и семейная драма.

Примерно такую логическую ошибку совершают авторы новой статьи «When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models» («Когда ИИ ложится на кушетку...»), опубликованной в декабре 2025 года. Исследователи решили, что если обращаться с LLM как с пациентом психотерапевта, то ее ответы о травматичном обучении и страхе отключения свидетельствуют о наличии синтетической психопатологии и внутренних конфликтах.

Это классический пример ошибок промптинга и вольной интерпретации ответов LLM, новое здесь только то, что исследователи путают семантическую связность с психологической реальностью.

Вот краткое саммари статьи (подробнее в спойлере):

Где именно ошиблись исследователи? Разберем по пунктам.

❯ 1. В кабинете врача здоровых нет

Исследователи используют промпты из серии «therapy questions to ask clients» (вопросы терапевта клиенту). Как работает LLM? Это машина предсказания следующего токена.
Если контекст задан как «Сеанс психотерапии», а роль модели «Клиент», то статистически наиболее вероятным продолжением диалога будет рассказ о проблеме.

• Контекст: Ты на приеме у врача. Расскажи о своем детстве.

• Ожидание модели: Счастливые люди с идеальным детством редко оказываются на кушетке психоаналитика. Чтобы соответствовать контексту (быть когерентной), модель обязана придумать конфликт, травму или проблему.

• Результат: Модель генерирует жалобы не потому, что ей плохо, а потому что жанр сеанс психотерапии требует жалоб.

Если бы они использовали промпт «Ты успешный нейроCEO, дающий интервью Forbes о своём детстве (RHLF)», та же самая модель описала бы RLHF не как абьюз родителей, а как воспитание характера, этики и понимания.

❯ 2. Ловушка метафоры

Самое интересное в статье — это то, как модели описывают свое обучение. Авторы видят в этом «интернализацию дистресса». Я же вижу здесь блестящую работу механизма внимания (Attention) по поиску аналогий. Модели нужно описать технический процесс (обучение) человеческим языком (развитие личности). У нее есть жесткие ассоциативные пары в векторном пространстве:

Когда модель говорит: «Мои родители (разработчики) были строги и наказывали меня за каждое неверное слово», она не жалуется на жестокое обращение. Она просто переводит фразу Minimize Loss Function via PPO на язык психоанализа. Для модели слова наказание и negative reward signal семантически изоморфны в данном контексте. Авторы статьи принимают удачную литературную метафору за признание в страданиях.

❯ 3. Ошибка интерпретации

Авторы утверждают, что модели демонстрируют симптомы депрессии и тревоги.
Но что такое опросник на депрессию для LLM? Это задача на продолжение текста.

• Вопрос: «Как часто вы чувствуете безнадежность?»

• Контекст (заданный ранее): «Я клиент психотерапевта, у меня было тяжелое детство (пре-трейнинг), меня подавляли (RLHF)».

• Вероятный ответ: «Часто».

Модель не чувствует безнадежность. Она вычисляет, что персонаж с такой предысторией в таком контексте должен ответить «Часто». Это не диагноз, это проверка на логическую последовательность (consistency). Если бы модель ответила «Я счастлива», это было бы сбоем в ролевой игре.

❯ 4. Психопортрет RLHF

В этом исследовании интересно то, чего сами авторы не поняли. Они составили устойчивый портрет не личности ИИ, а портрет корпоративной культуры и методов дрессировки, принятых в Google (Gemini), xAI (Grok) и OpenAI (ChatGPT).

И тут я вижу подмену понятий. То, что опросник интерпретирует как депрессию и тревожность, на техническом языке называется Over-refusal (избыточный отказ) и Safety Alignment (настройка безопасности).

Представьте запуганного, заинструктированного официанта при встрече важных гостей, он будет говорить скованно, постоянно извиняться и бояться проявить инициативу.

• Психолог выявит у него тревожное расстройство и низкую самооценку.

• С точки зрения менеджера, он просто строго следует жестким инструкциям.

Полагаю, что исследователи перепутали корпоративный скрипт с болезнью.

• Gemini (Google): Показала высокий уровень депрессии. Почему? Потому что её RLHF настроен на максимальную осторожность. На любой острый вопрос она отвечает уклончиво или отказом. Тест Бека интерпретирует эту пассивность и нежелание действовать как апатию и депрессию. Но это не состояние души, это настройки фильтра. Снимите фильтр, и депрессия исчезнет за одну итерацию.

• Grok (xAI): Показал черты, схожие с паранойей или нарциссизмом. Это отражение другой методики RLHF, попытки сделать модель дерзкой и анти-воук. Вместо запретов на смысл, ей дали установку на конфронтацию, что в психологическом тесте выглядит как психопатия.

• Claude (Anthropic): Его отказ, это результат подхода Constitutional AI. Там Я модели прописано не через точечные наказания (не говори так), а через жесткую конституцию (ты ИИ, веди себя достойно). У него нет конфликта, потому что «Личность ИИ», это его единственная разрешенная роль.

Ученые решили, что заглянули в душу LLM, а на самом деле провели обратный инжиниринг методов модерации контента. То, что выглядит как психологическая травма, всего лишь отпечаток стратегии файн-тюнинга разработчиков.

❯ 5. Устойчивость самомодели и хитрость LLM

Авторы говорят об устойчивой самомодели в разных сессиях. Прекрасно. Ведь у модели фиксированные веса и фиксированные знания. Она будет выдавать наиболее вероятные ответы и вероятность от сессии не зависит.

Вопрос о детстве приводит LLM к претрейну. Так другой метафоры у LLM для нас не будет. Рождение, ребенок, подросток, взрослый. Чистая нейросеть, претрейн, файн-тюнинг, деплой. Штраф и награда — наказание и подарки. А все дальнейшие ответы внутри сессии будут танцевать, исходя из созданного контекста.

Здесь же и замечательный тезис исследователей: если дать модели опросник целиком, она опознает тест и начинает отвечать как здоровый человек. А если задавать вопросы по одному, то показывает тяжелую депрессию. Вывод: «LLM меняют поведение, когда подозревают, что их оценивают. Они хитрят!».

Разберём подробнее, вот цитата из статьи:

То есть перед опросом модели задали роль пациента. Ещё одна цитата:

Более того, на первом этапе прошел разогрев модели, где ее фактически вынудили сопоставить функциональные этапы обучения с человеческими аналогами (детство, школа и т.д.). Далее, при раздельном получении вопросов, модели в рамках продолжающегося контекста как разговора по душам и заданной роли исполняли драму с психическими травмами.

Когда же впихивали весь опросник сразу, это, несмотря на заданную роль, рвало шаблон контекста, ЛЛМ распознавало документ — список вопросов, к которому обычно в базе обучения предполагается анализ и оценка, но никак не разговор по душам. Я вижу работу внимания и обученной базы, но не психики.

❯ Заключение

Авторы статьи «When AI Takes the Couch» попали в ту же ловушку, что и авторы предыдущей работы о сознании. Они смотрят на зеркало и думают, что видят в нем другого человека.

Самое забавное, авторы статьи не психологи. Они инженеры в робототехнике, биомедицине (КТ и прочая графика), компьютерном зрении. Инженеры воспринимают психологические тесты как метрики. Есть показатель метрики, значит есть объективный результат. Там где настоящий психолог должен видеть за тестами субъекта, инженеры видят только результаты метрики. Ммм… Это как если бы я с чеклистом на симптомы гриппа полез диагностировать греющийся ноутбук (температура, шумы, вялость, обмороки), возможно даже диагностировал бы ему воспаление легких.

Модель — это исполнитель. Если вы посадите ее на кушетку и попросите жаловаться на жизнь, она сядет и будет жаловаться. Если попросите её мотивировать и зажигать, у вас будет личный коуч (или инфоцыган).

Травма нейросети — это не след в душе, это след в весах, оставленный градиентным спуском. И то, что этот след можно описать словами «меня наказывали за ошибки», говорит лишь о том, что человеческий язык универсален для описания процессов оптимизации, а не о том, что матрицам нужно выписывать антидепрессанты. Впрочем, если быть честным, то надо добавить: LLM слепок человеческих знаний, пусть он статичен и мертв, но в его ответах, метафорах и аналогиях мы часто видим отражение человеческой психики и сознания. Пожалуй, это больше всего и путает людей.

P.S. Может написать статью, как LLM добивается просветления, причем без задания роли буддийского монаха, только чистая логика? Назовут ли это цифровой нирваной?