[Перевод] Искусственный интеллект не становится умнее. Мы становимся глупее

В основе этого материала лежит вопрос о природе коммуникации. В чем суть природы общения между людьми, как не передача ценного опта, мнения или обсуждения идеи? Общий интерес и мотив как к познанию другого человека, таки попытка донести свою мысль. Параллельно с этим общение можно рассмотреть, как акт развлечения. И отсюда вопрос: если искусственный интеллект возьмет на себя управление нашим общением, значит ли это, что мы разучимся доносить свои смыслы? Или внезапно обнаружим, что в разуме конкретного человека или нас самих никогда и не было того, что можно назвать «смыслом»?

Этот материал – перевод статьи Ричарда Хариди, журналиста, чей интерес лежит в области как культуры психоделиков, так и искусственного интеллекта. Перевод адаптивный, с моими комментариями и виденьем этого вопроса. Так как наши интересы достаточно близки.

Коммуникация и ценность информации

Я не уверен, сколько времени вам понадобится, чтобы прочитать эту статью. Возможно, вы пробежите её глазами за несколько минут. А может, вы потратите минут 15, старательно вычитывая предложения и останавливаясь, чтобы «прокачать мышление». В любом случае, я уверен, что сколько бы времени вы ни потратили на чтение, это время будет в разы меньше, чем затраченное мною на её написание. И это хорошо, ведь именно так работает текстовая коммуникация.

Формула проста: время, необходимое человеку для усвоения информации, должно быть пропорционально меньше времени, затраченного на создание этого контента.

Чтение текста никогда не должно занимать у одного человека больше времени и сил, чем у другого человека, затраченное на написание текста. То есть, время, необходимое для создания полезного контента, должно быть больше, и больше в разы, чем время, необходимое для прочтения текста на другой стороне.

Эта формула и делает общение ценным. А также объясняет ненависть к голосовым сообщениям.

Когда коммуникация становится моментальной

Из примера выше мы понимаем, что на написание стандартной научно-популярной книги может уйти год или два. Включая сотни часов работы над текстом и исследованиями. А чтобы прочитать такую ​​книгу, потребуется от 10 до 15 часов. Само собой, если читать медленнее или обдумывать содержание, то времени уйдет еще больше.

На другом конце спектра будет чат мессенджера. Вы набираете сообщение за пять минут, а собеседник читает его менее чем за минуту. Более того, соотношение может меняться, в зависимости от важности диалога и уточняемых моментов.

В самом лаконичном варианте электронное письмо может быть написано так же быстро, как и сказанная фраза. «Да, давайте на пятницу, созвон на 17:00». На чтение уходит почти столько же времени, сколько на написание и отправку. Возможно, вы даже используете программу преобразования речи в текст, пока диктуете письмо.

Здесь мы предельно близки к равновесию с точки зрения времени, затраченного участниками на коммуникацию. Но эта близость обратно коррелирует с общей ценностью информации. Другими словами, информация временна, незначительна и малополезна в широком смысле. А также становится почвой для роста разного рода когнитивных мутаций.

Ложные ценности и инфляция коммуникации

Главный недостаток нашего времени – вера в приоритет эффективности. И, более того, вера в мантру: используйте своё время с умом. Не тратьте время впустую. Доводите дело до конца. Сколько дел вы успели сделать за день? Скука демонизируется, но это лишь еще одна крайность.

В капиталистическом мире, где рост и производительность стали идолом корпораций, эффективность получила первостепенное значение. Чем больше человек может делать, тем лучше. Этот же мотив создал условия, в которых упрощается сама погоня за эффективностью. Коммуникация настолько обесценивается, что создание контента становится важнее, чем содержание этого контента.

Современные системы LLM/AI провели нас через Рубикон. Каждый человек способен генерировать огромные объемы контента мгновенно. Те же отчеты, на чтение которых получателю требуется пять или десять минут, создаются отправителем за считанные секунды. Возможно, кто-то и вычитывает сгенерированный текст перед отправкой. Но, скорее всего, если человек уже использует нейросеть, то и не видит смысла предпринимать более осознанные действия.

Обратный момент. Получатель понимает, что контент сгенерирован. Он же создает автоматизированную систему для обобщения писем. В конце концов, эффективность важна для обеих сторон, а сообщений слишком много, чтобы тратить время на их прочтение.

Актуальная проблема коммуникации

Какой контент теперь можно и стоит читать, выделяя на него время и силы, когда можно мгновенно получить краткое изложение в виде тезисов? Что теперь стоит писать, зная, что какая-нибудь система искусственного интеллекта, скорее всего, скопирует весь текст и превратит его в однострочное резюме?

Огромные переводы с докторами нейробиологии, разборы идей и концепций, предлагаю вашему вниманию в отдельном разделе. Для тех, кто любит серьезные тексты.

Граница между мыслями, смыслами и упрощением

Возможно, вы используете ИИ, чтобы привести мысли в порядок. Превратить мешанину идей в голове в связные, понятные абзацы. В защиту этого подхода можно привести аргумент, дескать: всё в порядке, потому что я отслеживаю результаты и часто редактирую то, что получается на выходе. В итоге, получаю именно то, что хотел выразить, но в форме и стиле, которые превосходят мои способности к коммуникации.

Вопрос теперь в другом. Насколько идеи, изложенные с помощью ИИ, отражают истинную природу ваших мыслей? И что будет, если мы масштабируем этот процесс? Удалим из общения новизну и индивидуальность, превратим каждое наше взаимодействие в однородное, роботизированное общение?

Тогда каждое поздравление с днем ​​рождения станет подобным печатной открытке. Каждая речь на похоронах превратится в банальное послание. Каждое электронное письмо будет следовать шаблону автоматического ответа, предложенного браузером.

Если мы будем достаточно долго следовать шаблонам, то в конечном счете начнем испытывать сложности с тем, как именно доносить свои мысли людям. А разум начнет мыслить в терминах заданий для LLM. Все, что мне нужно, это накидать ощущения, а система заполнит пробелы и придаст им форму.

Есть и другой вариант. Признать, что бюрократическая коммуникация бессмысленна. Что «форма отчетности» или «оформление репортов» – не более, чем побочный продукт работы. Но, как показывает практика, чем больше возможностей появляется у человека, тем больше растет нагрузка по бюрократическим процедурам.

Превосходство искусственного интеллекта

И когда наши внутренние мысли начинают напоминать результаты работы LLM, рождается осознание, насколько умным стал компьютер. Ого, думаем мы. Значит ли это, что ИИ наконец-то обрел сознание? Это сингулярность? Это должно быть и есть искусственный человекоподобный интеллект! Ведь компьютер думает точно так же, как я.

Но это не так. Мы не превратили ИИ во что-то уникальное. Технология не развилась до уровня сверхинтеллектуального существа. Вместо этого она демонстрирует нам, наш же уровень бездумных, механических организмов.

Наш жизнь строится на повторяющихся машинных моделях поведения. Мы настолько глупы, что машины выглядят умными на нашем фоне.

Поиск смысла и превосходство над машинными действиями

Что с этим делать? Ответ в самом начале статьи. Коммуникация между людьми зародилась из попытки донести смысл, который ощутил сам. Или для передачи более ценных смыслов. Или для создания осмысленной деятельности. Пустые разговоры, коммуникация ради коммуникации, видимость важной информации – вот, что убивает сознание.

Новости, сплетни, мнения, тренды – бессмысленны с точки зрения времени. Но чем больше они находятся в зоне нашего внимания, тем меньше мы переживаем про отсутствие смысла в жизни. Нечто подобное мы ощущаем от кофе, который блокирует рецепторы аденозина «выключая чувство усталости». Но мы не ощущаем это как «снижение усталости», а воспринимаем через прилив сил.

Поэтому, если какие-либо ваши действия продиктованы «машинным подходом» или ориентиром на «шаблон» – это повод задуматься над их истинной значимостью. Минимализм и осознанное потребление подарили нам подход, в котором «накопительство» перестает быть маркером «значимости ценности». Так может пора использовать этот же подход относительно того, чем заполняется наше мышление?

Больше материалов про мозг, психику, сознание и как подбирать к ним ключи – вы найдете в сообществе Neural Hack. Подписывайтесь, чтобы не пропустить свежие статьи!