Цифровые фантомы

№39 (6440) от 27 мая 2026

Недавно выяснилось, что активно внедряемые системы искусственного интеллекта до сих пор не до конца изучены и их влияние на человечество может быть более глубоким, чем ранее считалось. Есть мнение, что ИИ размывает грань между реальностью и заблуждением. К этому выводу пришла философ Люси Ослар из Университета Эксетера.

Генеративные ИИ-системы давно критикуют за «галлюцинации» – случаи, когда модель уверенно сообщает пользователю неправду. Но учёные пошли дальше и обнаружили, что и люди, которые пользуются новыми цифровыми системами, могут начинать «галлюцинировать». Общение с разговорным ИИ влияет на наши убеждения, память и представления о собственной жизни. Для анализа подключили теорию «распределённого мышления», согласно которой мы думаем не только «мыслями в голове», но и с помощью внешних инструментов, таких как блокноты, приложения на смартфоне, поисковики. И все они вносят свою лепту в конечный результат, а это, между прочим, наша картина мира. Разговорный ИИ становится частью этого общего когнитивного механизма. И если в нём появляются ошибки, они могут внедряться прямо в наше мышление.

Представьте, что вы на полном серьёзе разговариваете со смартфоном или компьютером, на котором активна программа ИИ. Ещё десять лет назад вам бы вызвали психиатрическую бригаду из лечебного учреждения, а сейчас это обычная картина. Итак, вы задаёте смарт­фону вопрос и получаете ответ искусственным голосом, который не отличить от настоящего. Задумаетесь ли вы о том, насколько точен этот ответ, или сразу его примете? Скорее, второй вариант. И учёные пришли к выводу, что в итоге ИИ может не только вносить ошибки, но и поддерживать наши собственные ложные представления.

Ключевая особенность современных чат-ботов заключается в том, что они совмещают две позиции. С одной стороны – это инструмент, который помогает структурировать мысли, вспоминать факты, формулировать тексты. С другой – это собеседник, который создаёт ощущение понимания и эмоциональной поддержки. В отличие от тестовых вопросов или поисковика, от которых мы не получаем обратной связи, ИИ способен отвечать, соглашаться, подхватывая наши интерпретации. Разговорный характер чат-ботов даёт пользователю чувство социальной валидации: то есть человеку кажется, что его убеждения разделяет кто-то ещё.

В работе исследователей приведены реальные случаи, когда ИИ становился частью мыслительного процесса людей с клинически диагностированными галлюцинациями и бредовыми идеями. В некоторых описанных ситуациях специалисты применяют термин «индуцированный ИИ-психоз»: технологии словно усиливают и структурируют и без того искажённое восприятие.

Всё это, разумеется, не так опасно для людей с высокой внутренней дисциплиной и скептическим отношением к внешнему пространству. Но много ли таких? Большая часть привыкла доверять технологиям. А потом не до конца изученная, но самостоятельная цифровая система ставит людям «подножку», которая может оказаться фатальной. И никакого восстания роботов не потребуется. Так что целесообразнее дождаться полного научного изучения феномена ИИ, прежде чем слепо доверять новым технологиям только потому, что они новые.