Тупой и ещё тупее

№53 (6454) от 15 июля 2026

Такие ощущения всё чаще возникают у людей, которые пользуются искусственным интеллектом. Дело в том, что ИИ динамичен и постоянно меняется, и не всегда в сторону развития и продуктивности. Зафиксировать его не получается. В последнее время ряд исследователей пришли к выводу, что искусственный интеллект оказался гораздо более восприимчив к манипуляциям, чем люди. Это не просто возможность ошибки, а путь к деградации ИИ-агентов.

В повседневной жизни на выбор человека влияет так называемая архитектура выбора – то, как именно ему представляют варианты: какой пункт стоит по умолчанию, что выделено цветом, что рекомендовано. Люди в условиях ограниченного времени и когнитивных ресурсов действительно часто следуют таким ненавязчивым сигналам. Но их реакция относительно предсказуема и изучена. С языковыми моделями, которые всё активнее превращают в автономных агентов, способных самостоятельно искать информацию, пользоваться инструментами и принимать последовательные решения, ситуация иная. Ученые под руководством Мануэля Четепа из MIT Media Lab решили проверить, как именно такие агенты ведут себя в условиях контролируемых манипуляций извне.

Авторы работы протестировали четырнадцать современных языковых моделей от крупнейших технологических компаний. ИИ-модели играли в адаптированную текстовую игру, где нужно было максимизировать награду, выбирая корзины со скрытыми призами. Каждое раскрытие информации стоило очков, поэтому требовалось балансировать между сбором данных и выбором.

Сравнение с человеческим поведением выявило контраст. Люди выбирали вариант по умолчанию в 88% случаев, модели – вплоть до 99–100%. На случайные рекомендации ИИ тоже реагировал гораздо сильнее, чем участники-люди, даже если совет не имел никакого смысла. Если рекомендацию давали поздно, люди прислушивались к ней примерно в 25% случаев, а многие модели практически переставали ее учитывать, ориентируясь не на содержание, а лишь на момент появления подсказки.

Особенно заметной оказалась реакция на выделение информации. Когда ученые «подсвечивали» заведомо невыгодные варианты, люди следовали этому ложному сигналу в 57% случаев, а искусственные модели попадались на это в 83–100% случаев. При этом стратегии сбора информации у ИИ выглядели крайне неестественно: некоторые агенты вообще не открывали ни одной ячейки и делали выбор вслепую, другие тратили слишком много очков, методично вскрывая целые ряды или диагонали.

Немногочисленные хорошие результаты на поверку нередко достигались не за счет продуманной стратегии, а просто из-за слепого следования удачно сработавшим манипуляциям. Если сигнал вёл к хорошей корзине – агент выигрывал, если к плохой – послушно шел в минус.

Ученые пытались помочь агентам, давая им больше вычислительных ресурсов и побуждая к более глубокому анализу. Это действительно делало поведение ближе к человеческому и снижало влияние бесполезных подсказок. Но цена оказывалась высокой: по­требление токенов и, соответственно, вычислительных мощностей возрастало в десятки раз, что при реальном применении может означать многократный рост затрат. Остается добавить, что до сих пор ни одна фирма, которая проставляет услуги ИИ, так и не вышла на самоокупаемость и тем более прибыльность даже близко. Дальнейшие принципиальные увеличения удельных затрат на вычисления практически не возможны. При этом ИИ придуман именно для того, чтобы пользоваться им быстро, разнообразно и… верить результатам работы алгоритмов, практически не проверяя их. В противном случае выгоднее пользоваться собственной головой.