Ещё одна опасность ИИ

№40 (6344) от 04 июня 2025

На днях по мировым лентам прошла очередная новость о достижениях науки, но это не про ученых, а про искусственный интеллект.

Ученые из Центра геномного регулирования в Испании совершили прорыв в биологии: искусственный интеллект создал молекулы ДНК, которые впервые успешно управляют генами в здоровых клетках млекопитающих. ИИ разработал искусственные фрагменты ДНК, которые могут включать или выключать гены в нужных клетках, например, заставлять стволовые клетки превращаться в клетки крови. Это как программирование для живых организмов. Теперь, к примеру, ИИ может создать энхансер, который включит ген, превращающий стволовые клетки в эритроциты, но не в тромбоциты.

Ученые синтезировали эти фрагменты химически и с помощью вируса доставили их в клетки крови мышей. В экспериментах ДНК интегрировалась в геном клеток в случайных местах. ИИ спроектировал энхансеры, которые активировали ген, кодирующий флуоресцентный белок, чтобы ученые могли видеть, работает ли система. Результаты были точными: гены включались в нужных клетках, не затрагивая другие.

То ли ещё будет, но вопрос, как? Биологические исследования очень важны, однако они могут привести буквально к любому результату. Можно создать новое лекарство от ранее неизлечимых болезней, а можно и новый вирус, который уничтожит человечество. Кстати, в Китае сейчас наблюдается распространение четвертой волны ковида, который ранее официально был признан творением ученых.

Если раньше все сколь-нибудь серьезные исследования проводились по крупным грантам в крупных исследовательских центрах, в первую очередь, международных, и всё было относительно прозрачно и контролируемо, можно было вовремя заметить нездоровые тенденции в направлениях разработок, то теперь всё немного изменилось. Искусственный интеллект, доступный каждому человеку, у которого есть даже не компьютер, а просто смартфон, подключенный к интернету, позволяет заниматься какими угодно глубокими исследованиями в малых и даже подпольных лабораториях. Больше не нужны большие команды аналитиков и серьезное финансирование. Даже на очень сложные, но принципиально вычислимые вопросы будет получен ответ от ИИ. И вот уже просматривается перспектива создания, к примеру, новых форм жизни с неясным назначением и характеристиками в студенческих лабораториях стран третьего мира.

Но наука благодаря искусственному интеллекту может шагнуть ещё дальше. Пока ученые официально не знают, как произвести термоядерный взрыв без запала из небольшой ядерной бомбы. Она сложна в производстве, требует редких материалов, а потому в целом такие устройства в мире наперечёт и производятся всего в нескольких защищенных местах. Но что если нагрузить ИИ сложной задачкой из квантовой электродинамики и попросить соединить два ядра дейтерия просто так? Нечеловеческий интеллект может справиться с этой задачкой и выдать инструкцию к апокалипсису?

Не отстают и более банальные угрозы, вроде возможностей автоматизированных хакерских атак или экономических, финансовых диверсий по всему миру. Ответ на вопрос, как это сделать, триста выдающихся деятелей науки могли искать и найти в течение 10 лет. Сейчас ИИ, как показывает пример решения сложнейших молекулярных задач, способен выдавать ответы высокой сложности обработки всего за полчаса. И это все для любого случайного частного вопрошателя, который может остаться анонимом.

Есть над чем задуматься, особенно с учетом того, что ИИ пока никак не контролируется законодательством. Эксперты по такому интеллекту могут только пояснить, что все интеллектуальные результаты работы нейросетей мгновенно присваиваются, архивируются и используются любым образом владельцами этих сетей. Но от этой информации спокойнее не становится.