Вести с Марса

№08 (6312) от 05 февраля 2025

Одной из самых обсуждаемых тем на днях стало изображение фундамента недостроя на Марсе, снятое с орбиты оного. На фото видно прямоугольное основание какого-то объекта. Сложно сказать, какого оно размера, но явно большое. То ли стройку бросили почти сразу, то ли это руины некогда процветавшей цивилизации, то ли подделка. На публикацию уже отреагировал Илон Маск, заявив, что он немедленно отправит на Марс исследовательскую экспедицию именно в этот район, как только будет готова ракета для этого. Но чтобы исследовать само явление, оказалось достаточным просто поискать ответы на вопросы во всемирной сети или же просто подождать, пока это сделают другие. В результате выяснилось, что такой объект действительно существует, но он не прямоугольный, а просто представляет из себя плоский холм, характерный для пылевого климата Марса. А все остальное – результат творчества нейросети, которая обработала изначальную фотографию настолько искусно, что даже эксперты не смогли найти при осмотре признаков подделки.

В связи с этим возникает вопрос: насколько нам вообще полезны нейросети? Понятно, что это новый технологический этап, но водородная бомба тоже является продуктом прогресса и плодом творения образованных людей. Тем не менее хранится она на секретных объектах под охраной элитных воинских частей. А вот искусственный интеллект доступен каждому. Его активно предлагают скачать на смартфон всем, у кого есть такое устройство. Я сам за утро получил пять подобных предложений рекламного характера. Не получится ли так, что очередной виток развития цифрового мира приведёт к тому, что «красная кнопка» будет лежать в кармане у каждого человека? И кто-то когда-то додумается нажать её особенно одарённым образом.

Сейчас идёт стремительное наступление на приватность. Уже презентовали нейросеть, которая способна распознать место съёмки любой фотографии, просто сопоставляя объекты с огромной международной базой данных. Дипфейками, то есть возможностью поменять свою внешность на лицо другого реально существующего человека, так чтобы никто не заподозрил подмены, сейчас никого не удивишь. Подделать голос тоже можно двумя нажатиями кнопки. Подростки уже устали от использования таких возможностей, им хочется других цифровых игрушек, и они на подходе. Каким станет мир, как только цифровые нововведения перевалят за критическую отметку? Этого не скажет даже самый радикальный футуролог. А ведь здесь важен и юридический аспект. Мало кто знает, но все права на продукцию искусственного интеллекта принадлежат той корпорации, которая поддерживает его работу. Кто все эти люди? Что они будут делать со сгенерированными изображениями и музыкой? Судя по тому, сколько денег вкладывается в ИИ, у них есть план, но его никто не видел.

В связи с этим просится инициатива: ввести новую практику, а именно игры в песочнице, но уже для взрослых программистов. Термин «песочница» возник ещё на заре эры программирования и обозначает такой режим работы программы, когда она полностью проявляет себя, но ещё никому не может навредить. А вдруг в ней есть какой-то вирус? С этой целью программу для проверки запускали в ограниченной виртуальной среде, за пределы которой она не могла вырваться сама. Такую среду и стали называть «песочницей». Может, все нейросети и вообще программные разработки следует проверять подобным образом, причём исследования должны быть прозрачными и независимыми, точно такими же, как тестирование лекарств?

В противном случае ИИ рано или поздно может начать действовать нештатным образом. Он не захватит мир, как в фантастических фильмах, но очень многое поломает, поскольку почти все технологические процессы заведены на цифровую основу. И тогда обломки нашей цивилизации поглотят пески времени, подобные марсианским…

А знаете что самое настораживающее в этой истории с Марсом? Фотографию подделали нейросетью пару лет назад. И об этом случае все успели забыть настолько крепко, что весь мир разбирался с фейком аж несколько дней. С тех пор ИИ «подрос и возмужал», а люди разучились помнить даже очень яркие публикации из недавнего прошлого.