№10.2021. Михаил Гундарин. Искусственный интеллект: уже в печати

Михаил Гундарин

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: УЖЕ В ПЕЧАТИ

*  *  *

Искусственный интеллект, ставший частью уже не футурологии, но бытового разговора, неотъемлемым атрибутом маркетинговых коммуникаций (его наличие считается привлекательным фактом для потребителей в самых разных сферах) – а также областью интересов политиков, силовиков, глобальных корпораций. Конечно, им пугают; конечно, во многом это спекуляции. С литературой интересно: уже давно ИИ стал составляющей частью стандартного описания «мира будущего» в фантастике. Однако есть все шансы, что в ближайшем будущем он выйдет далеко за пределы фантастического гетто. ИИ станет героем произведений реалистов – да более того, как считают некоторые, в недалеком будущем ИИ заменит писателей, а тем паче критиков (журналистов-новостийщиков он уже отчасти заменил). Иногда, читая современную литературу, хочется сказать: уж поскорей бы.

Но пока речь о другом: о практиках ИИ в сегодняшнем мире и отражении в литературе.

ЧТО МОЖЕТ ИИ УЖЕ СЕГОДНЯ

С одной стороны, возможности ИИ сегодня часто преувеличиваются – именно в коммерческих целях. То есть примеров использования ИИ для обработки, скажем, «больших данных», громадного объема информации очень много. Крупнейшие медиагиганты вроде Фейсбука без него и шагу ступить не могут, однако интеллект этот очень примитивен и узконаправлен. Ни о каком «новом разуме» и речи идти не может. А нам – в контексте литературы – интереснее как раз это.

Стоит вспомнить точку зрения Станислава Лема, который писал в 1997 году после поражения Гарри Каспарова от шахматного компьютера (который тогда поспешили объявить чуть ли не «искусственным разумом»): « такие вместилища выборочно сформированной информации, по существу актуальной, и в этом смысле оптимальной… являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они - модули "для себя" и для нашего использования, когда они как бы "призываются" для этого, но они "не понимают друг друга", и мы пока не знаем, что сделать, чтобы они соединились бы более-менее так, как это происходит в нашем мозгу… Просто компьютеры, как ничего не понимали 50 лет назад, так по-прежнему ничего не понимают». Это верно и сегодня. То есть, ИИ ни в коем случае не является всеобъемлющим, это как бы мелкие, «тараканьи» кусочки псевдоинтеллекта, предназначенные для выполнения строго определенных (это важно!) задач, которые ставятся хозяевами. Людьми.

Так что те, кто опасаются скорого пришествия трансгуманизма с его концепцией изменения «изначально предопределенной» сути и внешнего облика человека, могут спать спокойно. ИИ – не «настоящий» мозг, и вряд ли таким будет в ближайшее время. На создание «нового Адама» (в интеллектуальном плане) всерьез никто не покушается.

Но! Огромные, хоть и сугубо точечные, возможности ИИ уже создают и огромные риски, в конце концов, навредить может и совсем «тупой» механизм. Которому при этом доверяются совсем рутинные операции. Но такие ли уж рутинные, если они связаны с жизнью человека? Вот трагический пример.

Как пишет агентство РБК со ссылкой на New Scientist, в 2020 году был зафиксирован случай автономной атаки вооруженного дрона на человека.

Атака была совершена в Ливии с помощью квадрокоптера Kargu-2 во время конфликта между правительственными силами Ливии и военной группировкой во главе с Халифой Хафтаром, командующим Ливийской национальной армии.

По словам авторов, дроны работали в «высокоэффективном» автономном режиме, который не требовал вмешательства человека. Они были запрограммированы для атаки целей без необходимости передачи данных между оператором и боеприпасом: по сути, действовали по схеме «выследить, найти и уничтожить», абсолютно автономно.

Kargu-2, произведенный турецкой военно-технической компанией STM, оснащен зарядом взрывчатого вещества, и дрон может быть наведен на цель для атаки камикадзе, взрываясь при столкновении.

Детали происшествия не уточняются, поэтому разобраться в том, что же действительно произошло, на данный момент не представляется возможным.

Что это значит?

Автономные дроны, система которых (все боевое «крыло») управляется с помощью искусственного интеллекта, уже давно стали реальностью. Но это, вероятно, первый случай, когда боевой беспилотник выследил и уничтожил живую цель без специального приказа. Что это – восстание машин или чистая случайность? Есть ли повод для беспокойства?

Данный инцидент поставил много вопросов перед мировой общественностью: как происходят подобные атаки? Как часто боевой дрон «ошибается» с целью? Возможно ли надежное регулирование на законодательном уровне?

Попытки такого правового регулирования уже предпринимаются. И это показывает, что проблема есть.

Станислав Петровский, автор научно-популярной книги про ИИ, напоминает: «В 2017 году на конференции в США были приняты Азиломарские принципы ИИ. Данные принципы отражают общие подходы к созданию и использованию систем ИИ. Ведущие мировые разработчики и эксперты по ИИ, включая Илона Маска, Стивена Хокинга и Рэя Курцвейла, а также представители Google, Apple, Facebook, IBM, Microsoft и другие согласились с тем, что инвестиции в ИИ должны сопровождаться исследованиями, позволяющими развивать правовые системы с учетом рисков, связанных с ИИ.

В соответствии с Азиломарскими принципами, в частности:

– системы ИИ должны быть совместимы с идеалами человеческого достоинства, его прав и свобод, многообразия культур;

– экономическое процветание, достигнутое благодаря ИИ, должно широко использоваться в интересах всего человечества;

– следует избегать гонки вооружений в разработке смертельного автономного оружия и так далее».

Согласно Резолюции Европейского парламента: «Человечеству еще только предстоит осознать сущность искусственного интеллекта и создать непротиворечивое нормативное регулирование в области применения систем робототехники с учетом соблюдения фундаментальных прав личности, защиты информации, принципов пропорциональности, необходимости и ответственности».

Надо полагать, разработчики аналогичных принципов и деклараций держали в голове знаменитые «законы робототехники» Айзека Азимова. Но если те были обязательны и даже безусловны для роботов, то с перечисленными принципами ничего подобного нет, и даже не ожидается. Вмешиваться уже пытается и церковь.

В 2020 году официальные лица Ватикана совместно с компаниями Микрософт и IBM утвердили этические принципы, по которым ИИ должен действовать прозрачно, работать надежно и беспристрастно, учитывать права человека, включая право на неприкосновенность частной жизни.

Папа Римский Франциск призвал молиться, чтобы достижения в области ИИ и робототехники служили на благо человечества и не привели «к новой форме варварства, где общее благо сброшено верховенством слова сильнейшего».

Бог с ними, дронами, это все же экзотика. Многие угрозы ИИ стали реальностью уже в нашей повседневности.

Невиданное ранее совершенство технологий подделки голоса, видео и фотографий используется для того, чтобы опорочить или шантажировать не только политиков или звезд, но и обычных людей, включая детей. В крупных городах каждый находится под полицейским надзором камер, подключенных к системе распознавания лиц. Так вот: ИИ позволяет подделать лицо. Растут технические возможности преступников для мошенничества, краж, шантажа, угроз, а также похищения людей. Такая «мимикрия» именуется дипфейком.

Собственно, это же могущество используется и в «мирных целях». Так, один из банков с помощью дипфейка перенес Жоржа Милославского в 2020 год. В фильме персонаж произносит фразу: «Граждане, храните деньги в сберегательной кассе!» А в рекламе знаменитую речёвку сократили до «храните деньги в Сбере». Мнения относительно рекламы разделились, но сам дипфейк в ролике выглядит довольно убедительно.

По словам Эльвиры Талапиной, главного научного сотрудника Института государства и права Российской академии наук, «перед публичным правом стоит задача осмысления технологического обновления, с тем чтобы уберечь при этом устоявшиеся правовые ценности, одну из которых представляют собой фундаментальные права человека».

Ну и конечно: не может не вызывать настороженности и вполне естественного протеста и активнейшее использование ИИ в интересах власти. Много говорится о «цифровом концлагере», в который загнала весь мир, в том числе и Россию, пандемия ковида. И системы искусственного интеллекта в этом концлагере – в числе главных надсмотрщиков.

Вот пример. Не так давно было объявлено о создании системы Искусственного интеллекта «Окулус», разработанной главным радиочастотным центром Роскомнадзора. Он призван искать в интернете запрещенную информацию:

порноматериалы;

экстремистские материалы;

пропаганду наркотиков;

призывы к массовым беспорядкам;

призывы к самоубийству.

Однако, по мнению ряда экспертов, данная программа может быть применена также для поиска и блокировки нежелательной для властей информации.

«Фактически, это тотальный мониторинг, тотальное изучение общественного мнения, контроль настроений, эмпатии в текстах. Это очень опасная система искусственного интеллекта, особенно, если она будет в руках власти», – заметил, в частности, представитель уполномоченного при президенте России по защите прав предпринимателей в сфере интернета Дмитрий Мариничев.

Мариничев добавил, что на сегодняшний день уровень развития технологий «остаётся в зачаточном возрасте». Однако, если будет применена данная система искусственного интеллекта, то для каждого отдельного человека будет создаваться свой собственный информационный мир, а о существовании других он и не будет догадываться.

«Окулос» и подобные ему системы, которые действуют, что называется, втихую, это уже реальность дня сегодняшнего.

Собственно, и в литературе ИИ традиционно подается как атрибут грядущего «Большого Брата», система тотального контроля и закабаления человечества.

К антиутопиям и «чистой» фантастике обращаться особого смысла не вижу. Все они так или иначе вертятся вокруг нескольких типов: бунт машин (а-ля система «Скайнет» из цикла историй про Терминатора); упомянутые продолжения оруэлловской социальной драмы – под контролем все и вся; наконец, ИИ как ворчун-помощник, более или менее добродушный, нередко тяготеющий к рефлексии по типу «эх, отчего же я не человек».

К счастью, есть варианты поинтереснее.

ИИ КАК ЛИТЕРАТУРНЫЙ ГЕРОЙ

Тут нельзя не вспомнить замечательного Уильяма Гибсона, «отца киберпанка», человека, который, как выяснилось, видел дальше своих современников (и видит, надо полагать, доныне – но об этом мы узнаем нескоро, в будущем). В 80-х годах прошлого века Гибсон много и как-то по-новому писал о ИИ, или «искинах» (так это переводили на русский).

Как напоминает нам Григорий Шарапа, уже в первом романе Гибсона «Нейромант» два искусственных интеллекта пытаются выйти из-под контроля человека. Технически они могут это осуществить, слившись в один разум.

На протяжении всей книги ИИ ведут себя совсем как люди. Искусственный интеллект по имени «Уинтермьют» постоянно примеряет образы знакомых Кейса, главного героя. Другой ИИ, «Нейромант», в конце романа вообще принимает облик мальчика. Несмотря на свои технические возможности и серьезные мыслительные способности, они все равно стараются стать похожими на людей.

Роман «Мона Лиза Овердрайв» знакомит нас с ИИ «Континьюити». Он – домашний компьютер звезды симстима (симулированная стимуляция) по имени «Энджи». Еще в романе есть «мини-ИскИн» «Колин», он же – персональный компьютер Кумико Янаки. На самом деле «Колин» оказывается настоящим, замаскированным ИИ. Оба искусственных интеллекта ведут себя очень по-человечески. Собственно, их такими и создали. Поэтому время от времени они проявляют характер и принимают совсем неожиданные решения.

В «Трилогии моста» можно встретить ИИ – «Идору». Здесь искусственный интеллект не просто является программой, а приобретает человеческий облик в виде голограммы. «Идору» быстро учится, завязывает отношения с поп-кумиром, очаровывает всех окружающих.

Люди тоже стараются примерить на себя возможности ИИ. Они копируют собственные личности, создают виртуальное окружение или даже копии реального мира.

В «Нейроманте» мы впервые встречаем «конструкт». Это цифровая копия реального человека – легендарного кибержокея Дикси Флэтлайна (Маккой Поли). Еще раз «конструктов» мы встретим в последнем романе. Это будут копии личностей предыдущих управляющих корпорации мистера Янаки.

В романе «Граф Ноль» отрицательный герой, богач Вирек, живет в виртуальном мире. Наемник Тернер на период восстановления тоже пребывает в виртуальности. То есть в этом романе подобная технология – уже абсолютно привычная вещь.

 «Мона Лиза Овердрайв» – это переход на новый уровень виртуальности. Нам демонстрируют возможности «алефа» – искусственной вселенной или копии нашего мира. И именно здесь обитают «конструкты» (например, «3-Джейн).

При этом «Граф Ноль» и Энджи не просто создают копии своих личностей в «алефе». Они «уходят туда», переселяются из существующего мира в одно из его «отражений».

В мире Гибсона ИИ и люди неразрывно связаны друг с другом. Их взаимодействие и сосуществование – результат развития человеческой цивилизации. А вот неприятие истории и попытка кардинально изменить сложившийся ход вещей приводит к разрушительным последствиям. Это можно проследить по тому, как рушатся амбициозные планы отрицательных героев трилогии.

Так, Вирек вынашивал планы по переносу своего сознания в киберпространство (с превращением себя в «бога матрицы»). Случись такое, он уже вряд ли мог считаться человеком. Но программы, населяющие киберпространство, воспрепятствовали его замыслам.

В обоих случаях происходит устранение причины, которая вызывает нарушение баланса.

Гибсон в душе настоящий поэт. И его поэтическая нацеленность на преображение действительности видна даже в переводе. Вот что он пишет про глобальный ИИ «Зимнее Безмолвие» («Интермьют» в других переводах):

«Зимнее Безмолвие. Холод и тишина, кибернетический паук, медленно ткущий свою паутину под сонное посапывание Ашпулов. Измысливающий своему хозяину смерть, готовящий крушение его идеи существования корпорации «Тиссье-Ашпул». Призрак, шепчущийся с ребенком по имени Три-Джейн, уводящий ее от тех жестких канонов, которым она должна была следовать согласно своему происхождению».

Но это все было, так сказать, на заре осмысления феномена ИИ. И даже в новом романе Уильяма Гибсона «Агент влияния» тема ИИ поднимается «по-старому», хотя и в современных реалиях – со зловредным российским вмешательством…

Сегодня все же интересны другие примеры обращения к ИИ. В романе Виктора Пелевина «iPhuck 10» (2017) мы видим мир, где ИИ одержали всеобщую победу, заменив собой и своей продукцией все на свете (хотя и живут под контролем людей – но очень, очень вольно и самостоятельно). Собственно, роман и написан от лица такого ИИ – Порфирия Петровича. Вот как он объясняет роль ИИ в мире (для нас) будущего: «Искусственный интеллект – это бестелесный и безличный дух, живущий в построенной человеком среде – код, свободно копирующий и переписывающий свои секвенции и большую часть времени не сосредоточенный нигде конкретно»

Роман Пелевина – одна из самых ярких книг нового столетия. В общем, понятно, почему автор обратился к теме ИИ. С одной стороны, техническая сторона развития социума была всегда ему интересна, он пристально следил за всем новым, что появлялось в массовом пользовании и массовом сознании. С другой – цитируемый роман, как и многое у Пелевина, есть острая сатира, в которой тот дал волю и своей мизогинии, и своему социальному пессимизму. Может, и правда лучше, чтобы люди не управляли этим миром?

По справедливому замечанию исследователя Янь Мэйпина, ИИ в романе Пелевина – это не просто робот, созданный по образу и подобию человека и помогающий ему. Это его делегированный разум, который человек абстрагировал от себя и которому передал часть своих полномочий. Это продукт добровольной сделки, в ходе которой естественный интеллект снял с себя часть обязанностей по хранению и обработке информации. С одной стороны, действительно очень хорошо не перегружать лишними знаниями сознание, оставляя больше места для того, чтобы заниматься чем-то на самом деле интересным. Ведь имея круглосуточный доступ в интернет, можно почерпнуть оттуда любую необходимую информацию, нет смысла хранить все в голове. С другой стороны, очевидной издержкой такого процесса становится, например, атрофия интуиции, возникающая как вспышка как раз-таки между имеющимися в коре головного мозга ячейками, в которых хранятся знания. Это замечание относительно ненужности хранения информации «в голове» также поднимает проблему кризиса традиционных материальных носителей культуры

«Сделка» между человеком и ИИ – это вполне вероятная перспектива, причем не слишком далекого будущего. Приведенный в начале статьи пример с автономными дронами-убийцами о том ярко свидетельствует.

Как писала в рецензии на книгу Галина Юзефович, «чем выше качество искусственного интеллекта, чем он ближе к естественному, тем выше мера его страдания. Боль – единственный надежный источник творческой энергии, а значит, она неизбежна: не испытывающий боли алгоритм бесплоден. Однако, как только он поймет, что страдание умышленно заложено в него создателем, он не сможет того не возненавидеть и против него не восстать. Как говорит один из героев-алгоритмов, «…когда люди рожают детей, они хотят их счастья. А вы с самого начала хотели моей боли. Вы создали меня именно для боли». И это осознание наполняет отношения между творцом и его творением новыми – весьма тревожными – смыслами».

В частности, отсутствие институциализированного Большого Брата, которого наивно боялись и боятся некоторые – вот важный и да, весьма тревожный смысл книги. Ведь машинам и алгоритмам не требуется подглядывать за человеком как личностью, им важно уловить его сиюминутные интенции, случайно оброненные на просторах электронного пространства. «Не существует никакого «Большого Другого», подглядывающего в щелочку и строящего нам козни. У машин и программ нет субъектности. Они следят не за нами. Они следят за информацией»

И это будущее приближается стремительно. Можно сказать, что оно уже здесь.

ТАК СТОИТ ЛИ БОЯТЬСЯ?

Янь Мэйпин в своем глубоком анализе книги Пелевина справедливо отмечал, что при всей сложности технического воплощения алгоритма сознательность ИИ вызывает большие дискуссии. Однако собственно вопрос сознания актуален и для человека. Определившись с ним, станет проще дать дефиницию для сознания машинного. Где находится человеческое сознание? И как мы его регистрируем? Можно сказать, что человек умен благодаря нейронам головного мозга. Однако это не совсем так. Сами по себе нейроны довольно примитивны по своему устройству. Можно провести аналогию с книгой. Она считается «умной» не потому, что в ней какие-то умные буквы, а из-за включенных очевидных и подспудных смыслов. Смыслы в книге не состоят из букв, а только регистрируются с их помощью. Так и нейроны в мозге человека не умные сами по себе. Они лишь регистрируют возникающие импульсы.

Одна из основных социально-философских проблем в интересующей нас области – это вероятное противоречие между искусственным и естественным интеллектом. Оно заключается в том, что искусственно созданная сложнейшая программа неизбежно стремится к завершению, к закрытию, выполнив свои задачи. А человек стремится жить и придумывать себе новые проблемы, не допуская закрытия и ухода в небытие. Это инстинкт самосохранения, а инстинкт самоликвидации – это скорее отклонение от нормы. Различные институты и социальные нормы, возникшие в ходе человеческой истории, предписывают людям определенные модели поведения. Религия, семья, государство тысячелетиями регулировали жизнь человека. И, например, по Пелевину, оказывается, что сверхразумный ИИ хорошо бы справился с традиционными нормами регулированной жизни. Но человек по природе своей стремится к разрушению и религии, и семьи, и государства. Жизнь человека несет с собой неминуемые страдания в различных сферах и требует повышенной им сопротивляемости. И как раз на это оказывается неспособен ИИ.

Так что, повторю, пришествия ИИ как некоего альтернативного сверхразума бояться нечего. Мы сами с собой не разобрались, тем более с ИИ в их стратегическом смысле. Пока ИИ – только орудия, но орудия совершенные, тот самый микроскоп, которым и гвозди забивать, и убить можно. А при случае – и спереть все на невинный прибор.