Новые инструменты искусственного интеллекта типа ChatGPT таят в себе опасности – для общества, демократии и даже личной жизни. Всемирно известный израильский историк, автор бестселлеров о развитии человечества профессор Юваль Ноах Харари называет новые опасности и призывает принять новые законы.

Страх перед искусственным интеллектом (ИИ) преследует человечество с начала информационной эры, с тех пор как в результате цифровой революции 1980-х годов компьютерные системы прочно вошли в нашу жизнь. До этого наши страхи концентрировались на возможностях разумных машин использовать физические устройства, чтобы убивать, подчинять или заменять людей. Однако появившиеся в последние годы инструменты искусственного интеллекта ставят под угрозу выживание человеческой цивилизации – с совершенно неожиданной стороны. Такие инструменты, как ChatGPT, развили исключительные способности воспроизводить язык посредством слов, звуков или изображений. Искусственный интеллект освоил язык и фактически взломал операционную систему человеческой культуры.

Язык – это материал, из которого создана почти вся человеческая культура. Например, права человека – вовсе не биологическая реальность. Они не закодированы в нашей ДНК. Права человека – произведение культуры, нечто, что мы создали с помощью языка, рассказав определенные истории и написав некие законы. Разные божества и верования также не имеют никакого отношения к биологии или физике. Все это тоже творение культуры. Это то, что мы создали с помощью языка, придумав мифы и сочинив священные книги.

Продуктом культуры являются и деньги. Банкноты – это всего лишь разноцветные бумажки, а в наши дни более 90% денег в мире даже не банкноты, а цифровая информация, передающаяся с помощью компьютера. Ценность денег определяется историями, которые нам рассказывают банкиры, министры финансов и предприниматели. Знаменитые мошенники Сэм Бэнкман-Фрид, Элизабет Холмс и Берни Мэдофф не создали ничего, что имело бы подлинную ценность, но, к большому сожалению, были весьма одаренными рассказчиками.

Что произойдет в тот момент, когда нечеловеческий разум будет лучше среднестатистического человека рассказывать истории, сочинять мелодии, рисовать картины и составлять законы, а также научится искусно манипулировать присущими людям слабостями и зависимостями?

Когда мы рассуждаем о чат-ботах и других инструментах ИИ, то почему-то в первую очередь приводим примеры, связанные со школьниками и студентами. Ребенок воспользовался искусственным интеллектом, чтобы выполнить домашнее задание – какое безобразие! Оставьте в покое детей. Лучше подумайте о президентской гонке в США в 2024 году и попытайтесь представить, какое влияние на нее может оказать искусственный интеллект, способный генерировать неограниченное количество политического контента, фейковых новостей и даже священных текстов для новых религиозных сект.

В последние годы одним из наиболее любопытных и пугающих явлений в американской политике стал стремительный взлет радикальной секты Qanon, которой удалось промыть мозги миллионам американцев и даже некоторым конгрессменам. Секта сформировалась вокруг анонимных сетевых месседжей (Q Drops). Приверженцы нового культа собирают и толкуют эти сообщения, воспринимая их в качестве некоего священного текста, тиражирующего бредовую теорию заговора, согласно которой евреи, педофилы и сатанисты правят миром и пытаются извести человечество. Насколько известно, все предыдущие Q Drops были созданы людьми и лишь распространялись интернет-ботами. Вскоре мы можем стать свидетелями первых в истории культов, чьи религиозные тексты будут написаны нечеловеческим разумом. На протяжении всей истории приверженцы разных религий утверждали, что их священные книги имеют нечеловеческое происхождение. Теперь это действительно может стать реальностью.

Если говорить о более прозаических вещах, то довольно скоро мы можем оказаться в ситуации, при которой будем вести многочасовые дискуссии в интернете о Верховном суде, изменении климата или российском вторжении в Украину с некими сущностями, которых будем принимать за людей, хотя на самом деле нашим собеседником будет искусственный интеллект. Чем дольше будет длиться разговор, тем большей информацией о нас будет располагать бот – и тем искуснее он будет приспосабливать свои реплики к особенностям нашей психики, а следовательно, оказывать на нас влияние.

Благодаря владению языком искусственный интеллект сможет завязывать тесные отношения с людьми, используя подобную “дружбу”, чтобы менять наше мировоззрение. Пока что нет никаких доказательств, что ИИ способен формировать собственное сознание и испытывать эмоции, но ему это и не нужно для того, чтобы имитировать близость с человеком. Достаточно того, что искусственный интеллект в состоянии заставить нас испытывать к нему определенные чувства.

В июне 2022 года инженер компании Google по имени Блейк Лемойн выступил с утверждением, что чат-бот LaMDA, в разработке которого он принимал участие, обладает сознанием. За это спорное заявление, которое, по-видимому, не имеет отношения к действительности, Лемойн был уволен. Однако самое интересное в этой истории другое: инженер был готов пожертвовать своей престижной работой ради чат-бота. Если под влиянием искусственного интеллекта люди готовы рисковать рабочим местом, то что еще может заставить нас делать ИИ?

В политической битве за умы и сердца наиболее эффективное оружие – психологическая близость, формирование доверительных отношений. И вот теперь искусственный интеллект способен производить близость в промышленных масштабах и входить в доверие сотен миллионов людей. Всем известно, что в последнее десятилетие социальные сети стали настоящим полем битвы за контроль над человеческим вниманием. Однако с появлением нового поколения инструментов ИИ линия фронта смещается к контролю над человеческими эмоциями. Что станет с нашим обществом и нашей психикой, когда инструменты искусственного интеллекта начнут конкурировать между собой, с невероятной правдоподобностью имитируя психологическую близость, чтобы убедить нас покупать определенные товары или голосовать за определенных политиков?

Но даже без имитации доверительности и интимности искусственный интеллект будет оказывать колоссальное влияние на наше мировоззрение. Люди могут использовать ИИ, как своего рода сетевого пророка, у которого есть ответ на любой вопрос. Неудивительно, что Google охвачен паникой. Зачем нужна поисковая система, если можно просто задать вопрос всеведущему пророку? Новостной и рекламной отраслям также следует насторожиться. Зачем читать газету, если можно спросить у пророка, что нового? Какой смысл в рекламе, если я могу поинтересоваться у пророка, что купить?

Но и вышеперечисленные сценарии не передают всей полноты картины. Новые возможности искусственного интеллекта могут просто-напросто положить конец истории человечества. Не всей истории, а лишь того ее периода, когда человечество в ней доминировало. История – это система отношений между биологией и культурой, между нашими биологическими потребностями (пища, секс) и творениями культуры (религия, законы). Таким образом, история – это система отношений между законами и религиями, с одной стороны, и пищей, и сексом – с другой.

Как будет развиваться история, когда системы искусственного интеллекта возьмут под полный контроль все, что мы называем культурой, – станут придумывать истории, сочинять мелодии, писать законы и формировать религиозные культы? Изобретенные людьми в прошлом инструменты (печать или радио) способствовали распространению идей и культурных ценностей, но никогда их не создавали. Искусственный интеллект принципиально отличается от печати или радио. Он может создавать совершенно новые идеи, совершенно новую культуру.

На начальном этапе искусственный интеллект, скорее всего, будет подражать прототипическим моделям человеческого мышления, на которых обучался. Но с каждым годом ИИ будет продвигаться все дальше, пока не достигнет тех пространств, куда ранее не заглядывал ни один человек. Тысячи лет люди могли существовать в фантазиях и мечтах других людей. Мы верили в богов, принимали те или иные стандарты красоты, сражались во имя идеалов, созданных воображением пророков. Через несколько лет мы можем обнаружить себя объектами фантазий чуждого нам разума.

Страх перед искусственным интеллектом начал преследовать человеческий род лишь несколько поколений назад. Однако в течение тысячелетий человечество испытывало гораздо более глубокий страх. Люди всегда осознавали, сколь огромной силой обладают истории и образы, сколь велика их способность вводить нас в заблуждение. Поэтому с древнейших времен люди опасались оказаться запертыми в иллюзорном мире.

В XVII веке философ Рене Декарт опасался, что злобный демон держит его в мире иллюзий, создавая все, что он видит и слышит. Древнегреческий философ Платон в своей знаменитой аллегории “Миф о пещере” описывал узников, заточенных в подземную темницу, во всю длину которой тянется широкий просвет. Из-за оков они не могут сдвинуться с места и повернуть голову, а потому видят лишь тени, отбрасываемые на расположенную перед ними стену пещеры. Согласно Платону, пещера олицетворяет собой чувственный мир, в котором живут люди. Подобно узникам пещеры, они полагают, будто благодаря органам чувств познают истинную реальность, но это всего лишь иллюзия. Об истинном мире они могут судить только по смутным теням на стене пещеры.

В Древней Индии буддийские и индуистские мыслители полагали, что все люди пребывают в мире иллюзий, майя (что на санскрите означет “иллюзия”, “видимость”). Будда объяснял, что все кажущееся нам реальным – иллюзия, рожденная нашим мозгом. Люди способны вести кровопролитные войны, убивать других и быть готовыми погибнуть из-за своей веры в ту или иную иллюзию.

Революция в сфере искусственного интеллекта ставит нас лицом к лицу с демоном Декарта, пещерой Платона и мистификацией майи. Если мы не будем предельно осторожны, мы окажемся за завесой иллюзорного мира, которую уже не сможем сорвать, а возможно, и узнать о ее существовании.

Разумеется, колоссальные возможности искусственного интеллекта можно использовать и во благо человечества. Нет необходимости углубляться в эту тему, поскольку разработчики ИИ говорят об этом достаточно. Роль историков и философов состоит в том, чтобы указать на опасности этой технологии. Искусственный интеллект может помочь нам в решении огромного числа проблем – от создания новых лекарств против рака до преодоления экологического кризиса. Перед нами стоит вопрос, как сделать так, чтобы эта мощная технология использовалась во благо, а не на зло. Для этого в первую очередь нам необходимо понять, каковы реальные возможности новых инструментов.

С 1945 года нам известно, что ядерные технологии могут производить дешевую энергию на благо людей, но могут также физически уничтожить человечество. Поэтому был построен новый мировой порядок, чтобы защитить людей от этой напасти и убедиться, что ядерные технологии служат исключительно мирным целям. Теперь же нам придется иметь дело с новым оружием массового уничтожения, способным разрушить ментальный и социальный мир человека.

Мы все еще можем установить правила безопасности при разработке и использовании искусственного интеллекта, но действовать нужно очень быстро.

Атомные бомбы не могут производить более мощные атомные бомбы. Между тем искусственный интеллект может создать более мощную версию себя. Первое, что нам необходимо сделать, – требовать тщательного тестирования на предмет безопасности каждого нового инструмента ИИ – прежде, чем он станет доступным широкой публике. Точно так же, как фармацевтическая компания не может начать продажу нового лекарства до тщательной проверки его безопасности для здоровья пациентов, так и технологические компании не могут выпускать на рынок инструменты искусственного интеллекта, не убедившись в том, что они не несут в себе угрозу.

Не приведет ли замедление темпов выпуска в широкий доступ технологий искусственного интеллекта к отставанию демократических государств от диктаторских режимов, лишенных каких-либо этических сдержек? Ровным счетом наоборот. Неконтролируемое распространение искусственного интеллекта создаст социальный хаос. Это будет на руку диктаторам и приведет к разрушению демократических государств. Диктатура – ситуация, при которой некто диктует свою волю остальным. Демократия – постоянный диалог между людьми. Однако диалог ведется с помощью языка. Как только искусственный интеллект взломает операционную систему человеческого языка, он будет в состоянии разрушить способность людей вести осмысленный разговор. А это именно то, что уничтожит демократию.

Мы только что столкнулись с инопланетным разумом – прямо здесь, на Земле. Мы слишком мало знаем о нем, кроме того, что он может разрушить нашу цивилизацию. Мы обязаны остановить безответственное распространение искусственного интеллекта и ввести четкие правила его функционирования – прежде, чем он установит правила, по которым будем функционировать мы.

Первый закон, который я предложил бы, заключается в следующем: когда ИИ разговаривает с человеком, он должен представляться искусственным интеллектом, а не имитировать человеческую личность. Если я беседую с кем-то, не осознавая, человек — это либо искусственный интеллект, – это конец демократии.

Иллюстрация, созданная ИИ по фотографии Юваля Ноаха Харари