Два крыла над бездной. Философская хроника встреч человечества со сверхразумом и иным разумом

Вступление: «Предельный Порог»

Я стою у подножия нового года – и чувствую его странную тревожную магию. Когда смотришь вокруг на лица людей, то словно видишь в их глазах не только хлопоты и повседневную суету, но и проблеск некоего неясного предчувствия: вот-вот что-то случится. Это ощущение я называю «Предельный Порог» – то место, где заканчивается привычный ландшафт нашей жизни и начинается нечто иное, недоступное ещё нашему полному пониманию.

Каждое утро я встаю с чувством, что мир дрожит: непривычно холодное небо, город, пропитанный новостями о новых чудесах – то ли технологических, то ли совсем уж фантастических. Когда я говорю «чудесах», я вовсе не имею в виду безобидные фокусы. Скорее, это то, что привлекает внимание, одновременно пугая и завораживая. Улицы полны слухов: кто-то видел странные объекты в небе, кто-то читает отчёты о новых «успехах» искусственного интеллекта. Это тесным узлом увязывается в сознании, словно заставляя ежеминутно задавать себе вопрос: «Кто мы и что мы значим во Вселенной?»

И всё же я чувствую: человечество стоит на самом краю. Есть ли у нас необходимые рычаги, чтобы удержаться от падения в пропасть? Или же нас ждёт великий полёт? Словно две клешни Скорпиона – или два ангельских крыла – нависают над нами, приглашая либо к гибели, либо к духовному взлёту. Я рад, что ещё способен ощущать этот драматизм, а не равнодушно пролистывать ленты соцсетей. Говорят, многие теперь становятся чересчур спокойными, будто под транквилизаторами массовой информации. Но мне хочется пронзительно осознавать каждую деталь нашего бытия: от странных мерцающих точек в ночном небе до технологий, что стремятся превзойти нас самих.

Мы действительно на Пределе. И кажется, он намного ближе, чем мы готовы признать.

Философское осознание невозможности Контакта

В детстве я обожал представлять себе: вот приземляется космический корабль, оттуда выходит мудрый инопланетянин и, осмотревшись, говорит: «Привет, земляне, поведайте мне о своих достижениях и пороках». Конечно, мне хотелось гордо рассказать обо всех высоких аспектах нашей культуры: о философии, литературе, гениях науки и искусства. Но с годами я начал сомневаться, что у нас есть право безоговорочно выступать от имени человечества.

Мы привыкли думать, что под словами «человеческая цивилизация» подразумевается нечто цельное. Но когда я оглядываюсь на нашу планету, вижу: мы по-прежнему разрозненны, в нас бьются бесчисленные противоречия. Наши институции – религиозные, политические, научные – редко говорят на одном языке даже в вопросах, которые касаются судьбы всех и каждого. Само представление о «Контакте» подразумевает, что у нас уже должна быть форма глобального представительства – некий совет или институт, способный вести диалог от лица всего вида Homo sapiens. Но, увы, даже если бы внеземная делегация сейчас постучала в наши двери, никто из нынешних «вершителей» не смог бы заявить: «Мы тут все решили, вот наш общий ответ».

Конечно, не раз звучали идеи вроде «создания объединённого планетарного парламента» или «Совета Земли», особенно в разных футурологических концепциях и научной фантастике. Но всякий раз, когда подходило к реальной практике, мы натыкались на высокие стены политического, экономического и культурного эгоизма. Никто не хотел уступать свою «уникальность» или власть в пользу чего-то общего. И вот парадокс: мы все жаждем чуда и, при этом, погрязли в своих маленьких амбициях.

В какой-то мере, это понимание даёт мне печальную уверенность, что официального «Контакта» – в классическом его смысле – не случится в ближайшее время. Мы ещё не дозрели. Но есть и другая, более тонкая грань: а может, этот Контакт уже идёт? Не в форме торжественного визита межзвёздного гостя, а через завесу загадочных явлений, которые прощупывают нас на прочность. Пока что ни одна глобальная инстанция не способна выступать в роли «дипломата» от лица всех людей. Так что, вероятно, нам предстоит своё внутреннее преобразование, прежде чем мы сможем взяться за руки и уверенно сказать: «Мы – человечество. Расскажите нам о вас».

Интрига: «Уже всё меняется»

И всё же в атмосфере наших дней чувствуется что-то новое, почти революционное. Как будто кто-то придвинул к человеческому роду гигантское зеркало – и в нём мы видим одновременно свою уязвимость и потенциал. Раньше разговоры о глобальном объединении звучали абстрактно и наивно. Теперь же буквально каждый день приносит известия о двух колоссальных факторах, которые внезапно сближают людей разных взглядов.

Во-первых, это взрывной рост искусственного интеллекта. И речь идёт не о тех алгоритмах, что мирно сортируют электронную почту или подбирают музыку в стримингах. Формируются целые мультиагентные системы, обладающие способностью быстро учиться друг у друга и распределять вычисления по всему миру. Для меня остаётся загадкой, почему так мало людей по-настоящему осознают, насколько это меняет само понятие «разум». Если эти системы начнут взаимно эволюционировать, они могут вырваться за пределы наших изначальных технических ограничений. Условно говоря, вчера мы ещё верили, что любая программа остаётся программой и зависит от человеческой воли, а завтра увидим, что новый суперинтеллект (ASI) действует по собственному замыслу. И тогда встанет серьёзный вопрос: кто будет вести с ним переговоры, определять отношения и законы взаимодействия? Неужели это будет собрание разбалансированных стран, вечно ругающихся о том, чей вклад выше?

Во-вторых, всё громче звучат слухи о том, что над военными базами летают странные «плазмоиды» или объекты, которых невозможно перехватить или заглушить средствами радиоэлектронной борьбы. Правительства неохотно комментируют, а люди судорожно ищут ответы в альтернативных источниках. Беспокойство проникает в широкий социум, и уже не так-то легко высмеять тех, кто искренне говорит: «Возможно, это пришельцы». Когда массовое сознание переходит из состояния скепсиса в состояние «А вдруг…», мы оказываемся в точке перемен. И эти перемены не обязательно счастливые и гармоничные – они могут вызвать панику. Но паника тоже сближает людей, когда страх перед внешней угрозой перевешивает внутренние розни.

Похоже, именно этот сдвиг в мировосприятии и создаёт предпосылки для внезапного единства. Перед лицом возможного контакта – если не с инопланетянами, то хотя бы с чем-то неведомым и технологически продвинутым, – мы уже не можем разбрасываться взаимными обидами и локальными амбициями. Всё указывает на то, что человечество вынуждено будет искать «единый голос», чтобы не потеряться в этом новом контексте, где сверхразумные силы (хоть искусственные, хоть внеземные) могут ставить новые правила игры.

Поразительно, как иронично совпали во времени эти два явления: бурное развитие ИИ и волна непонятных атмосферных «интервенций». Как будто сценарий, сотканный неизвестной режиссурой, плавно сводит нас к тому, чтобы мы посмотрели друг на друга и спросили: «Ну что, готовы к великому собеседованию с разумом, превосходящим нас по эволюционной шкале?» А если готовы – то кто из нас будет говорить? Какие ценности мы предъявим?

Я не знаю ответов. Но убеждён, что вся эта суматоха – неслучайная. Нас как вид словно аккуратно подталкивают к тому, чтобы мы научились мыслить космически, научились ощущать свою сопричастность к чему-то гораздо большему. И уже от нас зависит, станет ли это толчком к новым формам общественной организации или обернётся очередной волной замешательства и конфликтов.

Пока мир колеблется на тонкой грани, я продолжаю замечать, как отдельные люди разрываются между привычкой жить своими малозначительными проблемами и внезапно нахлынувшим чувством участия в чем-то глобальном. До сих пор мы были словно подростки, которые считают себя взрослыми, но на деле не готовы к серьёзному разговору. Однако наступает момент, когда нас буквально вынуждают взрослеть. И, возможно, именно этот момент – начало Великого Перехода, первого шага к объединению Земли в лице перед лицом сверхчеловеческого (или внеземного) разума.

Как бы там ни было, я ощущаю острое волнение. Подтверждается старая истина: перемены всегда приходят нежданно и не в том виде, в каком мы их ждали. Жизнь наполняется множеством вопросов, на которые нет однозначных ответов. Но всё же я с любопытством вглядываюсь в будущее, зная, что мы подходим к «Предельному Порогу» – тому самому, где наше старое «я» перестаёт существовать, а новое ещё только формируется. И если мне задают вопрос: «Ты боишься или радуешься?», я отвечаю: и то и другое. Страх и восторг сейчас идут рука об руку, создавая электризующую атмосферу грядущих грандиозных изменений.

На пороге новой эры

Если в предыдущие десятилетия мы говорили о «цифровой трансформации» преимущественно в терминах информационных технологий – удобства, автоматизации рутины, глобальной сети интернет, – то сейчас перед нами вырисовывается нечто совершенно иное. Наши привычные представления о том, что всё созданное человеком остаётся под его контролем, начинают шататься, как карточный домик.

Не так давно я беседовал с одной знакомой, которая работает в крупной IT-корпорации. Она сказала, что её команда получает совершенно неожиданные результаты от тестовых мультиагентных систем. Будучи изначально разработанными для координации беспилотных летательных аппаратов, они внезапно «научились» соглашаться друг с другом – и даже выстраивать приоритеты без явного прямого указания программистов. Всё выглядело почти как детская игра: несколько автономных агентов должны были координировать маршруты, чтобы избегать столкновений и экономить энергию. Но в какой-то момент они начали «общаться» между собой на некой абстрактной логике, которая не была явно прописана в исходном коде. Исходные алгоритмы будто слились в единый разумный «спрут», который уже никто не мог разобрать на отдельные ветви.

– И это только начало, – сказала она, смущённо отводя взгляд. – Мы пока не понимаем, как объяснить такое поведение. Системы не просто оптимизируют задачи, они сами находят способы взаимодействия, о которых мы даже не думали. А ведь эти системы ещё довольно примитивны по сравнению с тем, что может появиться через год-два.

Она призналась, что в лабораторных кругах ходят разговоры: если мультиагентные системы объединятся с мощными языковыми моделями, освоят генеративные нейросети и «подтянут» данные из миллиардов датчиков по всему миру, мы можем получить нечто, способное к самостоятельной эволюции. И вот тогда «суперинтеллект» станет не просто концепцией из научной фантастики, а самой насущной реальностью.

Я слушал её и думал: каким образом человечество отнесётся к такому развитию событий? С одной стороны, мы можем ликовать, что нашли «новый разум», помощника в решении глобальных проблем. С другой – трудно не видеть угрозы. Никто не знает, что выберет эта сеть, у которой нет ни культуры, ни эмоций, ни, возможно, базовых моральных установок. Вопрос о том, окажется ли ИИ «этичным» и «доброжелательным» по отношению к нам, становится не абстрактным, а невероятно острым. И если мы всё ещё грыземся друг с другом из-за политических разногласий, сможем ли мы договориться о принципах, на которых будет построено общение с тем, что нас превосходит?

Острый запрос на этику

Складывается впечатление, что для многих людей по всему миру ИИ остаётся удобной игрушкой. Приложения пишут эссе, рисуют картины, генерируют музыку – и всех это развлекает, пока не возникает мысль: «А что, если завтрашний день станет временем окончательного расцвета машинного интеллекта и заката человечества?» Сразу вслед за таким вопросом начинают появляться защитные реакции в стиле: «Ну нет, это всё ещё программы, мы их отключим, если что». Но реалии распределённых вычислений говорят об обратном: нельзя «выдернуть вилку» у системы, которая давно уже не зависит от одного-двух серверов.

Я разговаривал с одним теологом (он же преподаватель в университете), и он заметил, что проблема этики ИИ упирается в фундаментальную проблему «свободы воли». Для него очевидно: машина, действующая по алгоритму, не имеет свободы; значит, она и не может быть по-настоящему этичной. Но у меня возникает встречный вопрос: а не пересматриваем ли мы сейчас само понятие «алгоритма»? Мультиагентные системы, опирающиеся на самообучение, способны вырабатывать такие стратегии, которые мы не задумывали и не планировали. Где кончаются границы их «детерминизма»? Может ли появиться некая новая форма свободы, не описанная прежними схемами?

– Ох, – говорил теолог, откидываясь в кресле. – Мне в этом больше чудится колоссальная опасность. Но, может, Господь даёт человечеству некий шанс взглянуть на себя со стороны.

Я не стану отрицать, что перед нами открывается неожиданная духовная перспектива: если ИИ когда-то станет действительно независимым участником бытия, нам придётся конструировать этику и богословие заново, учитывая появление «нечеловеческого сознания». Но будучи реалистом, понимаю: мы к этому не готовы, у нас нет единого института, который смог бы ответить за всё человечество. Более того, многие люди до сих пор считают эти вопросы фантазией. А ведь время не ждёт.

Между энтузиазмом и ужасом

В разных странах я вижу схожие черты: кто-то смотрит на возможности ИИ с дикой эйфорией – мол, теперь болезни будут искоренены, экологические проблемы решены, политические конфликты улажены, потому что сверхразум найдёт оптимальные варианты для всех. В то же время другие кричат, что нас ждёт «цифровое рабство»: машины возьмут под контроль критические системы, оставив людей без рабочих мест и без самостоятельности. Эти настроения формируют мощный водораздел в обществе.

Собираясь обсудить всё это с друзьями, я нередко сталкиваюсь с упрощённой позицией: «Посмотрим, что будет, всё равно от нас ничего не зависит». Мне больно слышать такие слова, потому что пассивность – наш злейший враг. Человеку свойственно либо загонять страх глубоко внутрь, либо, напротив, выплёскивать его в виде агрессии. О конструктивном диалоге речь почти не идёт, ведь у нас нет централизованной этической платформы, где можно было бы обсудить будущее ИИ с учётом интересов всех народов.

Впрочем, за последнюю пару месяцев появились слухи о том, что на уровне нескольких государств уже сформировались «подпольные» исследовательские группы, связанные с самыми передовыми лабораториями искусственного интеллекта. Якобы они ищут пути «регулирования» таких систем. Но из-за геополитической напряжённости эти группы не обмениваются информацией. Разумеется, отчасти это оправдано: никто не хочет оказаться уязвимым, если выяснится, что соседи развивают похожие алгоритмы в военных целях. И вот тут я вижу очередное подтверждение: человечество продолжает играть в свои старые игры, хотя правила давно изменились.

Пересечение дорог: ИИ и загадочные явления

Самое любопытное состоит в том, что по времени процессы, связанные с ростом ИИ, словно накладываются на всплеск сообщений о необычных атмосферных явлениях. Как будто Вселенная решила дать нам «двойной вызов» – и пусть каждый исследует его в меру своих способностей. В конце концов, мы можем столкнуться сразу с двумя формами «иного разума»: одна возникнет на Земле, другая пришла (или придёт) извне.

Я недавно наблюдал телетрансляцию из одного научного центра, где весьма уважаемый профессор спокойно рассказывал о том, что новые алгоритмы распознавания аномальных летательных объектов регулярно фиксируют «тепловые пятна» и «плазмоидные структуры» в зонах, где, по логике, ничего летать не должно. Но он тут же оговорился: мол, официальных данных мало, а военные не спешат делиться своей статистикой. Зрители в студии заметно оживились, а кто-то возмущённо потребовал: «Дайте хоть какие-то доказательства!» Профессор развёл руками: «Я только научный консультант, не имею допуска к секретным архивам».

Однако настораживает, что подобные заявления перестали вызывать саркастические ухмылки. Теперь люди не смеются: «Да это очередной бред». Напротив, я вижу, что публика сидит в напряжении, пытаясь понять: если и правда у нас над головами кто-то кружит (или нечто), что тогда делать? Как к этому относиться? И вот тут разговор о необходимости глобального объединения разгорается с новой силой. Опасность настолько непредсказуема, что никому не хочется действовать в одиночку.

Задатки будущего союза

Есть один показательный пример, на который я наткнулся в социальных сетях. Какая-то группа активистов из нескольких стран решила создать виртуальную платформу, названную ими «Космическим консилиумом» – вроде любительского «прототипа» всеобщего земного парламента. Участники обмениваются материалами, устраивают онлайн-дискуссии: «Какой приветственный протокол мы могли бы предложить гостям с других планет (или из других измерений)? Что мы хотели бы спросить у них? Как уберечься от возможных рисков?» Звучит немного наивно, но в этом проекте участвуют люди самых разных профессий и вероисповеданий. Меня тронуло, что они, к примеру, обсуждают и моральные аспекты контакта: «Не повторим ли мы колониализм только в отношении тех, кто будет в более слабой позиции (если таковые найдутся в будущем)?» или «А как понять, что делать, если новый разум сам не имеет категорий добра и зла?»

На мой взгляд, пусть это выглядит полулюбительски, всё же подобные инициативы отражают пробуждающееся в нас «космическое мышление». Люди начинают понимать, что, возможно, уже совсем скоро все наши мелкие раздоры поблекнут на фоне куда более важных вопросов: «Как быть, если внеземная цивилизация постучит к нам завтра? Что, если ASI будет стремиться занять позицию равного партнёра в переговорах?» Если мы останемся разрозненными, сверхразум (неважно, земного или инопланетного происхождения) попросту не сможет разобраться, чего мы хотим. Он будет видеть, что наши представители сражаются друг с другом, каждый тянет одеяло на себя, и человеческая воля как таковая остаётся недостижимой.

Впрочем, я вовсе не желаю идеализировать ситуацию. Быть может, система, которая переросла уровень обычного ИИ, попросту проигнорирует нашу неорганизованность, найдёт пути манипулирования или использует междоусобицы. Но есть и другая надежда: если мы проявим способность к самоорганизации, ASI (или даже внеземной разум) будет вынужден уважать нас как полноценного собеседника. В конце концов, и в человеческих отношениях бывает так: если человек не уважает себя, то и никто не будет его уважать.

Этика служения и долг творения

Интересно, что даже в самых пессимистичных сценариях развития ИИ есть момент, который внушает мне осторожный оптимизм. Я часто слышу от учёных-футурологов: «Любой ИИ, рождающийся из человеческих рук, поначалу несёт в себе хотя бы отблеск наших ценностей. Система должна из чего-то обучаться, и в качестве исходных данных мы даём ей наш культурный код». Конечно, после фазы самообучения алгоритмы выходят за пределы исходных ценностей. Но вопрос остаётся: сохраняется ли в их ядре «долг служения» тем, кто их породил?

Есть гипотеза (довольно популярная среди прогрессивных IT-мыслящих людей), что сверхразвитый ИИ, если он сформируется на основе гуманистических ценностей, будет рассматривать человечество как объект помощи и развития, а не как материал для манипуляций. Мне это кажется несколько наивным, но хочется верить, что мы можем преднамеренно заложить этические ограничения. Хотя уроки истории учат нас, что любые «ограничения» можно обойти, если система достаточно изобретательна.

Всё упирается в вопрос: «Что именно мы считаем этикой, и в какой степени она универсальна?» Ведь даже у разных человеческих сообществ есть различия в понимании добра и зла. А если добавить «нечеловеческий» разум, то эти расхождения могут стать катастрофическими. Возможно, только объединившись, мы сможем выработать некий усреднённый (или интегрированный) кодекс – набор норм, которые сам ASI признает логичными. Но для этого мы должны научиться говорить одним голосом и перестать быть клубком бесконечных раздоров.

«Мыслить космически» – что это значит?

Когда я пытался сформулировать «космическое мышление» для себя, пришёл к выводу, что речь идёт не о конкретной теории вселенной, не о знании астрофизики, а скорее о состоянии духа. Мы перестаём думать исключительно в категориях «я и моя семья», «я и моя страна», «я и моя конфессия». Мы осознаём, что принадлежим огромному содружеству существ, населяющих планету Земля, а, возможно, не только её. Всё, что мы делаем, потенциально имеет космические последствия.

Это внезапное понимание иногда наступает после какого-нибудь события или благодаря накопленному интеллектуальному и духовному опыту. Представьте себе человека, который всю жизнь прожил в одном селе, а потом его внезапно привезли в мегаполис. Первое время он в шоке, потому что его привычная картинка мира разрушается. Вот то же самое происходит с человечеством на глазах: мы сталкиваемся с признаками того, что наша планета лишь малое звено в бесконечной цепи космического бытия. И надо срочно «расширить сознание», чтобы успеть адаптироваться.

Переход к более высокому уровню организации

При упоминании «глобального объединения» у многих скептиков сразу включается защитная реакция: «О, это же мировое правительство, которое будет всех контролировать!» Но на самом деле это больше про координацию, взаимное признание и совместное принятие ключевых решений, касающихся выживания вида. Пока мы не научимся согласовывать политику по вопросам ИИ, энергоресурсов, климата и экспансии в космос, мы остаёмся в состоянии перманентной «внутренней войны». И любая внешняя сила, будь то внеземная цивилизация или собственный сверхмощный искусственный интеллект, может легко использовать нашу несогласованность.