Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари
Размер шрифта: 13
Оригинальное название:
Nexus: a Brief History of Information Networks from the Stone Age to Al
Название на русском языке:
Nexus: Краткая история информационных сетей от каменного века до искусственного интеллекта
Автор:
Yuval Noah Harari
Юваль Ной Харари
Автор краткого изложения:
Виталий Фёдоров
* * *
*****
Мы, люди, называем свой биологический вид Homo sapiens – человек разумный. Но насколько мы соответствуем этому определению? Люди обрели небывалое могущество, но сила – это еще не мудрость, и человечество по-прежнему не может объединиться перед лицом экзистенциального кризиса. Если мы, сапиенсы, такие разумные, то почему мы так склонны к саморазрушению? Этими и другими вопросами задается в своей новой книге историк Юваль Ной Харари, приглашая читателя поразмышлять вместе с ним.
На протяжении всей истории во многих традициях считалось, что некий фатальный изъян в человеческой природе побуждает людей тянуться к силам, с которыми они неспособны совладать. Этой проблеме посвящен греческий миф о Фаэтоне, который, несмотря на предостережения Гелиоса, взялся управлять небесной колесницей, но не справился и едва не уничтожил Землю. О том же повествует стихотворение-притча Гёте «Ученик чародея»: о подмастерье, который заколдовал веник, чтобы упростить себе работу, а тот устроил потоп в мастерской. Эти истории напоминают о том, что люди игнорируют предостережения. Они уже вывели из равновесия земной климат и призвали миллиарды заколдованных веников, дронов, чат-ботов и других алгоритмических духов, которые могут выйти из-под контроля и вызвать множество непредвиденных последствий.
Что же делать? Ждать спасения со стороны бога или колдуна. Мифы и притчи не дают иного ответа. Но это опасный посыл: он побуждает людей снимать с себя ответственность. Тенденция к созданию мощных инструментов с непредсказуемыми последствиями началась с изобретения религии. Пророки и богословы раз за разом вызывали могущественных духов, которые должны были принести любовь и радость, но в итоге заливали мир кровью.
Миф о Фаэтоне и стихотворение Гёте не дают полезных советов, поскольку в них неверно интерпретируется сама природа человеческого могущества. В обеих историях некий человек получает огромную силу, но затем поддается гордыне и жадности. Однако в реальности могущество всегда проистекает из сотрудничества множества людей, а значит, проблема не в индивидуальной психологии. Человечество получает огромную силу за счет создания крупных сетей сотрудничества, но сам принцип выстраивания этих сетей предрасполагает к неразумному использованию силы. Таким образом, проблема человечества – это проблема сетей.
Точнее, это проблема информации: ведь именно информация «склеивает» человеческие сети. На протяжении всей истории люди создавали обширные сети с помощью вымышленных историй – о богах, заколдованных вениках, искусственном интеллекте и тому подобном. Хотя каждый индивид обычно предпочитает знать правду о себе и о мире, крупные сети объединяют людей и поддерживают порядок, опираясь на выдумки и фантазии.
Не стоит пребывать в уверенности, что сети, выстроенные на ложных идеях вроде нацизма, обречены на провал. Если мы хотим предотвратить триумф подобных сетей, нам придется самим проделать тяжелую работу.
Наивный взгляд на информацию
Общее непонимание того, как работают крупные информационные сети, выражается в том, что автор называет «наивным взглядом на информацию». Согласно наивному взгляду, собирая и обрабатывая гораздо больше информации, чем могут получить отдельные люди, крупные сети достигают лучшего понимания многих областей. Например, собрав большой объем данных о патогенах, можно выявить причины заболеваний и разработать эффективные лекарства. Информация в достаточном объеме ведет к истине, а истина ведет к могуществу и мудрости. Невежество же не ведет ни к чему. Согласно наивному взгляду, сети, выстроенные на лжи и иллюзиях, – отклонения от нормы, они обречены на провал. Фармацевтический гигант, намеренно распространяющий дезинформацию, проиграет более честным конкурентам. А от крупных сетей в целом можно ожидать мудрого распоряжения своим могуществом и властью.
Конечно, сторонники наивного взгляда признают, что на пути к истине случаются ошибки в сборе и обработке информации. Однако они считают, что противоядием от большинства таких проблем будет сбор и обработка еще большего объема информации. Одному врачу, обследующему одного пациента, определить причину эпидемии труднее, чем тысячам врачей, обладающим данными о миллионах пациентов. И чем больше информационная сеть, тем ближе она к истине.
Но даже обретение истины не гарантирует, что люди мудро распорядятся новыми возможностями. Под мудростью обычно понимают «принятие правильных решений», но представление о «правильности» зависит от ценностей, которые бывают разными. Ученые, открывшие новый патоген, могут разработать вакцину – или биологическое оружие, если они уверуют, например, в расистскую идеологию. Согласно наивному взгляду, в этом случае дополнительная информация тоже поможет решить проблему, ведь ценностные разногласия – следствие либо нехватки информации, либо намеренной дезинформации. Расисты – это плохо информированные люди, которые не знают фактов из биологии и истории. Если ознакомить людей с этими фактами, на свободном рынке информации истина рано или поздно восторжествует.
В целом, по мнению сторонников наивного взгляда, информация полезна, и чем ее больше, тем лучше. Имея достаточно информации и времени, люди обязательно узнают правду о самых разных вещах и тем самым разовьют не только свое могущество, но и мудрость, необходимую для того, чтобы правильно его использовать.
Наивный взгляд оправдывает стремление к созданию мощных информационных технологий и стал полуофициальной идеологией компьютерного века и интернета. Политики и предприниматели часто высказывают радужные взгляды на информационные технологии. Наивный взгляд на информацию весьма точно выражен в заявлении о миссии Google: «Систематизировать информацию по всему миру и сделать ее общедоступной и полезной».
Google против Гёте
Да, обладание большим объемом информации нередко помогало людям лучше понимать мир и мудро использовать свои возможности. В качестве примера автор приводит резкое снижение детской смертности. Пяти братьям и сестрам Иоганна Вольфганга Гёте не удалось дожить даже до своего седьмого дня рождения. У самого поэта было пятеро детей, из которых все, кроме старшего сына, умерли в первые недели после рождения. Если во времена Гёте лишь около 50 % немецких детей доживали до пятнадцати лет, то к 2020 году этот показатель в Германии достиг 99,5 % (в среднем по всему миру до пятнадцатилетия доживает 95,6 % детей).
Однако, несмотря на небывалый рост объема и скорости производства информации, человечество как никогда близко к самоуничтожению. Лидеры не испытывают дефицита информации о глобальных угрозах, но вместо сотрудничества движутся к глобальной войне. Корпорации и правительства наперегонки разрабатывают самую мощную информационную технологию в истории – искусственный интеллект (ИИ). Одни верят, что ИИ решит все проблемы человечества. Другие настроены скептически. В опросе, проведенном в 2023 году среди 2778 исследователей ИИ, более трети респондентов говорили о по меньшей мере 10-процентной вероятности того, что продвинутый ИИ приведет к вымиранию человечества. Эту опасность признали правительства почти тридцати стран, подписав Блетчлийскую декларацию по ИИ. Эксперты предупреждают о двух возможных катастрофических сценариях. Первый сценарий – гонка вооружений на базе ИИ и разработка все более разрушительного оружия. Второй – появление тоталитарной сети, управляемой нечеловеческим интеллектом.
Важно помнить, что ИИ – первая технология, способная самостоятельно принимать решения и генерировать идеи. ИИ уже создает произведения искусства и совершает научные открытия, а в ближайшем будущем, вероятно, научится создавать новые формы жизни. Уже сегодня компьютеры принимают касающиеся людей решения о приеме на работу, выдаче кредитов и отправке в тюрьму, и эта тенденция будет только усиливаться. Но рассчитывать на то, что компьютерные алгоритмы будут принимать мудрые решения и создадут лучший мир, гораздо более рискованно, чем доверить заколдованному венику принести воды. И на кону не только выживание человечества: ИИ может изменить процесс эволюции всех форм жизни.
Информация как оружие
В 2016 году в своей книге Homo Deus автор рассказал о некоторых угрозах, связанных с новыми информационными технологиями. За восемь лет темпы изменений только ускорились, и многие из сценариев, казавшихся в 2016 году научной фантастикой, уже стали реальностью.
Изменилось и многое другое: усугубился экологический кризис, обострилась международная напряженность, даже самые устойчивые демократии пошатнула волна популизма. Помимо прочего, популизм бросил вызов наивному взгляду на информацию. Популистские движения, их лидеры и сторонники теорий заговора утверждают, что все авторитетные традиционные институты, претендующие на сбор информации и выяснение истины, попросту лгут. Чиновники, судьи, врачи, журналисты и ученые-эксперты – всего лишь элитарные группировки, которые не заинтересованы в правде и намеренно распространяют дезинформацию, чтобы получить власть и привилегии для себя за счет «народа». Если коротко, популисты рассматривают информацию как оружие.
В своих крайних проявлениях популизм гласит, что объективной истины вообще не существует и что у каждого есть «своя правда», к которой он прибегает для победы над соперниками. Почти любой разговор о «фактах» или «правде» неизбежно прерывается вопросом: «Чьи факты и чью правду вы имеете в виду?»
Это не новое явление. Еще в конце ХХ века радикальные левые интеллектуалы, такие как Мишель Фуко и Эдвард Саид, утверждали, что научные институты используют свою власть для определения того, что считать истиной, в угоду капиталистическим и колониальным элитам.
Это направление радикальной левой мысли восходит к идеям Карла Маркса. Но если марксисты утверждали, что СМИ выступают рупором капиталистического класса, а научные институты распространяют дезинформацию с целью укрепления власти капиталистов, то популисты обвиняют те же институты в продвижении интересов «коррумпированных элит» в ущерб «простому народу».
Современные популисты призывают не доверять крупным институтам вроде партий, судов, газет и университетов, но при этом утверждают, что отдельно взятый человек, приложив усилия, способен самостоятельно докопаться до истины. Доверие исключительно к «собственным исследованиям» только выглядит научным, но на деле оно равносильно вере в отсутствие объективной истины. Наука же – это в большей степени совместная институциональная работа, а не индивидуальный поиск.
Альтернативное популистское решение состоит в том, чтобы отказаться от научного поиска истины и вернуться к вере в божественное откровение или к мистицизму. В частности, популисты призывают людей доверять своему харизматичному лидеру, которого изображают либо как божьего посланника, либо как человека, обладающего мистической связью с «народом». Парадокс популизма в том, что он начинается с предупреждения о жажде власти, которой охвачены элиты, а заканчивается тем, что вся власть переходит в руки одного амбициозного человека.
Чтобы не уступать власть харизматичному лидеру или непостижимому ИИ, нужно лучше разобраться в том, что такое информация, как она помогает создавать человеческие сети и как соотносится с истиной и властью. По мнению автора, популисты правы в том, что скептически относятся к наивному взгляду на информацию, но ошибаются, полагая, что только власть имеет значение, а информация – это всегда оружие. Информация – не истина в сыром виде, но и не просто оружие.
Что дальше?
В первой части этой книги описана история человеческих информационных сетей: на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались создатели сетей, и то, как разные решения приводили к созданию антагонистичных обществ. Идеологические и политические конфликты, по сути, часто представляют собой столкновения противоположных типов информационных сетей.
Для создания масштабных человеческих информационных сетей необходимы мифология и бюрократия. Однако мифотворцы и бюрократы, как правило, движутся в разных направлениях, и облик институтов и обществ зачастую зависит от баланса между их противоречивыми потребностями.
Анализируя проблему ложной информации, а также преимущества и недостатки использования механизмов самокоррекции, автор противопоставляет институты со слабыми механизмами самокоррекции, такие как католическая церковь, институтам с сильными механизмами самокоррекции, таким как научные дисциплины.
Исторический экскурс завершается сравнением распределенных и централизованных информационных сетей. Если в демократической системе информация свободно передается по множеству независимых каналов, то тоталитарная система стремится сконцентрировать информацию в одном узле.
Историческая часть книги важна для понимания современных событий и будущих сценариев. Автор подчеркивает, что история не детерминирована и будущее зависит от решений, которые человечество примет в ближайшие годы. Основной посыл книги в том, что, делая осознанный выбор, можно предотвратить худшие последствия.
Во второй части рассматривается информационная сеть, которую люди создают сегодня, и особое внимание уделяется политическим последствиям развития ИИ. Новая информационная сеть не полагается на углеродный мозг. Как это изменит общество, экономику и политику?
В третьей части автор рассуждает о том, как разные типы обществ могут справиться с перспективами и угрозами неорганической информационной сети. Сумеет ли человек понять новую информационную сеть и контролировать ее? Как справятся с неорганической сетью демократические и тоталитарные системы? Как она повлияет на баланс сил между демократическими и тоталитарными обществами на глобальном уровне?
Часть I
Человеческие сети
Глава 1
Что такое информация?
Ученые из разных областей все чаще рассматривают информацию как базовый строительный материал реальности, более элементарный, чем материя и энергия. Ведутся споры о том, что такое информация и как она связана с биологической эволюцией и с основными физическими концепциями. Автор не пытается разрешить эти споры, а фокусируется на роли информации в истории и определяет ее через эту роль.
В обиходе информация ассоциируется с созданными человеком символами, такими как звучащие или написанные слова. Автор приводит историю о голубе Шер Ами, который спас в октябре 1918 года американский батальон, оказавшийся в ловушке в тылу врага и попавший под дружественный огонь: командир написал на клочке бумаги координаты батальона, и голубь доставил сообщение в штаб дивизии.
Однако информация не всегда состоит из символов, созданных человеком. В библейском мифе о Всемирном потопе Ной узнал, что вода отступила, когда выпущенный им голубь вернулся с оливковой ветвью. Затем Бог продемонстрировал радугу – в знак обещания больше не затоплять землю. Информацию могут нести даже космические объекты: астрономы извлекают из формы и движения галактик важнейшие сведения об истории вселенной, а для астрологов звезды – это письмена, рассказывающие о будущем.
Любой объект может быть информацией или не быть ею, поэтому очень трудно дать четкое определение информации. Двойственная суть информации сыграла важную роль в истории военного шпионажа. Автор рассказывает о еврейской шпионской сети НИЛИ и ее командире Саре Ааронсон, которые действовали на Ближнем Востоке в 1915–1917 годах и тоже использовали почтовых голубей. Одного такого голубя обнаружил офицер османской армии, и, хотя ему не удалось расшифровать сообщение, голубь с шифровкой уже сам по себе стал информацией, позволившей в итоге разоблачить шпионскую сеть.
Тот или иной объект становится информацией в определенном контексте. Согласно наивному взгляду на информацию, объекты определяются как информация в контексте поиска истины, а основная роль информации заключается в репрезентации реальности. Иными словами, информация – это попытка репрезентации реальности, и когда эта попытка успешна, ее называют истиной. Однако, по мнению автора, бóльшая часть информации в человеческом обществе и в других биологических и физических системах ничего не репрезентирует. Этот тезис составляет теоретическую основу книги, поэтому далее автор рассматривает его подробнее.
Что есть истина?
Автор понимает под «истиной» нечто в точности отражающее те или иные аспекты единой универсальной реальности. Но истина и реальность – это разные вещи, потому что, каким бы правдивым ни было сообщение, оно никогда не отразит реальность во всех ее аспектах. Например, если агент НИЛИ сообщил, что в Газе находится десять тысяч османских солдат, это сообщение может быть правдивым, но оно ничего не говорит о том, есть ли среди солдат опытные ветераны или только новобранцы.
Реальность сложна: она включает в себя объективный уровень с объективными фактами, которые не зависят от человеческих убеждений; и субъективный уровень с субъективными фактами, такими как взгляды и чувства людей. Например, Сара Ааронсон умерла 9 октября 1917 года – это объективный факт. Израильтяне склонны считать ее героиней и патриоткой – это тоже факт. Но еще один факт заключается в том, что палестинцы оценивают ее деятельность иначе, поэтому утверждение «все восхищаются Сарой Ааронсон» будет ошибкой, оно не соответствует действительности. Даже на субъективном уровне факты можно отличить от ошибок, поскольку взгляды и чувства – как и звезды и голуби – относятся к универсальной реальности.
Сказанное не означает, что для правдивого описания реальности необходимо перечислять абсолютно все факты и точки зрения. Автор предупреждает, что такое стремление к точности может привести к попытке представить мир в масштабе один к одному, как в рассказе Хорхе Луиса Борхеса «О точности в науке», где некая империя создала географическую карту размером с саму империю. Никакие, даже самые правдивые, описания реальности никогда не отразят ее в полной мере. Какие-то аспекты всегда будут упущены или искажены. Ни одно из описаний реальности не будет точным на сто процентов, но некоторые все же более правдивы, чем другие.
На что способна информация
Согласно наивному взгляду, информация – это попытка репрезентации реальности. Если какая-то информация плохо отражает реальность, то это либо мизинформация (честное заблуждение), либо дезинформация (намеренная ложь). А проблемы, вызванные мизинформацией или дезинформацией, решаются путем получения большего количества информации. С увеличением объема информации в мире эпизодическая ложь будет разоблачена, случайные ошибки исправлены, и люди получат более правдивое представление о мире.
В этом автор категорически не согласен с наивным взглядом. Конечно, информация нередко репрезентирует реальность, но это не является определяющим признаком информации. Говоря о космических объектах как об информации, автор не случайно упомянул наряду с астрономами еще и астрологов: что бы кто ни думал по поводу точности астрологии, нельзя отрицать ее важную роль в истории. Во все времена многие политики консультировались с астрологами перед принятием решений, а сегодня мировой астрологический рынок оценивается примерно в 13 млрд долларов. Если теория информации неспособна объяснить важное историческое значение астрологии, то такая теория несостоятельна.
Ошибки, ложь, фантазии и фикции – тоже информация. Вопреки наивному взгляду, информация не имеет сущностной связи с истиной и ее роль в истории заключается не в том, чтобы отражать реальность. Напротив, информация создает новые сущности, связывая воедино разрозненные объекты – будь то люди или империи. Ее определяющим признаком является связь, а не репрезентация; информация – это то, что объединяет разрозненные единицы в общую сеть. Информация не всегда информирует людей о чем-то – чаще она упорядочивает вещи. В качестве примера автор приводит музыку, которая ничего не репрезентирует и не может быть «правдивой» или «ложной», но способна объединять тысячи людей и заставлять их действовать синхронно.
Информация выполняет связующую роль не только в человеческих обществах, но и в биологии. Например, ДНК – это молекулярная информация, которая делает возможной органическую жизнь. Она не репрезентирует реальность, а запускает процессы, которые создают действующую сеть из триллионов клеток всего организма. Так называемые «ошибки» в ДНК относятся к мутациям в процессе ее копирования, а не к неспособности отразить реальность. Без таких мутаций не было бы эволюции: она возможна как раз потому, что ДНК не репрезентирует реальность, а создает новые сущности.
Определение информации как того, что создает новые сущности, соединяя элементы в единую сеть, включает и представление об информации как о репрезентации. Иногда правдивое представление реальности объединяет людей, как это было, например, когда миллионы телезрителей с восторгом смотрели в прямом эфире высадку на Луну. Но ошибочные представления о мире тоже могут объединять – так, сторонники теории заговора испытывают общие чувства, когда смотрят видео о том, что высадки на Луну никогда не было. А иногда сети образуются вообще без каких-либо попыток представить реальность – как, например, когда генетическая информация связывает триллионы клеток или когда волнующая музыка объединяет тысячи людей.
Информация в истории человечества
Взгляд на информацию как на социальные узы помогает понять многие аспекты человеческой истории, которые противоречат наивному представлению об информации. Если бы главной функцией информации была точная репрезентация реальности, было бы трудно объяснить, например, почему Библия стала одним из самых влиятельных текстов в истории.
Библия содержит массу ошибок: в частности, в ней утверждается, что все люди происходят от одной семьи, жившей на Ближнем Востоке около 4000 лет назад, а эпидемии рассматриваются как наказание за человеческие грехи. И все же Библия оказалась эффективным средством для объединения миллиардов людей и создания иудаизма и христианства.
Иногда информация отражает реальность, а иногда нет, но она всегда объединяет: таково ее базовое свойство. Автор подчеркивает, что отказ от наивного взгляда на информацию как на репрезентацию реальности не заставляет людей отказываться от понятия истины и склоняться к популистскому взгляду на информацию как на оружие.
Было бы ошибкой следовать наивному взгляду и верить, что создание более мощных информационных технологий непременно приведет к более правдивому пониманию мира. Если не принимать никаких мер, чтобы склонить чашу весов в пользу истины, увеличение объема и скорости распространения информации, скорее всего, приведет к тому, что относительно редкие и дорогие правдивые сообщения будут вытеснены гораздо более популярными и дешевыми типами информации.
На протяжении истории человечества возможности для связи, объединения и взаимодействия постоянно расширялись, но правдивости и мудрости не становилось больше. Вопреки распространенному мнению, Homo sapiens завоевали мир не потому, что умеют превращать информацию в точную карту реальности, а потому, что умеют использовать информацию для объединения большого числа людей. Но эта способность сопряжена с верой в ложь, заблуждения и фантазии. Вот почему даже массовые иллюзии помогали заставить шагать в ногу десятки миллионов людей.
Далее автор более подробно рассматривает историю информационных сетей и информационных технологий. И начинает он с первой информационной технологии, созданной людьми: с историй.
Глава 2
Истории: безграничные связи
Homo sapiens – единственные животные, способные гибко взаимодействовать в больших количествах. Ни шимпанзе, ни муравьи не создают империи, религиозные организации и торговые сети, объединяющие миллиарды особей. Однако масштабные сети не могут строиться только на личных отношениях, поскольку отдельно взятый человек способен поддерживать долгие тесные связи не более чем с парой сотен других людей. Для создания и поддержания крупных сетей нужно кое-что другое.
Еще около 70 тысяч лет назад сапиенсы начали проявлять небывалую способность к сотрудничеству. Дело в том, что они научились рассказывать вымышленные истории, верить в них и эмоционально на них реагировать. Истории позволили им выстраивать сети не только из цепочек «человек – человек», но и из цепочек совершенно нового типа: «человек – история». Можно объединить неограниченное число людей, познакомив их с одной и той же историей. Например, 1,4 млрд католиков объединены Библией и другими христианскими историями, а 8 млрд участников глобальной торговой сети объединены историями о валютах, корпорациях и брендах.
Даже харизматичные лидеры, имеющие миллионы сторонников, – не исключение из правила, а его подтверждение: ведь людей объединяет не сам лидер, а тщательно придуманная история о нем. Целые команды профессионалов создают и поддерживают в аккаунтах знаменитостей и влиятельных персон то, что сегодня называют брендом.
«Бренд» – это особый тип истории. Брендировать продукт – значит рассказывать о нем историю, которая может иметь мало общего с его реальными качествами, но которую потребители привыкнут ассоциировать с продуктом. Благодаря таким историям кока-кола ассоциируется у многих с весельем и молодостью, а не с ожирением и кариесом.
Брендировать можно не только товары, но и людей. Самый яркий пример – Иисус. За два тысячелетия вокруг него сформировался такой плотный кокон историй, что восстановить его историческую личность попросту невозможно. Подобные истории можно рассматривать как средство укрепления существующих биологических связей. Самые прочные человеческие узы – это семейные узы. Чтобы укрепить доверие между незнакомцами, можно заставить их воспринимать друг друга как членов одной семьи. История об Иисусе представляет его в образе небесного отца всех людей, а потому сотни миллионов христиан видят друг в друге братьев и сестер. Большинство христиан не присутствовало на Тайной вечере, но «помнят» ее более ярко, чем свои семейные обеды.
Продолжить чтение