Книга: Эпоха открытий. Возможности и угрозы второго Ренессанса

Поводы для опасений

Поводы для опасений

Гений ломает ограничения, которые нас связывают. Но возможно, не все цепи предназначены для того, чтобы их рвать. Одни сдерживают нас, другие обеспечивают нашу безопасность. К сожалению, гений не всегда отличает одно от другого. Скептики правы в одном: гений не только совершает открытия, он умножает опасности, которые грозят свести на нет его достижения.

Огнестрельное оружие для всех

В кровопролитном царстве насилия, творимого людьми, порох преодолел тысячелетние традиции, и вместо человеческой силы, мастерства и скорости главную роль в наших конфликтах стала играть химия.

Изобретенный китайцами в IX в. порох пришел в Европу под звуки канонады – наиболее выразительную партию исполнили большие турецкие бомбарды во время осады Константинополя в 1453 г. Они были «оружием не человеческим, но дьявольским», а полвека спустя, не утратив своей мощи, превратились в более компактное и индивидуальное оружие – аркебузу (ранний мушкет) [60]. В 1503 г. в сражении при Чериньоле 6300 испанцев, вооруженных тысячью аркебуз, победили 9000 французов – это был первый в истории бой, исход которого определило ручное огнестрельное оружие [61]. Потери французов превосходили испанские в соотношении 4:1. Среди убитых был французский генерал, герцог де Немур. Ни сила, ни приобретенное за два десятка лет мастерство фехтовальщика, ни дорогие латы не смогли защитить его от пуль, которые выпускали одетые в кожаные дублеты аркебузиры, научившиеся владеть своим оружием всего несколько дней назад и способные наносить одинаково разрушительные удары, даже если были слабы, измучены или больны.

Пятьсот лет спустя обществу снова приходится иметь дело с опасностью, которая возникает, когда оружие попадает не в те руки. Как и наши предшественники в эпоху предыдущего Ренессанса, мы берем мощнейшие инструменты, некогда доступные лишь единицам, и вкладываем их в руки многих.

Величайшая новая опасность, с которой мы в результате столкнулись, – биотерроризм. При всей своей разрушительной силе огнестрельное оружие имеет свои пределы. Один стрелок может задействовать ограниченное количество боеприпасов, у пули есть предельная дальность полета, и, когда стрелок нейтрализован, угроза перестает существовать. Вирус не страдает от этих ограничений. Даже ядерное оружие имеет конечный радиус распространения взрыва, а биологическое – например оспа – распространяется до тех пор, пока все потенциальные носители не окажутся мертвы либо не выработают иммунитет[24].

Только государства и хорошо финансируемые субгосударственные группы имеют достаточно денег и людей, чтобы производить крупномасштабные разрушения с помощью огнестрельного оружия. На сегодняшний день только государства в состоянии разработать и дислоцировать ядерное оружие. Но оборудование для синтеза ДНК, необходимое для синтеза оспы (или вируса Эбола, или легочной чумы), доступно сегодня во всех странах с высоким уровнем дохода и стоит столько же, сколько тридцать лет назад стоил высококлассный офисный копир, то есть вполне вписывается в бюджет любой хорошо финансируемой негосударственной организации. Это лишь один ингредиент из сложнейшего рецепта, и мнения научного сообщества о том, насколько велика реальная возможность спроектировать настоящий биологический ужас, особенно сделать это тайно, разделились. Риск не равен нулю, и он повышается, а не понижается. Мы можем в ближайшее время вступить в эпоху, когда впервые в истории в руках одного человека окажется власть уничтожить сотни миллионов людей.

История холодной войны показала, что государства, обладающие подобной силой, обращаются с ней серьезно и осмотрительно. И все же тогда они заигрывали с Армагеддоном. История огнестрельного оружия говорит нам, что люди по отдельности заслуживают гораздо меньшего доверия. Возможно, нашей главной защитой против самозваных мессий, стремящихся покарать человечество, станет способность хранить в тайне исходный код смертоносных ошибок природы. Удастся ли нам это? В 2002 г. ученые с нуля синтезировали полиомиелит, использовав геном полиомиелита, опубликованный в журнале Nature еще в 1981 г. [62]. В 2005 г. ученые возродили вирус, ответственный за пандемию испанского гриппа 1918 г., одну из худших в истории [63]. Сколько времени пройдет, прежде чем кто-нибудь создаст еще более смертоносный искусственный вирус? В 2012 г. именно эти опасения вызывали длившиеся полгода всемирные научные дебаты о том, следует ли журналу Science публиковать в статье подробности мутации, позволяющей летальному вирусу птичьего гриппа H5N1 распространиться среди людей. В конце концов редакция журнала все же опубликовала этот материал. Наука, согласно аргументам редакции, делает открытия, которые могут быть использованы и в хороших, и в плохих целях. Поскольку нет никаких гарантий, что никто никогда не захочет использовать эти знания с потенциально катастрофическими последствиями, миру лучше без промедления узнавать о новых открытиях. Это поможет нам заранее принять меры против злоупотребления.

Еще до того, как возникли новые лабораторные технологии ДНК, повысившие уровень этой опасности, мы все несколько раз оказывались на волоске от трагедии. Японская секта «Аум Синрикё», члены которой в 1995 г. распылили в токийском метро отравляющее вещество зарин, также имела в своем распоряжении споры сибирской язвы. Члены секты несколько раз пытались распылить споры сибирской язвы с крыш домов в Токио (после этого они были арестованы). К счастью, штамм, который они использовали, был слишком слабым, а распыление слишком редким, чтобы спровоцировать эпидемию [64]. 18 сентября 2001 г. письма, в которых содержались споры сибирской язвы, были отправлены по почте в несколько американских медиакомпаний и двум американским сенаторам – в результате погибло пять человек и пострадало еще 68. ФБР в конце концов пришло к выводу, что споры были произведены и разосланы одним недовольным ученым из правительственной лаборатории биологической обороны. Если бы этот одинокий ученый произвел и распространил большее количество спор, число погибших оказалось бы во много раз выше[25]. В 2014 г. документы, изъятые у инженера-химика, связанного с Исламским государством, выявили попытку подготовки к использованию в качестве оружия бубонной чумы [65].

Коллективные ошибки

Наши новые коллективные силы также таят в себе опасности – менее масштабные, но более вероятные и всеобъемлющие. В главе 1 мы коснулись того, как те же инфраструктуры, сети и инвестиции, которые связывают и объединяют нас, одновременно облегчают координацию преступности и насилия, разжигают ненависть, позволяют появляться хакерам, мошенникам и террористам-подрывникам и помогают торговле разнообразными незаконными товарами, от наркотиков до поддельных документов для детей, находящихся в рабстве. Электронные книги о получении семтекса (пластическое взрывчатое вещество), видеоуроки по сборке детонаторов из мобильных телефонов, рецепты изготовления метамфетамина, вирусы и пластиковое огнестрельное оружие, распечатанное на 3D-принтере, широко доступны на торговых площадках «глубокого интернета».

Еще страшнее то, что вредоносные идеи, когда-то несущественные или угасающие, теперь могут объединять вокруг себя целые сообщества, достаточно большие, чтобы атаковать наши главные общественные блага (свободу, безопасность, толерантность), и достаточно устойчивые, чтобы сопротивляться попыткам их уничтожить. Негосударственные экстремистские организации – основной на сегодняшний день пример того, сколько зла может принести коллективный гений. Трагедия 9 сентября 2001 г. в США, террористическая атака на железной дороге в Мадриде в марте 2004 г., теракт в лондонском метро 7 июля 2005 г. ярко продемонстрировали, что компетентное, умеренно финансируемое сообщество экстремистов – ответственность за все три атаки взяла на себя Аль-Каида – может нарушить общественную безопасность и спровоцировать гибель и разрушения в местах, имеющих важное стратегическое и символическое значение. Война против Аль-Каиды в Афганистане, а также уничтожение лидера группировки Усамы бен Ладена в 2011 г. сократили ресурсы и престиж Аль-Каиды, но вместе с тем привели к формированию родственных организаций по всей Юго-Западной Азии, на Ближнем Востоке и в Северной Африке. Еще один пример – экстремизм в нашем собственном обществе. Будь то исламские экстремисты, захватившие власть в Ираке и Сирии, или христианские экстремисты, замышляющие насилие в отношении мусульман в США, эти движения опираются на ту же инфраструктуру и технологии, которые помогли сирийским беженцам найти приют в европейских семьях в 2015 г. (подробнее см. главу 7).

Сложные вопросы

Некоторые результаты деятельности индивидуального и коллективного гения не так очевидно плохи, однако они поднимают сложные вопросы о том, в каком мире мы хотим жить.

Мир без рабочих мест

Одним из значимых факторов, способствующих росту производительности, от печатного станка Гутенберга до сегодняшнего дня, была замена множества рабочих несколькими машинами. По мере того как машины прокладывают себе путь в сельском хозяйстве и промышленности, рабочие, потерявшие свои места, перемещаются в сферу услуг – в которой сегодня заняты большинство из нас. Как оказалось, услуги трудно механизировать. Клиенты хотят получить новизну впечатлений, разнообразие, творчество, спонтанность и дружелюбие – все это трудно обеспечить за счет автоматизации. Мы можем автоматизировать сборку двигателя, но нам доподлинно известно, что автоматизировать хорошую стрижку или хорошую книгу намного сложнее.

Благодаря последним достижениям в области искусственного интеллекта и робототехники положение меняется. В 2004 г. появление автопилотируемых автомобилей казалось маловероятным. «Выполнение левого поворота на полосу встречного движения включает в себя так много факторов, что трудно представить себе тот набор правил, который помог бы машине воспроизвести поведение водителя», – утверждали несколько видных экономистов [66]. Шесть лет спустя компания Google объявила о том, что это сделано. Среди других когнитивных задач, которые когда-то считались слишком сложными для автоматизации, но теперь доступны машинам, – выражение сопереживания пациентам с психическими расстройствами; написание рутинных новостных сообщений в газете; выполнение хирургических операций; совершение финансовых сделок; самообучение игре Space Invaders и выигрыш в телевикторине Jeopardy! (суперкомпьютер Watson компании IBM, сделавший это в 2011 г., в настоящее время диагностирует больных раком и предлагает для них схемы лечения).

Почти половина всех нынешних рабочих мест в США находится под угрозой автоматизации в ближайшие два десятилетия – этот нелегкий процесс Клаус Шваб, основатель Всемирного экономического форума, назвал «четвертой промышленной революцией» [67]. Производительность значительно возрастет. Спровоцирует ли автоматизация появление огромного количества хронически нетрудоустроенных людей, которым некуда будет пойти, или для них появятся новые рабочие места? В первом десятилетии XXI в. более правдоподобным выглядел первый сценарий: в 2010 г. лишь 0,5 % рабочей силы США имели работу в новых отраслях, которых еще не существовало в 2000 г. [68]. Что можно сказать о прибыли, которую принесет автоматизация? Разделят ли ее с работниками, чтобы помочь им приспособиться, или пропасть между богатыми и бедными приведет к социальному взрыву? Во втором десятилетии XXI в. это стало реальной проблемой и реальной опасностью, о которой мы подробнее поговорим в главе 7.

Сильные государства

В эпоху Возрождения порох не только сделал сильнее отдельных людей, но и помог укреплению государства. До появления пороха «государство» было весьма расплывчатым понятием: наследственные князья, окруженные небольшой группой придворных и пользующиеся поддержкой союзников из числа знати. После появления пороха военные бюджеты начали расти: прежде всего требовалось создать более надежные укрепления, способные выдержать пушечный огонь, затем построить более мощные пушки, способные разрушить эти укрепления, затем собрать большие армии для защиты и нападения на эти новые бастионы. Следуя той же логике, торговые суда превращались в плавучие крепости. По мере того как военная экономика сбрасывала с доски мелких игроков, «государство» монополизировало применение силы и начало выращивать бюрократическую систему – сборщиков налогов, бухгалтеров, градостроителей, – чтобы идти в ногу с растущими затратами и потребностями «современного» военного дела [69].

Сегодняшние технологии также делают сильнее и отдельных людей, и государство в целом. Коммуникационные технологии позволяют каждому из нас транслировать наше сообщение и одновременно обеспечивают государство новыми ресурсами для контроля той сферы, которую до недавнего времени мы считали своей личной жизнью. В пользу общественной безопасности были сделаны значительные уступки за счет неприкосновенности частной жизни граждан, без согласия общества и даже без его предуведомления. В США Агентство национальной безопасности собирало метаданные (кто, что и когда) о каждом телефонном звонке, сделанном каждым американцем по крайней мере в течение десяти лет [70]. Базы данных зарубежной электронной почты, чатов и текстовых сообщений гораздо обширнее, и право просматривать их имеют более двадцати других правительственных организаций США [71]. Что еще государство держит под наблюдением, мы пока не знаем.

Стоящий ли это компромисс? Есть ли у нас выбор? Наш расцветающий гений заставляет нас без обиняков задать себе эти вопросы.

Эпоха Ренессанса не дает гарантий – она дает возможности, реализовать которые наша общая задача. Скептики правы еще в одном: мы многое могли бы сделать лучше, мы могли бы зажечь в нашем обществе огонь созидания и сотрудничества. «…Нередко случается, – наставлял своих современников Макиавелли, – что от промедления теряешь благоприятный момент»[26] [72]. План энергичных действий см. в части IV.

Тем временем в игру вступают другие силы. Часть III рассказывает о том, что в эпоху предыдущего Ренессанса процветающий гений существовал бок о бок с неожиданными катастрофами и новыми конфликтами, которые люди еще не умели решать. Но среди подобного уродства они продолжали упорно творить красоту и добиваться достижений, которые мы воспеваем до сих пор, пятьсот лет спустя, – это и есть жизненно важное наследие, которое они оставили будущим поколениям.

Мы мчимся вперед сломя голову, и нас ждут похожие бури. Каким окажется наше наследие?