Книга: Достучаться до небес: Научный взгляд на устройство Вселенной
ГЛАВА 11. РИСКОВАННОЕ ДЕЛО
<<< Назад ЧЕРНЫЕ ДЫРЫ В БОЛЬШОМ АДРОННОМ КОЛЛАЙДЕРЕ |
Вперед >>> РИСКИ СЕГОДНЯШНЕГО ДНЯ |
Нейт Силвер, создатель блога FiveThirtyEight, лучше всего предсказавшего итоги президентских выборов 2008 г., в 2009 г. взял у меня интервью для книги о прогнозировании, над которой работал. В тот момент мы стояли перед лицом экономического кризиса, войны в Афганистане, ростом затрат на здравоохранение, потенциально необратимых изменений климата и других неотвратимых угроз. Я согласилась встретиться с ним отчасти из собственного интереса, потому что меня интересовали взгляды Нейта на то, когда и почему сбываются прогнозы.
Тем не менее меня несколько озадачил тот факт, что Нейт выбрал для интервью меня. Я предсказывала только результаты столкновений элементарных частиц, а гости Лас–Вегаса, не говоря уже о правительстве, вряд ли заключают об этом пари. Подумалось, что Нейт, возможно, будет спрашивать про черные дыры в БАКе. Но, несмотря на отвергнутый к тому моменту судебный иск, мне не верилось, что Нейта интересует этот сценарий. Ведь настоящих?то опасностей — взять хотя бы перечисленные выше — вокруг гораздо больше!
Нейта и, правда, не интересовала эта тема. Он задавал мне гораздо более тонкие вопросы о том, как физики рассуждают и откуда берут предсказания относительно БАКа и других экспериментов. Он всерьез интересуется прогнозированием, а ученые постоянно занимаются этим. Нейт хотел больше узнать о том, как мы выбираем вопросы, которые затем ставим перед собой, и какие методы используем в прогнозах. Эти же вопросы мы с вами вскоре рассмотрим более подробно.
Но, прежде чем говорить об экспериментах, которые ставятся на БАКе, и рассуждать о том, что мы можем там обнаружить, мы еще немного поговорим о рисках. Странное сегодняшнее отношение к рискам и путаница в вопросе о том, когда и как следует их предсказывать, безусловно, заслуживают нашего внимания. Новости каждый день сообщают о многочисленных трагедиях, причиной которых стали непредвиденные или не принятые во внимание проблемы. Возможно, физика элементарных частиц и представление о масштабных различиях помогут нам внести некоторую ясность в этот запутанный вопрос. Судебный иск по поводу черных дыр в БАКе был, разумеется, глупостью, но и он сам, и другие, по–настоящему насущные проблемы сегодняшнего дня поневоле заставляют задуматься о том, как важно заранее предусмотреть возможные риски.
Предсказания в физике элементарных частиц сильно отличаются от оценки рисков в реальном мире, и мы с вами в одной-единственной главе можем лишь очень поверхностно затронуть вопросы оценки и снижения рисков. Более того, пример с черными дырами не стоит обобщать, поскольку в данном случае риска как такового практически не существует. Тем не менее он может оказаться полезным при рассмотрении вопросов оценки и учета рисков. Мы увидим, что, хотя черные дыры в БАКе никогда никому не угрожали, некорректный прогноз часто бывает очень опасен.
РИСКИ СЕГОДНЯШНЕГО ДНЯ
Рассматривая предположения о черных дырах в БАКе, физики экстраполировали существующие научные теории на еще не исследованные энергетические масштабы. Обоснованные научные рассуждения и четкие экспериментальные данные позволили нам сделать вывод, что ничего катастрофического произойти не может, хотя мы и не знали на тот момент, что покажут реальные эксперименты. Ученые пришли к единому мнению о том, что опасность от черных дыр в коллайдере пренебрежимо мала и никак не может представлять проблемы, даже на промежутках времени, сравнимых со временем жизни Вселенной.
Такой подход в корне отличается оттого, как оценивают другие потенциальные риски. Я до сих пор не понимаю, как экономисты и финансисты несколько лет назад могли не заметить надвигающегося финансового кризиса и почему после того, как кризис удалось купировать, похоже, начали готовить почву для следующего. Экономисты и финансисты в своих прогнозах не высказывали единого мнения о том, что все будет в порядке, и все же никто не вмешался, пока экономика не оказалась на грани полного краха.
Осенью 2008 г. я принимала участие в одной междисциплинарной конференции, во время которой мне не в первый и не в последний раз задали вопрос о черных дырах. Вице–президент Goldman Sachs International, сидевший справа от меня, тихонько пошутил, что настоящая черная дыра, с которой нам придется иметь дело, — это экономика. Аналогия оказалась чрезвычайно удачной.
Черные дыры захватывают все, что оказывается поблизости, и преобразуют при помощи сильных внутренних сил. Черную дыру полностью характеризуют ее масса, заряд и величина, известная как угловой момент импульса, поэтому дыра не отслеживает, что именно и как попадает внутрь; захваченная информация, судя по всему, теряется. Черные дыры делятся этой информацией, но очень медленно, через тонкие корреляции в излучении, которое просачивается наружу. Мало того, крупные черные дыры испаряются медленно, тогда как мелкие исчезают почти мгновенно. Это означает, что если мелкие черные дыры не могут протянуть слишком долго, то крупные, по существу, слишком велики, чтобы погибнуть[36]. Это вам ничего не напоминает? Информация, а также долги и деривативы, попавшие в банки, оказались в ловушке и превратились в не поддающиеся расшифровке сложные активы.
Сегодня вокруг слишком много глобальных явлений, и мы, по существу, проводим крупномасштабные неуправляемые эксперименты. Однажды в радиошоу Coast to Coast меня спросили, буду ли я продолжать эксперимент — каким бы потенциально интересным он ни был, — если существует вероятность подвергнуть опасности весь мир. К неудовольствию консервативной аудитории радиоканала я ответила, что мы уже проводим такой эксперимент с выбросами углерода в атмосферу. Почему это тревожит лишь немногих?
Как и в случае с открытиями в научном мире, резкие изменения редко происходят без всяких предварительных признаков. Мы не знаем наверняка, что климат изменится катастрофически, но мы уже видим признаки перемен — тающие ледники и т. д. Возможно, в 2008 г. экономика рухнула внезапно, но многие финансисты знали достаточно и успели покинуть рынки до катастрофы. Новые финансовые инструменты и высокое содержание углерода потенциально способны подтолкнуть грядущие радикальные перемены. В подобных ситуациях вопрос заключается не в том, существует ли риск. Здесь нам нужно определить, какие следует принять меры предосторожности, чтобы устранить возможные опасности, и решить, какой уровень рисков считать приемлемым.
РАСЧЕТ РИСКОВ
В идеале одним из первых шагов должен быть расчет рисков. Иногда мы, люди, просто неверно оцениваем вероятности. Когда журналист Джон Оливер расспрашивал Уолтера Вагнера, одного из истцов в деле против БАКа, о черных дырах, то Вагнер полностью потерял доверие, которое к нему, может быть, кто?то испытывал; он оценил вероятность того, что БАК уничтожит Землю, в 50%, потому что это событие либо произойдет, либо нет. Джон Оливер недоверчиво отозвался на это: «Не уверен, что вероятность работает так, как вы говорите». К счастью, Оливер прав, и мы способны оценивать вероятности лучше, чем Вагнер.
Но сделать это иногда очень непросто. Подумайте, к примеру, о вероятности губительных изменений климата, или о вероятности возникновения кризиса на Ближнем Востоке, или о судьбе экономики. Существуют и гораздо более сложные ситуации.
Дело не только в том, что уравнения, описывающие риски, сложно решаются. Дело в том, что мы зачастую просто не знаем, что это за уравнения. В вопросе о климатических изменениях мы можем строить модели и изучать исторические записи. В двух других ситуациях мы можем поискать исторические аналогии или попытаться построить упрощенные модели. Но во всех трех случаях любой прогноз будет смазан сильнейшими неопределенностями.
Точный и надежный прогноз — дело сложное. Даже когда мы изо всех сил стараемся учесть в модели все существенные нюансы, входные данные и предположения, лежащие в ее основе, могут существенно повлиять на результат. Оптимистичный прогноз не имеет смысла, если модель построена на предположениях, связанных с серьезными неопределенностями. Чтобы прогноз имел какую?то ценность, необходимо тщательно рассматривать эти неопределенности и никогда о них не забывать.
Прежде чем обратиться к другим примерам, позвольте мне привести в качестве иллюстрации к проблеме забавный случай. В начале своей научной карьеры я обратила внимание на то, что Стандартная модель допускает для определенной величины гораздо более широкий диапазон, чем предсказывалось ранее, за счет квантово–механической составляющей, размер которой зависел от недавно (на тот момент) измеренной и удивительно большой массы t–кварка. Когда я представила свои выводы на конференции, мне предложили построить график зависимости предсказанной мной величины от массы t–кварка. Я отказалась, зная, что эта величина зависит от слишком многих параметров и что оставшиеся неопределенности не позволят построить здесь простую кривую. Однако среди коллег нашелся «специалист», который, недооценив неопределенности, все?таки построил график (мне почему?то кажется, что сегодня многие прогнозы в реальной жизни делаются именно так), и некоторое время на его предсказание достаточно широко ссылались. Со временем, когда эту величину измерили, и она не попала в предсказанный диапазон, такая несогласованность нашла простое и верное объяснение: эксперт был слишком оптимистичен в оценке неопределенностей. Очевидно, лучше избегать подобного подхода как в науке, так и в любой жизненной ситуации. Мы хотим, чтобы прогнозы имели смысл, а это возможно только при тщательном учете неопределенностей.
Реальные ситуации бывают еще более «упрямы» и требуют, чтобы мы еще осторожнее обращались с неопределенностями и неизвестными. Нужно с оглядкой подходить к прогнозам, в которых невозможно учесть или просто не учтены все эти вещи.
Одна из проблем прогнозирования связана с корректной оценкой системных рисков, которые почти всегда очень трудно перевести в количественную форму. В любой крупной взаимосвязанной системе меньше всего внимания уделяется крупномасштабным элементам, которые «тянут» за собой модели множественных отказов, возникающих из?за многочисленных взаимосвязей между меньшими частями. Информация может потеряться при передаче или просто остаться незамеченной. Такие системные проблемы способны многократно умножить последствия любых других потенциальных рисков.
Будучи членом комиссии по безопасности исследовательских программ NASA, я не раз сталкивалась с подобными структурными проблемами. Как известно, подразделения космического агентства раскиданы по всей стране. И если о своей технике и оборудовании отдельные центры агентства еще заботятся, то качество связи между ними никого особенно не интересует и денег в эту инфраструктуру вкладывается куда меньше. В путешествиях между подразделениями информация легко теряется. В адресованном мне электронном письме аналитик по рискам Джо Фрагола, работавший в NASA и аэрокосмической отрасли и проводивший на этот счет специальное исследование, писал: «Мой опыт говорит о том, что анализ рисков, проведенный без совместного участия специалистов по конкретным вопросам, команды системной интеграции и риск–аналитиков, не имеет смысла. В частности, так называемые риск–анализы под ключ превратились в упражнения по статистике и представляют в настоящее время лишь академический интерес». Слишком часто аналитикам приходится поступаться либо широтой, либо подробностью, хотя в долгосрочной перспективе важно и то и другое.
Одним из самых наглядных примеров подобной ошибки (из целого ряда других) стал инцидент на платформе British Petroleum в Мексиканском заливе в апреле 2010 г. В лекции, прочитанной в Гарварде в феврале 2011 г., Черри Мюррей, декан Гарвардского университета и член Национальной комиссии по утечке нефти на платформе Deepwater Horizon, назвал ошибки руководства ВР одной из серьезнейших составляющих аварии. Ричард Сирс, бывший вице–президент компании Shell Oil Co., который в комиссии был старшим советником по науке и техническим вопросам, рассказал, что руководство ВР мыслило, как он выразился, «гиперлинейно»; оно пыталось решать проблемы по очереди, одну за другой и даже не пыталось сформировать общую картину происходящего.
Физика элементарных частиц — высокоспециализированная и сложная отрасль, цель которой — выделить простые элементарные составляющие и научиться строить четкие прогнозы на базе наших гипотез. Наша задача — получить доступ к маленьким расстояниям и большим энергиям, а не разбираться в сложных взаимосвязях. Хотя мы зачастую не знаем, какая из предложенных моделей верна, мы можем предсказать—для каждой конкретной модели, — какого рода событий следует ожидать, к примеру, когда протоны в коллайдере столкнутся друг с другом. А когда мелкие масштабы входят в более крупные, то эффективные теории этих крупных масштабов говорят нам, какое место занимают в них мелкие масштабы и какие ошибки мы можем совершить, если проигнорируем такие детали.
Однако в большинстве реальных ситуаций нет того четкого и понятного разделения по масштабам, о котором мы говорили в главе 1. Несмотря на то что иногда мы пользуемся одними и теми же методами, уже несколько нью–йоркских банкиров успели заявить, что «финансы — это не раздел физики». В банковском деле без знаний о взаимодействиях на мелких структурных уровнях, как правило, невозможно предвидеть крупномасштабные результаты тех или иных действий.
Отсутствие четкого понимания границ между масштабами может привести к катастрофическим последствиям. Возьмем коллапс банка Barings. До своего падения Barings, основанный в 1762 г., был старейшим коммерческим банком Британии. Он финансировал наполеоновские войны, покупку Луизианы и строительство канала Эри. Тем не менее в 1995 г. несколько неудачных ставок, сделанных одним–единственным трейдером в крохотной сингапурской конторе, его разорили.
Чуть ближе к нам по времени махинации Джозефа Кассано из страховой компании AIG едва не привели к гибели компании и создали угрозу крупного финансового коллапса уже в мировом масштабе. Кассано возглавлял относительно небольшое (400 человек) подразделение AIG Financial Products в составе этой компании. Дела AIG обстояли относительно стабильно до тех пор, пока Кассано не начал использовать кредитно–дефолтные свопы (сложный финансовый инструмент, продвигаемый банками и относящийся к категории внебиржевых деривативов) для хеджирования ставок по обеспеченным долговым обязательствам (биржевым деривативам).
Задним числом мы знаем, что его схема хеджирования представляла собой пирамиду. Тем не менее группа Кассано легко довела объем внебиржевых деривативов до 500 млрд долларов, из которых более 60 млрд долларов было завязано на низкокачественные ипотечные кредиты. Если бы, как в физике, мелкие подразделения объединялись в крупные системы, то информация об их действиях (или их результаты) в надлежащем порядке появилась бы на более высоком уровне и руководитель среднего звена смог бы без труда вмешаться в ситуацию. Но разделение масштабов в компании, к несчастью, широко нарушалось, причем без всякой на то необходимости; в результате махинации Кассано остались практически незамеченными. Его деятельность не регулировалась. Эти внебиржевые деривативы были рассредоточены по всему миру, и никто не разглядел потенциальных последствий такой практики. Когда разразился кризис низкокачественной ипотеки, AIG оказалась к нему не готова и рухнула под тяжестью убытков. Заплатить по ее долгам пришлось американским налогоплательщикам.
Регулирующие органы следили (до некоторой степени) за стандартными параметрами безопасности отдельных компаний, но никто не рассматривал и не оценивал систему в целом и встроенные в нее взаимосвязанные риски. Сложные системы с перекрывающимися долгами и обязательствами нуждаются в лучшем понимании внутренних связей и всеохватывающем способе оценки, сравнения и принятия решений по рискам и компромиссам в интересах будущих прибылей. Эта проблема относится практически к каждой крупной системе.
Отсюда мы приходим к еще одному фактору, затрудняющему расчет рисков и управление ими: человеческая психика, с одной стороны, и рыночная и политическая системы, с другой, по–разному понимают долгосрочные и краткосрочные риски — иногда разумно, но чаще с позиции сиюминутной выгоды. Большинство экономистов понимали, что рыночные пузыри не могут бесконечно расти. Риск состоял не в том, что пузырь может лопнуть (неужели кто?то всерьез верил, что цены на недвижимость будут вечно удваиваться за небольшой промежуток времени?), а в том, что он лопнет в ближайшем будущем. Пользоваться ростом пузыря или даже раздувать его (пусть даже вы знаете, что поддерживать это раздувание до бесконечности невозможно) не всегда глупо и близоруко, но вы должны быть готовы в любой момент забрать свою прибыль (или бонусы) и прикрыть дело.
Если говорить об изменении климата, то мы не знаем, какими показателями можно описать таяние гренландской ледяной шапки. Если же мы захотим определить, начнет ли она таять в определенный период времени, то вероятности окажутся еще более неопределенными. Но незнание конкретных чисел — не повод прятать голову в лед (или в талую воду).
Мы с трудом находим общий язык в вопросах о рисках, связанных с изменением климата, и о том, как и когда нужно принимать меры; причина в том, что изменения в окружающей среде нарастают относительно медленно. И мы не знаем, как определить цену любого нашего действия или бездействия. Если бы изменения климата были резкими, а их последствия — драматическими, мы бы с гораздо большей готовностью соглашались на немедленные меры. (Разумеется, как бы быстро мы ни действовали, к тому моменту было бы уже поздно.) Это означает, что некатастрофические изменения климата тоже заслуживают внимания.
Но, даже если вероятность определенного исхода хорошо известна, человек по природе своей склонен по–разному оценивать маловероятные события с катастрофическими результатами и весьма вероятные, но не столь драматичные события. Мы гораздо чаще слышим об авиакатастрофах и терактах, чем о дорожно-транспортных происшествиях, хотя в них ежегодно гибнет гораздо больше людей. Люди обсуждали черные дыры, ничего не понимая ни в физике, ни в вероятностях, потому что последствия катастрофического сценария казались очень страшными. С другой стороны, множество относительно мелких рисков совершенно не привлекают внимания, потому что их последствия не слишком заметны. Даже подводное бурение до аварии в Мексиканском заливе многие считали совершенно безопасным.
Еще одна связанная с этим проблема состоит в том, что самые большие прибыли и потери возникают на «хвостах» вероятностного распределения — среди наименее вероятных событий, которые мы к тому же знаем хуже всего. В идеале хорошо было бы проверить наши расчеты при помощи среднесрочной оценки или усреднения предыдущих схожих ситуаций. Но если прежде ничего подобного не происходило (или если мы игнорируем такую возможность), то у нас просто нет данных для статистической оценки. Когда риск или возможная выгода на «хвостах» распределения достаточно велики, то именно они фигурируют в прогнозах — если, конечно, вам заранее известно, что они собой представляют. Ясно только, что если событий слишком мало и усреднять нечего, то традиционные статистические методы неприменимы.
Причиной финансового кризиса стали события, которые не попали в поле зрения экспертов. Немало людей сумело заработать деньги, основываясь на предсказуемых аспектах экономики, но к самым нежелательным сценариям привели события, которые считались весьма маловероятными. Моделируя надежность финансовых инструментов, специалисты, как правило, использовали данные лишь за несколько последних лет и не учитывали возможность, что в экономике может наступить спад или что он будет таким резким. Оценки того, следует ли регулировать финансовые инструменты, основывались на данных за короткий промежуток времени, причем такой, на протяжении которого рынки только росли. Позже специалисты вынуждены были признать принципиальную возможность падения рынков, но оценка возможных масштабов этого падения оказалась сильно занижена и невозможно было верно предсказать подлинную цену, которую экономике придется заплатить за недостаточное регулирование. Практически никто не обращал внимания на «маловероятные» события, подталкивавшие мир к кризису. Поэтому риски, которые в ином случае оказались бы очевидными, даже не рассматривались. На самом же деле даже маловероятные события необходимо учитывать, если они могут оказать на ситуацию существенное влияние.
Оценку рисков сильно затрудняет тот факт, что исходные посылки, на которых она основана, тоже могут оказаться ошибочными, и вероятность этого, в свою очередь, очень сложно оценить. А без этого любые оценки становятся следствием предубеждений их авторов и, естественно, внушают законное недоверие. Кроме того, помимо личных предпочтений, скрытых в исходных посылках, многие решения в области практической политики должны приниматься с учетом неизвестного количества неизвестных — факторов, которые невозможно или не удалось предвидеть. Иногда мы просто не в состоянии предугадать в точности именно то маловероятное событие, которое позже породит проблемы. Все это может превратить любые попытки прогнозирования в пустые упражнения для ума.
СМЯГЧЕНИЕ ПОСЛЕДСТВИЙ РИСКОВ
К счастью для нас, мы абсолютно уверены, что вероятность возникновения в коллайдере опасных черных дыр чрезвычайно мала. Мы не знаем численного значения вероятности катастрофического исхода, но нам это и не нужно — она слишком мала. Любое событие, которое за все время жизни Вселенной наверняка не произойдет даже однажды, можно смело игнорировать.
Однако в более общем случае можно сказать, что численная оценка приемлемого уровня риска невероятно сложна. Ясно, что мы хотим вообще исключить серьезные риски, то есть любые события, которые могут угрожать жизни, планете и вообще всему, что нам дорого. Но для тех рисков, которые мы можем принять, нам нужен способ оценки: мы должны знать, кто выиграет от этого события и кто проиграет. Короче говоря, необходима система, которая поможет нам оценить и предвидеть риски.
По поводу изменений климата и других потенциальных опасностей, которыми он занимается, специалист по оценке рисков Джо Фрагола сказал мне следующее: «Настоящая проблема не в том, может ли все это произойти, и не в том, какие повлечет за собой последствия. Основная проблема в том, каковы вероятность этих событий и связанная с ней неопределенность. И какую часть глобальных ресурсов следует выделить на борьбу с подобными рисками, исходя не только из вероятности события, но и из вероятности того, что мы в силах что?нибудь с этим сделать».
Чиновники часто полагаются при оценке рисков и принятии решений на так называемый анализ по соотношению «затраты — выгоды». На первый взгляд эта идея представляется достаточно простой. Рассчитайте, сколько вам придется заплатить за те или иные выгоды и прикиньте, стоит ли игра свеч. Кажется, все предельно логично. Но на практике реальный анализ затрат и выгод провести иногда очень сложно. Проблема не только в том, чтобы измерить затраты и выгоды, что само по себе может оказаться непросто; проблема в том, что зачастую надо сначала определить, что мы подразумеваем под затратами и выгодами. Многие гипотетические ситуации содержат слишком много неизвестных, чтобы можно было точно вычислить любой из этих параметров или рассчитать риски. Ведь необходимо учесть — или хотя бы распознать — все неопределенности!
Безусловно, человечеству пригодилась бы разумная система, способная предугадывать затраты и риски на ближайшее будущее. Но все не так просто. Не любой, даже вполне реальный, обмен можно оценить исходя исключительно из стоимости. Что если вещь, которой вы можете лишиться, вообще невозможно заменить? Если бы всепожирающая чёрная дыра могла возникнуть в БАКе со сколько?нибудь серьезной вероятностью в течение жизни одного поколения — или хотя бы в ближайший миллион лет, — мы, разумеется, отказались бы от этого проекта.
В долговременной перспективе человечество, бесспорно, получает от фундаментальных исследований немалые выгоды, но экономическую стоимость отказа от проекта редко можно достоверно рассчитать, потому что оценить эти выгоды количественно практически невозможно. Наша цель в экспериментах с БАКом — получить знания, лучше понять природу фундаментальных взаимодействий, а возможно, и природу пространства. Среди предполагаемых выгод — образованное, технически подготовленное и мотивированное человечество, вдохновляемое глубокими мыслями о Вселенной и ее устройстве. На практическом уровне мы разовьем информационный успех Европейского центра ядерных исследований и будем развивать грид–технологии, которые позволят обрабатывать информацию глобально; кроме того, достижения в области сверхпроводников и магнитных технологий будут полезны при разработке различных медицинских аппаратов, таких как МРТ. Возможно, со временем открытия в области фундаментальной науки найдут себе новые практические применения, но предвидеть их почти невозможно.
Вообще, анализ «затраты — выгоды» всегда трудно применять к фундаментальной науке. Один юрист в шутку заметил, что наряду с громадными рисками, о которых предпочитают помалкивать, БАК имеет крохотный шанс на получение грандиозных результатов, о которых все только и говорят, если сумеет решить все проблемы мира. Разумеется, ни один из названных сценариев не укладывается в схему стандартных расчетов затрат и выгод, но юрист — невероятно! — старался корректно их сформулировать[37].
Можно сказать одно: наука выигрывает от того, что ее цель — «вечные» истины. Если вам удастся разгадать, как устроен мир, ответ будет верным вне зависимости от того, сколько времени вам потребовалось на его поиски. Конечно, никто не хочет, чтобы наука развивалась медленно. Но задержка длиною в год наглядно продемонстрировала, как опасно спешить в таком деле, как пуск коллайдера. Как правило, ученые стараются действовать наверняка.
Практически в любой сколько?нибудь сложной ситуации — идет ли речь об изменении климата или о банковском деле — анализ «затраты — выгоды» сталкивается с множеством проблем. В принципе, такой анализ имеет право на существование, да и возражений фундаментального толка против него нет, но от способа его приложения зависит очень многое. Я за то, чтобы этот метод применялся более научно. Мы должны четко представлять себе неопределенности, заложенные в тех числах, которые получаются в результате расчетов. Как в любом научном анализе, мы должны брать в расчет возможные ошибки, предположения и предубеждения и не забывать о них рассказывать.
Так, в вопросе об изменении климата имеется один очень существенный фактор: относятся ли затраты и выгоды, о которых идет речь, к отдельному человеку, стране или земному шару в целом. Кроме того, потенциальные затраты или выгоды могут переходить из одной категории в другую, но мы далеко не всегда это учитываем. Одна из причин того, почему американские политики решили не подписывать Киотский протокол, состоит в том, что они пришли к выводу: если его принять, то затраты для американцев — особенно для американского бизнеса — окажутся гораздо существеннее возможных выгод. Однако они не взяли при этом в расчет долгосрочные затраты, связанные с глобальной нестабильностью, и выгоды, которые может принести регулируемая окружающая среда (ведь в такой среде могли бы расцвести новые бизнесы). Многие экономические расчеты затрат на борьбу с изменением климата никак не учитывают дополнительные потенциальные выгоды для экономики, связанные с инновациями или стабильностью и меньшей зависимостью от других государств. В вопросе о том, как изменится мир, слишком много неизвестных.
Встает также вопрос о том, как следует оценивать и сдерживать те риски, которые пересекают государственные границы.
Представьте, что черные дыры действительно представляли бы угрозу для планеты. Мог бы кто?нибудь на Гавайях успешно судиться с организацией, проводящей эксперименты в Женеве? При существующих законах это невозможно, но не исключено, что успешный судебный иск такого рода мог повлиять на финансирование эксперимента США.
Распространение ядерных технологий — еще один вопрос, где на кону оказывается глобальная стабильность. Но мы лишь в ограниченной степени можем контролировать опасности, которые зарождаются по ту сторону наших государственных границ. И изменение климата, и распространение ядерных технологий относятся к тем вопросам, которые каждое государство решает самостоятельно, однако порождаемые ими опасности угрожают не только создавшим их организациям или странам. Политическая проблема — что делать, когда риски выходят за пределы границ или законных юрисдикций — не имеет простого решения. Очевидно, однако, что вопрос этот чрезвычайно важен.
Успех CERN как организации по–настоящему международной опирается на объединенные усилия многих стран в достижении общих целей. Каждое отдельное государство, конечно, может попытаться минимизировать свой финансовый вклад, но в остальном здесь не затронуты ничьи индивидуальные интересы. Все страны–участники работают вместе, потому что наука, которую все они ценят, едина. Страны–хозяева — Франция и Швейцария — получают, возможно, чуть большие экономические выгоды за счет рабочих мест и инфраструктуры, но в целом это не игра с нулевой суммой[38]. Ни одно государство здесь не выигрывает за счет других.
Еще одна достойная внимания черта БАКа заключается в том, что Центр и страны–участники несут полную ответственность за любые технические или политические проблемы, связанные с коллайдером. Так, последствия гелиевого взрыва 2008 г. пришлось устранять за счет бюджета Центра. Никто не выигрывает от неполадок или аварий, и уж тем более те, кто работает на коллайдере. В ситуациях, где затраты и выгоды не сбалансированы, а те, кто получает все выгоды, не отвечают полностью за риски, анализ «затраты — выгоды» не слишком полезен.
В любом случае мы хотим избежать моральных ловушек, когда интересы и риски людей не уравновешиваются и у них может появиться желание взять на себя слишком большой риск. Нам нужны правильные мотивирующие схемы.
Возьмем, к примеру, хедж–фонды. Полноправные партнеры получают свой процент каждый год, когда фонд остается с прибылью, но они не платят сравнимых по размеру штрафов, если фонд несет потери или попросту разоряется. Индивидуальные участники сохраняют полученную прибыль, а за неудачи расплачиваются устроители фонда — налогоплательщики. В этих условиях инвесторам выгоднее всего «раскачивать лодку», стимулируя максимальные колебания и нестабильность. Эффективная система и эффективный анализ «затраты — выгоды» должны принимать во внимание такое распределение рисков, вознаграждений и ответственности. Необходимо учитывать различные категории — или масштабы — задействованных в процессе людей.
В банковском деле тоже есть очевидные моральные ловушки, где риски и выгоды не всегда уравновешены. Политика типа «слишком велики, чтобы погибнуть» в сочетании со слабыми рычагами воздействия порождает ситуацию, в которой за потери отвечают одни (налогоплательщики), а максимальную выгоду получают другие (банкиры или страховщики). Можно спорить, насколько необходимы были в 2008 г. бюджетные вливания, но мне кажется, что куда разумнее было бы заранее подстраховаться от подобных ситуаций, уравновесив риск и ответственность.
Все данные об экспериментах на БАКе и о связанных с ними рисках легко доступны. Отчет о безопасности выложен в сеть, и любой может его прочесть. Очевидно, на мой взгляд, что любая организация, которая хотела бы, чтобы в случае чего государство ее выручило, или которая занимается не слишком надежными спекуляциями, должна предоставлять регулирующим органам достаточно данных о себе, чтобы можно было оценить и потенциальные риски, и выгоды. Достоверные данные должны быть доступны, тогда специалисты по ипотеке, регулирующие органы или еще кто?то смогут в будущем прогнозировать финансовые, да и другие потенциальные катастрофы.
Конечно, само по себе это не решение, но разобраться в «масштабах», то есть в категориях «кому выгодно» и «кто рискует», а также в границах времени было бы полезно и здесь, хотя бы для того чтобы облегчить анализ и сделать его четче и понятнее. Вопрос масштаба переходит здесь в вопрос о том, с кем связаны расчеты: идет ли речь об отдельном человеке, об организации, о правительстве или о мире в целом; интересно также, какой промежуток времени нас интересует — месяц, год, десять лет? Политика, устраивающая банк Goldman Sachs, может быть не слишком полезна для экономики в целом или для человека, ипотечный кредит которого внезапно приказал долго жить. Это означает, что даже самые точные расчеты гарантируют верный результат лишь в том случае, если применяются к правильно сформулированному и тщательно продуманному вопросу.
Определяя политику, оценивая затраты и выгоды, мы, как правило, склонны отбрасывать возможные выгоды глобальной стабильности и помощи ближнему, причем выгоды не только моральные, но и финансовые. Отчасти это объясняется тем, что эти выгоды трудно оценить количественно, а отчасти тем, что делать оценки и применять четкие подходы в нашем стремительно меняющемся мире непросто. И все же ясно, что самые надежные правила — те, что учитывают все возможные выгоды, а не только выгоды отдельных людей, организаций или государств; не исключено даже, что мир с такими правилами действительно станет лучше.
Кроме того, при расчете затрат и выгод и при подготовке политических решений значение имеют и временные рамки, и исходные данные, на которые опираются те, кто принимает решения. Все это мы видели в ходе недавнего финансового кризиса. Временной масштаб имеет значение и в других ситуациях, поскольку чересчур поспешные действия могут повысить риски, а своевременные и стремительные операции — увеличить выгоды (или прибыли). Известно, что быстрые продажи позволяют более эффективно устанавливать котировки, но такие молниеносные операции совсем не обязательно приносят пользу экономике в целом.
Один специалист по инвестициям долго объяснял мне, как важно иметь возможность в любой момент продать акции; тем не менее мне так и не удалось понять, зачем продавать их через несколько секунд после покупки, кроме, разумеется, того факта, что он лично и его банк могут сделать на этом деньги. Подобные сделки в краткосрочной перспективе приносят банкирам и их организациям серьезную прибыль, но в целом они ослабляют финансовый рынок. Да, банкир, о котором шла речь, за один год принес своему банку 2 млрд долларов, так что его работодатели могут не согласиться с моим предположением, но с ним наверняка согласятся те, кому приходится в конечном итоге оплачивать потери, последовавшие за этими сверхприбылями.
РОЛЬ СПЕЦИАЛИСТОВ
Многие люди извлекают из происходящего неверный урок и делают вывод о том, что отсутствие надежных прогнозов означает отсутствие риска. На самом деле все как раз наоборот. Пока мы не исключили наверняка некоторые предположения и методы, диапазон возможных исходов остается полным: возможно все, что не запрещено законами природы. Несмотря на неопределенности — а может быть, именно благодаря им, — во многих моделях, предсказывающих опасный исход, вероятность очень неприятных событий с климатом, экономикой или глубоководным бурением вовсе не является пренебрежимо малой. Можно, наверное, утверждать, что шансы на такой исход малы в пределах определенного временного интервала. Однако в долгосрочной перспективе, пока мы не получим более достоверной информации, к трагическим событиям ведет слишком много сценариев, чтобы можно было их просто игнорировать.
Те, кого интересует только конечный результат, возмущаются строгими правилами, а те, кто заинтересован в безопасности и предсказуемости, ратуют за них. Слишком легко поддаться искушению и встать на ту или другую сторону, тем более что понять, где проходит граница, — задача чрезвычайно трудная, если не невозможная. Структурными проблемами необходимо заниматься, даже если никто не посылает нам озарений, необходимых для составления подробных прогнозов.
Это приводит нас к последнему важному вопросу. А судьи кто? Кто принимает решения? Какова в этом роль экспертов и кто должен оценивать рискованность этих решений?
Учитывая уровень финансирования, а также тщательную проработку проекта БАКа, мы вполне можем ожидать, что все риски были тщательно проанализированы. Более того, энергии БАКа не выводят нас на новые режимы, туда, где должны отказать фундаментальные основы физики элементарных частиц. Физики уверены, что БАК безопасен, и мы с нетерпением ждем первых результатов столкновений частиц.
Я не говорю, что на ученых не ложится серьезная ответственность. Приходится постоянно повторять, что ученые чувствуют свою ответственность и очень внимательно относятся к рискам. Хотелось бы нам чувствовать такую же уверенность, с какой мы относимся к БАКу, по отношению ко всем научным инициативам. Если вы создаете вещество, или микроорганизмы, или что угодно, чего раньше не существовало на свете, вы должны быть уверены, что ваши действия не закончатся катастрофой. Главное — подходить к этому разумно, без нагнетания необоснованных страхов, которые всегда сдерживают прогресс. Это верно не только в науке, но и в любом рискованном предприятии. Единственный ответ на воображаемые неизвестные — рассмотреть как можно больше разумных точек зрения и иметь возможность вмешаться при необходимости. Как подтвердит вам любой житель побережья Мексиканского залива, в случае чего нужно иметь возможность перекрыть трубы.
В начале предыдущей главы я перечислила коротко некоторые возражения скептиков по поводу методов, при помощи которых физики рассчитывают черные дыры, в том числе по поводу опоры на квантовую механику. Стивен Хокинг при создании своей теории испарения черных дыр действительно опирался на квантовую механику. Но, несмотря на историческую фразу Фейнмана о том, что «никто не понимает квантовую механику», физики уже неплохо разбираются в ее следствиях, даже если считать, что у нас нет глубокого обоснования ее истинности. Мы верим в квантовую механику, потому что она объясняет данные и решает проблемы, недоступные для классической физики.
Когда физики спорят о квантовой механике, они не оспаривают сделанные на ее базе прогнозы. Многочисленные случаи успешного применения этой теории вынудили пораженных студентов и исследователей принять ее. Сегодняшние дебаты о квантовой механике затрагивают, пожалуй, только философскую ее основу. Может быть, существует какая?то другая теория с более привычными классическими предпосылками, которая предсказывает и причудливые гипотезы квантовой механики? Но даже если такую теорию удастся найти, на сами предсказания это никак не повлияет. Философские открытия, возможно, изменят концептуальные рамки, в которых мы описываем предсказания, но не предсказания как таковые.
Оговорюсь, что лично я считаю крупные изменения на этом фронте маловероятными. Скорее всего, квантовая механика окажется фундаментальной теорией. Она богаче классической механики. Все классические предсказания представляют собой предельный вариант квантовой механики, но не наоборот. Так что трудно поверить, что мы когда?нибудь сможем интерпретировать квантовую механику при помощи классической ньютоновой логики. Попытка объяснить квантовую механику на основе классической напоминала бы попытку с моей стороны написать эту книгу на итальянском. Все то, что я могу сказать по–итальянски, я могу сказать и по–английски, но мой итальянский словарь весьма ограничен, так что обратное совершенно неверно.
Тем не менее с разногласиями по философским вопросам или без таковых все физики сходятся на том, как нужно применять квантовую механику. Предсказания квантовой механики достоверны и многократно проверены. Но даже без них у нас есть достаточно независимых экспериментальных данных (в виде Земли, Солнца, нейтронных звезд и белых карликов), свидетельствующих о безопасности БАКа.
БАК–алармисты возражают также против использования теории струн. В самом деле, если использование квантовой механики не встречает серьезных возражений, то в отношении теории струн это не так. Но ведь выводы о черных дырах никогда и не нуждались в теории струн! Кое?кто действительно пытается разобраться при помощи теории струн во внутренней структуре черной дыры — в геометрии кажущейся сингулярности в ее центре, где согласно общей теории относительности плотность энергии становится бесконечной. На базе теории струн были проведены расчеты испарения черной дыры в нефизических ситуациях, которые подтвердили выводы Хокинга. Но расчеты испарения черных дыр основаны все же лишь на квантовой механике, а не на полной теории квантовой гравитации. Хокинг мог бы провести свои расчеты и прийти к тем же выводам и без теории струн.
Иногда эти возражения объясняют иначе. Говорят, что люди проявляют недоверие не к науке как таковой, а к ученым, которые «слепо верят» в свои теории. В конце концов, теория струн лежит за пределами диапазона энергий, доступных для непосредственного наблюдения. Тем не менее многие физики уверены в ее справедливости и продолжают работать над ней. Однако даже в научном сообществе не существует единого мнения по этому поводу, что прекрасно иллюстрирует и отсутствие «слепой веры», и готовность ученых всегда опираться на факты. Никто не стал бы опираться на теорию струн в вопросах безопасности. Одни ученые поддерживают теорию струн, другие нет, но каждый знает, что она пока не доказана и не проработана до конца. До тех пор пока достоверность и надежность теории струн не признаны всеми, опираться на нее в рискованных ситуациях было бы, мягко говоря, опрометчиво. Что касается нашей безопасности, то дело даже не в том, что экспериментальная проверка теории струн пока невозможна; главное, что для предсказания большинства явлений окружающего мира, с которыми мы можем встретиться в своей жизни, она совершенно не нужна.
Повторю еще раз: я полностью уверена в том, что в оценке связанных с БАКом рисков можно положиться на специалистов. Тем не менее я признаю потенциальную ограниченность такого подхода и не знаю, как с этим быть. В конце концов, «специалисты» в один голос твердили, что деривативы — это способ минимизации рисков, а не путь к кризису. «Специалисты» по экономике утверждали, что любое государственное регулирование снижает конкурентоспособность американских предприятий; никто не сказал, что его отсутствие — это путь к потенциальному краху экономики страны. «Специалисты» и сегодня говорят нам, что только сами банкиры достаточно разбираются в своих операциях, чтобы лечить банковский сектор. Откуда нам знать, достаточно ли широко мыслят эти «специалисты»?
Очевидно, эксперты могут оказаться близорукими и непредусмотрительными. Вероятно, в их среде тоже существуют конфликты интересов. Может быть, они могли бы поучиться чему?то у науки?
Я говорю, что в случае с черными дырами в БАКе мы рассмотрели весь спектр потенциальных рисков, какие только можно представить, и не думаю, что мое мнение в этом вопросе основано на предубеждениях. Мы продумали теоретические аргументы, но не забыли и об экспериментальных свидетельствах. Мы рассмотрели ситуации в космосе, где в таких же физических условиях происходят те же самые события.
Было бы приятно верить, что экономисты работают с существующими данными так же тщательно. Хотя экономические условия никогда не повторяются в абсолютной точности, в основе своей все экономические пузыри похожи.
Аргумент о том, что предвидеть опасности снятия всякого государственного регулирования было попросту невозможно, который сегодня повторяют многие, также не выдерживает критики. Бруксли Борн, бывший председатель комиссии, наблюдающей за рынками фьючерсов и опционов, неоднократно указывала на опасности, связанные с дерегуляцией. Более того, она вполне разумно предлагала тщательно изучить соответствующие риски, но слова ей не давали. Никто не хотел всерьез анализировать, нужно ли в этих делах соблюдать осторожность (а время ясно показало, что нужно); специалисты громко кричали, что снижение темпов было бы вредно для бизнеса (и действительно повредило бы краткосрочным интересам Уолл–стрит).
Возможно, экономисты в разговорах о политике и государственном регулировании имеют в виду не только финансовые, но и политические интересы и потому могут быть необъективны. В идеале ученые обращают больше внимания на логические доводы, в том числе и по поводу рисков, чем на политику. Физики, работающие на БАКе, провели серьезные научные исследования, чтобы убедиться в безопасности установки.
Возможно, детали конкретных финансовых инструментов действительно доступны только финансовым экспертам, но некоторые базовые структурные вопросы понятны каждому. Большинству людей ясно, что экономика, излишне завязанная на кредитах, нестабильна, хотя мало кто сможет предсказать, что именно может послужить спусковым крючком и вызвать коллапс. Почти любому человеку очевидно, что давать банкам сотни миллиардов долларов, не налагая при этом на них никаких или почти никаких ограничений, вероятно, не лучший способ расходовать деньги налогоплательщиков. Даже водопроводный кран устроен так, что его в любой момент можно гарантированно выключить, по крайней мере если что?то пошло не так, то существует тряпка и ясное представление о том, как справиться с последствиями. Трудно понять, почему того же самого нельзя требовать от глубоководных буровых платформ.
Там, где нам приходится рассчитывать на экспертов, на сцене появляются психологические факторы; об этом написал в 2010 г. ведущий экономической колонки The New York Times Дэвид Леонхардт, приписав ошибки мистера Гринспена и мистера Бернанке[39] факторам «больше психологическим, нежели экономическим». Он объяснил: «Они попали в ловушку здравого смысла» и «пали жертвами тех же слабостей, что подвели инженеров космического челнока «Челленджер», тех, кто планировал войны во Вьетнаме и Ираке, и всех пилотов гражданских авиалиний, совершивших трагические ошибки. Они не высказывали должных сомнений в верности своих представлений о мире. Это очень человеческая ошибка»[40].
Единственный способ разобраться с по–настоящему сложными вещами — прислушиваться к любым, даже дилетантским мнениям. Банкиры вполне могли предвидеть, что экономике угрожает коллапс, но личные интересы волновали их больше, и они предпочли как можно дольше не замечать тревожных сигналов. В науке нет демократии в том смысле, что мы не собираемся все вместе и не определяем верный ответ голосованием. Но любая обоснованная научная точка зрения рано или поздно будет услышана. Конечно, утверждения и открытия известных, признанных ученых первыми обращают на себя внимание, тем не менее любого, кто сумеет доказать свою точку зрения, рано или поздно заметят.
Если никому не известный ученый сможет добраться до известного научного светила и изложить ему свою позицию, его, возможно, услышат сразу. Именно так Эйнштейну удалось представить научному сообществу теорию, потрясшую основы науки. Немецкий физик Макс Планк понял смысл и значение изысканий Эйнштейна и опубликовал его работу в самом солидном физическом журнале того времени, которым, к счастью, заведовал.
Сегодня идеи стремительно расходятся по всему миру через Интернет. Любой физик может написать статью, и уже завтра о та будет разослана его коллегам. До тех пор пока хоть кому?нибудь не все равно, хорошая и верная идея всегда найдет путь в научные круги.
Инженеры и физики БАКа не пожалели времени и денег на безопасность. Они старались экономить на всем, но не за счет опасностей или неточностей. Интересы всех были тщательно сбалансированы. Результат, не прошедший испытания временем, не принесет пользы никому.
Валюта научного мира — репутация, а «золотых парашютов» потерявшим ее ученым не выдают.
ПРОГНОЗИРОВАНИЕ
Мы все, надеюсь, уже согласились с тем, что не стоит тревожиться о черных дырах, хотя поводов для беспокойства остается достаточно. В случае с БАКом мы думаем — и должны думать — обо всем хорошем, что можно сделать с его помощью. Созданные в нем частицы помогут нам получить ответы на глубокие фундаментальные вопросы о структуре вещества.
Возвращаясь ненадолго к своему разговору с Нейтом Силвером, замечу: я поняла, насколько наша ситуация уникальна. В физике элементарных частиц мы можем ограничиться достаточно простыми системами и исследовать на их примере, как методически на базе старых результатов возникают новые. Иногда наши прогнозы рождаются на основании известных моделей, истинность которых доказана. В других случаях мы строим прогнозы на базе моделей, которые у нас есть основания считать обоснованными, а затем при помощи экспериментов стараемся исключить лишние возможности. Уже на этом этапе — не зная, действительно ли наши модели окажутся верными — мы можем предвидеть, какими должны быть их экспериментальные доказательства, если соответствующие эксперименты будут проведены.
Физика элементарных частиц активно использует нашу способность делить мир в соответствии с масштабами событий и объектов. Мы знаем, что взаимодействия на малых масштабах могут сильно отличаться от того, что происходит на больших, и при этом понимаем, что любые мелкомасштабные взаимодействия вносят свой вполне определенный вклад в то, что происходит «выше», и должны полностью согласовываться с уже известными фактами.
Почти во всех других ситуациях прогнозирование делается совершенно иначе. В сложных системах нам часто приходится иметь дело одновременно с несколькими разными масштабами. Это верно не только для социальных систем, таких как банк, где один безответственный трейдер может дестабилизировать экономику в целом, но и в других науках. Прогнозы в таких случаях могут быть весьма изменчивыми.
К примеру, в задачи биологии входит прогнозирование развития биологических систем и поведения животных и человека. Но мы пока не сумели до конца разобраться ни в базовых функциональных единицах, ни в высокоуровневой организации, посредством которой из базовых элементов складываются сложные эффекты. Нам не известны также все обратные связи, которые, скорее всего, делают невозможным строгое разделение по масштабам. Ученые умеют строить модели, но без лучшего понимания основных базовых элементов и того, как именно каждый из них влияет на эмерджентное поведение, разработчики моделей просто тонут в трясине фактов и возможностей.
Дополнительную сложность вносит тот факт, что хотя биологические модели разрабатываются на базе существующих данных, верные исследовательские подходы нам неизвестны. Мы не сумели пока выделить все простые независимые системы, поэтому трудно сказать, которая из моделей верна (если верная модель вообще существует). Коллеги–нейробиологи жалуются на одну проблему. Без качественно новых методов измерения даже самые лучшие модели всего лишь согласуются с существующими данными. А поскольку с данными по определению согласована любая «выжившая» модель, трудно определить, какая из гипотез, на которых все они основаны, верна.
Интересно было поговорить с Нейтом о вещах, которые он пытается прогнозировать. В последнее время появилось немало популярных книг, в которых представлены не слишком убедительные гипотезы. Нейт подходит к делу научно. Известность, к слову, он заработал точными прогнозами результатов бейсбольных игр и выборов. Его анализ основывался на тщательной статистической оценке аналогичных ситуаций в прошлом; он учитывал так много переменных, что действительно мог извлекать из истории реальные практические уроки.
Теперь ему приходится тщательно выбирать области, в которых можно использовать эти методы. Он понимает, что корреляции, с которыми он работает, могут с трудом поддаваться интерпретации. Можно сказать, что возгорание двигателя стало причиной авиакатастрофы, но в самом факте того, что самолет с горящим двигателем упал, нет ничего удивительного. Какой же была истинная причина? Точно такой же вопрос возникает, если рассматривать связь генных мутаций и рака. Корреляция между ними, конечно, существует, но одно не обязательно вызывает другое.
Нейт понимает, что в прогнозировании есть и другие ловушки. Даже при большом количестве данных их случайность или шум могут усилить или, наоборот, подавить проявление закономерностей. Поэтому Нейт не работает с финансовыми рынками, землетрясениями или климатом. Он мог бы, вероятно, предсказать общие тенденции, но краткосрочные прогнозы неизбежно окажутся очень неопределенными. Сейчас Нейт изучает другие области, где его методы могли бы пролить свет на ситуацию. Как лучше всего распространять музыку или кинофильмы? Какова истинная ценность суперзвезд Национальной баскетбольной лиги? Однако он признает, что лишь небольшое число систем допускает точную количественную оценку.
Тем не менее прогнозисты схожи в одном. Все они занимаются метапрогнозированием — предсказывают, что именно люди захотят предсказать.
<<< Назад ЧЕРНЫЕ ДЫРЫ В БОЛЬШОМ АДРОННОМ КОЛЛАЙДЕРЕ |
Вперед >>> РИСКИ СЕГОДНЯШНЕГО ДНЯ |
- Часть III АППАРАТУРА, ИЗМЕРЕНИЯ И ВЕРОЯТНОСТИ
- РИСКИ СЕГОДНЯШНЕГО ДНЯ
- Секрет Египетской цивилизации
- У большинства женщин нет чувства юмора
- «Обезьяний канат» и Moby Dick 2.0
- Русское знамя в Новой Гвинее
- Связь соотношения полов при рождении с условиями среды.
- Татары, башкиры, чуваши, карачаево-балкарцы, крымские татары
- Суперматерик Евразия
- 10.3. Одна в джунглях среди «дьяволов»