«Величайшая тайна науки – природа сознания. Не то чтобы у нас имелись неудачные или несовершенные теории человеческого сознания – таких теорий у нас попросту нет. Почти все, что мы знаем о сознании, – это то, что оно имеет некое отношение скорее к голове, чем к ноге»[347].

«Нигде в законах физики или в законах таких производных наук, как химия и биология, никак не упоминаются ни сознание, ни разум… Это не попытка утверждать, что сознание в процессе эволюции не возникает, а просто констатация того факта, что его возникновение несовместимо с законами природы в их нынешнем понимании»[348].

«По-моему, величайший вопрос, оставшийся без ответа, – как мозг генерирует сознание. На этот вопрос мне больше всего хотелось бы дать ответ, именно за него я взялась бы, если бы могла начать все сначала»[349].

Несмотря на столетия современных философских и научных исследований природы разума, на данный момент не существует технологии, способной выявить наличие или отсутствие сознания какого-либо рода, ибо ученые не знают даже, что именно при этом следует измерять. Строго говоря, на данный момент нет никаких научных доказательств даже для существования сознания! Все непосредственные свидетельства, которыми мы располагаем, представляют собой ненаучные отчеты от первого лица о пребывании в сознании[351].

Подлинное эмерджентное свойство клеток мозга – это полутвердая консистенция мозга, и это нечто, доступное пониманию объективной физической науки… однако она не понимает, каким образом мозг производит какое-либо состояние сознания. Другими словами, если ментальные явления на самом деле не что иное как эмерджентные свойства и функции мозга, их взаимосвязь с мозгом фундаментально отличается от всех прочих эмерджентных свойств и функций, найденных в природе[352].

«Природа экспериментального анализа поведения человека такова, что следует убрать функции, прежде приписанные независимому человеку, и одну за другой перенести их в контролируемую среду»[353].

«Машины убедят нас в том, что они действуют осознанно, что у них есть собственные намерения, достойные нашего уважения. И мы поверим в то, что у них есть сознание, – почти так же, как верим, что сознанием обладаем все мы. В большей степени, чем в случае наших друзей-животных, мы будем сопереживать мнимым чувствам и стремлениям машин, поскольку их разум будет создан по образцу человеческого мышления. Они будут олицетворять человеческие качества и претендовать на человечность. И мы им поверим»[354].

«Изучение сознания представляет для нас любопытную дилемму: один самоанализ не является удовлетворительным с научной точки зрения, и хотя сообщения людей об их собственном сознании полезны, они не содержат информации о работе мозга, лежащей в его основе. Однако изучение собственно мозга не в состоянии объяснить, что такое обладать сознанием. Эти рамки подразумевают необходимость придерживаться определенного подхода к введению сознания в дом науки»[356].

«Вычислительная теория разума незаметно укоренилась в нейробиологии… Ни один уголок в этой сфере не остался незатронутым идеей, согласно которой обработка информации – основополагающая деятельность мозга»[357].

Стивен Пинкер, «Как работает разум»

«Компьютеры – исполнители алгоритмов общего назначения, их видимая интеллектуальная деятельность – всего лишь иллюзия, возникающая у тех, кто не в состоянии полностью оценить способ, которым алгоритмы улавливают и сохраняют не сам интеллект, а плоды интеллекта»[358].

Один из первых разработчиков программного обеспечения Марк Холперн

Нам следует с осторожностью относиться к метафоре «центрального исполнительного органа», сводящей весь наш гуманизм к лобным долям мозга. Мы не только не являемся ходячими лобными долями – мы и не мозги в резервуаре. Крайний редукционизм – можно назвать его «мозговым очеловечиванием» или более известным «нейронным человеком» – просто вводит нас в заблуждение. Он превращает такие распространенные особенности человеческого поведения, как эмоциональное саморегулирование и эффект плацебо, в проблемы (см. главу 6), хотя в действительности этих проблем не существует.

Необходимо помнить, что мыслит, чувствует и верит не какая-то часть мозга, а человеческая личность в целом. Безусловно, эту человеческую личность нельзя свести к мозговым процессам и явлениям, вместе с тем трудно понять человека в целом без понимания социально-культурного контекста, в котором он живет. Социальный психолог Альберт Бандура прозорливо отмечал, что составление карты деятельности нейронных сетей во время речи Мартина Лютера Кинга «У меня есть мечта» мало что может сказать о том, как создавалась эта речь, и совсем ничего – о ее социальной значимости[359].

«Хирург знает структуру мозга, но не знает о мечтах своего пациента»[360].

Ричард Зельцер, «Жестокие уроки»

Метафора «центрального исполнителя» исходит из тенденции, наблюдающейся в нейробиологии и когнитивной психологии, и известной под названием компьютационализма. Она предпринимает попытки постичь человеческий мозг и разум так, словно это компьютер. Человеческое поведение считается определяемым деятельностью бессознательных субличностных исполнительных процессоров (модулей) и их нейронных аналогов. Считается, что эти модули функционируют отчасти как исполняемые файлы в компьютерной программе.

Но насколько полезна эта модель? В статье, посвященной обзору деятельности в этой сфере в последние полвека, один из первых разработчиков программного обеспечения Марк Холперн отмечает, что известный тест Тьюринга для искусственного интеллекта (можно ли определить, с кем вы беседуете, – с человеком или с машиной?) просто не удалось пройти. Чаще всего ученые пытаются отстаивать компьютерный интеллект, меняя условия теста или подвергая сомнениям саму идею человеческого интеллекта.

Холперн отмечает: в случае критики они «сильны в своем возмущении и слабы, когда надо сослаться на научные достижения». Важно также его замечание о том, что

сторонники искусственного интеллекта в отчаянной попытке спасти идею мыслящих компьютеров в действительности находятся в тисках идеологии: им представляется, что они отстаивают саму рациональность. Если предположение о том, что компьютеры способны мыслить хотя бы в принципе, отвергается, тем самым подразумевается, что люди наделены неким особым свойством, которое наука никогда не поймет – «душой» или некой столь же мистической сущностью[361].

Главный недостаток этой гипотезы с тестом Тьюринга заключается в том, что на самом деле человеческое поведение ничуть не напоминает компьютерные программы. Сознание – вот что есть у людей и чего нет у компьютеров, являющихся просто артефактами человеческого интеллекта. Когда читаешь тексты, написанные ранними компьютерными энтузиастами, создается впечатление, будто они полагали, что исключительно вычислительная мощность каким-то магическим образом породит разум и сознание, но, по всей видимости, не понимали природы сознания настолько, чтобы осознать, что этого не произойдет.

Для хоть какого-нибудь понимания человеческого поведения мы должны обратиться к разуму и сознанию, то есть к убеждениям, целям, надеждам, желаниям, ожиданиям и намерениям, причем ни одно из них не имеет отношения к функционированию компьютеров. Самосознание (то есть осознание себя как непосредственного субъекта опыта), принадлежность (осознание себя как субъект действия) и способности к саморегуляции – все это характеристики человеческого сознания, не касающиеся работы компьютеров.

Как существа, наделенные сознанием, мы не просто претерпеваем опыт – мы создаем его. Червь, которому досаждает яркий свет, попадающий на фоточувствительные участки тела, сразу же устремляется в темноту. Человек, столкнувшийся с подобным нежелательным опытом, может задаться вопросом: «Стоит ли бежать? А если я этого не сделаю? Чему я могу в результате научиться?» Полезные источники сведений о человеческой природе не игнорируют значение того факта, что мы, люди, задаемся подобными вопросами.

«В конце концов наш высокоразвитый мозг эволюционировал не ввиду необходимости открывать научные истины, а лишь для того, чтобы сделать нас достаточно разумными, чтобы выживать и оставлять потомство»[363].