Книга: Эволюция разума

Ты должен верить

<<< Назад
Вперед >>>

Ты должен верить[135]

Что за мастерское создание — человек! Как благороден разумом! Как беспределен в своих способностях, обличьях и движениях! Как точен и чудесен в действии! Как он похож на ангела глубоким постижением! Как он похож на некоего бога! Краса вселенной! Венец всего живущего! А что для меня эта квинтэссенция праха?

Уильям Шекспир. Гамлет, перевод М. Лозинского

На самом деле все подобные теории требуют сделать некий смелый шаг, некий «скачок веры». Когда дело касается вопросов сознания, руководящий принцип звучит так: «Ты должен верить». Таким образом, чтобы ответить на вопросы, кто и что обладает сознанием и что означает для нас собственное сознание, каждый из нас должен сделать этот шаг. Иначе по утрам мы не могли бы встать с постели. Однако следует быть честным в отношении того, что для каждого из нас подразумевает этот шаг.

А для каждого человека это особый шаг, хотя может показаться, что это не так. Личные философские представления любого человека о природе и источнике сознания определяют разногласия между людьми по таким вопросам, как права животных или допустимость абортов, и в будущем вызовут еще более серьезные разногласия по вопросу о правах машин. По моему мнению, когда машины смогут обсуждать с людьми вопросы субъективного опыта, люди согласятся с тем, что машины обладают сознанием. Машины овладеют самым разнообразным эмоциональным опытом, смогут заставлять нас смеяться и плакать и будут чрезвычайно недовольны, если мы станем утверждать что они не обладают сознанием. (Они будут очень умными, и нам не захочется, чтобы это произошло.) В итоге нам придется прийти к выводу, что они сознательны. Для меня смелый шаг заключается в том, чтобы признать, что, когда машины смогут убеждать нас в разговоре в наличии у них субъективного опыта, они на самом деле будут сознательными. Я пришел к этому выводу в результате следующего мысленного эксперимента. Представьте, что в будущем вы встретите существо (робота или аватара), эмоциональные реакции которого абсолютно естественны. Оно убедительно смеется над вашими шутками и само заставляет вас смеяться и плакать (не от физической боли). Оно убедительно рассказывает о своих страхах и желаниях. И во всех своих проявлениях кажется совершенно сознательным. Оно действительно похоже на человека. Сможете ли вы воспринимать это существо как сознательную личность?

Если вы скажете, что с большой вероятностью сумеете найти путь выявить небиологическую природу этого существа, значит, вы не учитываете условий этого эксперимента. А условия таковы, что такое существо совершенно убедительно. Учитывая данное условие, если бы это существо, как человек, испытывало страх, когда ему угрожают, думаю, вы сопереживали бы ему так же, как если бы речь шла о живом человеке. Лично для меня это так, и я думаю, что все люди, по крайней мере большинство, согласятся со мной — вне зависимости от того, какой точки зрения они сегодня придерживаются в философских спорах. И вновь ключевым словом здесь является слово «убедительно».

Понятно, что существуют разногласия по поводу того, когда мы встретим подобных существ и встретим ли вообще. Лично я считаю, что такие существа начнут появляться в 2029 г., а в 2030-х гг. станут обычным делом. Но вне зависимости от того, когда это произойдет, я думаю, что в итоге мы начнем относиться к ним как к сознательным существам. Посмотрите, как мы относимся к таким героям в книгах и в кино: R2D2 в «Звездных войнах», Дэвид и Тедди в «Искусственном разуме», Дейта в телевизионном сериале «Звездный путь: следующее поколение», Джонни 5 в «Коротком замыкании», Валли в одноименном мультфильме, добрый терминатор Т-800 в «Терминаторе-2», репликант Рейчел (которая даже не знает, что она не человек) в «Бегущем по лезвию», Бамблби[136] в фильмах и мультфильмах о трансформерах и Сонни в фильме «Я, робот». Мы симпатизируем этим героям, хотя и знаем, что это небиологические существа. Мы воспринимаем их как обладающих сознанием, как воспринимали бы на их месте живых людей. Мы сочувствуем им и переживаем, когда они попадают в трудные ситуации. Если мы сегодня так относимся к вымышленным небиологическим существам, то как же мы будем воспринимать реальных разумных существ, которым не посчастливилось возникнуть из биологического субстрата?

И если вы согласны сделать этот шаг и признать, что небиологические существа, убедительно доказывающие свой эмоциональный опыт, действительно обладают сознанием, то это означает следующее: сознание является свойством всего существа в целом, а не того субстрата, из которого оно состоит.

Существует концептуальный провал между наукой, требующей объективных измерений и соответствующих выводов, и сознанием, являющимся синонимом субъективного опыта. Понятно, что мы не можем задать существу вопрос: «У тебя есть сознание?» Если же мы заглянем в его «голову» (биологическую или какую-то другую), нам нужно будет принять философское решение: что же именно мы там ищем? Таким образом, вопрос о наличии сознания у того или иного существа не является научным. По этой причине некоторые наблюдатели переходят к вопросу, есть ли вообще у сознания какое-либо реальное основание? Английский писатель и философ Сьюзен Блэкмор говорит о «великой иллюзии сознания». Она признаёт существование мемы (идеи) сознания. Другими словами, сознание, безусловно, существует как идея, и многие структуры новой коры имеют дело с этой идеей, не говоря уже о том, сколько об этой идее сказано и написано. Но остается неясным, связана ли эта идея с чем-то реальным. Цель Блэкмор состоит не в том, чтобы опровергнуть существование сознания, а скорее в том, чтобы сформулировать проблемы, с которыми мы сталкиваемся при попытках определить суть этого понятия. Британский психолог и писатель Стюарт Сазерленд в «Международном словаре по психологии» пишет следующее: «Сознание — удивительный, но неуловимый феномен; невозможно сказать, что это такое, в чем его функция или почему оно появилось»[137].

Однако не стоит воспринимать этот вопрос как пустую философскую болтовню, которая, кстати сказать, началась две тысячи лет назад — с «Диалогов» Платона. Идея сознания лежит в основе нашей морали, а наше законодательство тесно связано с нашими моральными нормами. Если один человек лишает другого человека сознания (как при убийстве), мы считаем это действие аморальным и, за редкими исключениями, преступным. Однако исключения эти тоже связаны с сознанием. В частности, мы разрешаем полицейским или военным убивать сознательных людей, чтобы защитить превосходящих по численности других сознательных людей. Возможность различных исключений можно обсуждать, но суть от этого не меняется.

Насилие над человеком и причинение страданий также обычно рассматриваются как аморальное и незаконное поведение. Если я разрушу то, что принадлежит мне, возможно, это допустимо. Если я без вашего разрешения разрушу то, что принадлежит вам, это, скорее всего, недопустимо, но не потому, что пострадало ваше имущество, а потому, что пострадали вы как владелец. Но если в моей собственности находится сознательное существо, например животное, я как собственник этого животного не имею морального или юридического права делать с ним все, что захочу. В частности, существуют законы, запрещающие жестокое обращение с животными.

Поскольку наша законодательная система и моральные нормы основаны на защите сознательных существ и предотвращении их страданий, для принятия ответственных решений мы должны знать ответ на вопрос, кто же обладает сознанием. Потому этот вопрос — не просто тема для интеллектуальной беседы, что видно, например, из горячей дискуссии по поводу правомерности абортов. Замечу, что вопрос об абортах выходит за рамки темы сознания, поскольку противники абортов утверждают, что сам тот факт, что эмбрион в итоге станет сознательной личностью, является достаточным основанием для его защиты (то же относится и к людям, находящимся в коме). Поэтому вопрос заключается в том, в какой момент зародыш приобретает сознание.

Понимание сути сознания часто влияет на нашу реакцию в сложных вопросах. Если рассмотреть ту же тему абортов, мы заметим, что многие люди видят различие между приемом противозачаточных таблеток, предотвращающих имплантацию оплодотворенной яйцеклетки в матке в первые дни беременности, и абортом на более поздних сроках. Это различие связано с тем, что, с некоторой вероятностью, эмбрион на более поздних сроках беременности уже обладает сознанием. Трудно предполагать, что эмбрион в возрасте нескольких дней сознателен, если только не придерживаться позиции панпротопсихизма, но даже при такой точке зрения уровень сознания подобного эмбриона ниже, чем у самых примитивных животных. Аналогичным образом, мы совершенно по-разному относимся к проблеме жестокого обращения с высшими приматами по сравнению, например, с насекомыми. Сегодня мало кто беспокоится по поводу страданий, причиняемых нами компьютерным программам (зато мы часто жалуемся на муки, которые компьютерные программы доставляют нам), но если в будущем компьютерное обеспечение получит интеллектуальные, эмоциональные и моральные качества человека, на этом месте возникнет проблема.

Таким образом, моя позиция следующая: я считаю, что небиологические существа с абсолютно убедительными эмоциональными реакциями обладают сознанием, и предсказываю, что в будущем общество в целом сочтет их сознательными. Обратите внимание, что данное определение описывает иной круг существ, чем те, которые владеют человеческой речью и способны пройти тест Тьюринга. Эти существа должны в достаточной степени быть похожими на человека, так что они подходят под мое определение, и общество, я думаю, со мной согласится. Но под мое определение попадают и те существа, которые проявляют человеческие эмоциональные реакции, но не способны пройти тест Тьюринга, например маленькие дети.

Решает ли это философский вопрос о том, кто обладает сознанием? Хотя бы для меня самого и тех, кто согласен вместе со мной сделать этот смелый шаг? Ответ: не совсем. Мы рассмотрели лишь один частный случай, касающийся существ, обладающих человеческими реакциями. Даже если эти существа из будущего, которых мы обсуждаем, имеют небиологическую природу, мы рассматриваем их способность убедительно демонстрировать человеческие реакции, то есть данная позиция по-прежнему является человекоцентрической. Но что можно сказать о других формах разума, отличных от человеческого? Мы можем представить себе существование столь же сложного или гораздо более сложного разума, чем наш, у существ с совершенно иными эмоциями и мотивациями. Как понять, обладают они сознанием или нет?

Можно начать с обсуждения биологических существ, мозг которых сравним с мозгом человека, но поведение совсем иное. Британский философ Дэвид Кокберн (род. в 1949 г.) описывает поведение гигантского кальмара в момент опасности (возможно, как считает Кокберн, кальмар испугался человека с видеокамерой). Кальмар задрожал и съежился и, как пишет Кокберн, «реагировал так, что мне стало очевидно, что ему страшно. Потрясающим в этой последовательности реакций было то, что в поведении существа столь далекого от человека, с очевидностью отразилась человеческая эмоция страха»[138]. Кокберн убежден, что животное испытывало именно эту эмоцию и что большинство людей, посмотревших фильм, придет к такому же мнению. Если мы согласимся с его точкой зрения, мы вынуждены будем включить гигантских кальмаров в наш список сознательных существ. Однако это никуда нас не ведет, поскольку такой вывод по-прежнему основан на нашей способности сопереживания эмоций, которые знакомы нам самим. Мы по-прежнему смотрим на вещи с человекоцентрической точки зрения.

Если же покинуть мир биологических существ, мы обнаружим, что формы небиологического разума могут оказаться еще более разнообразными. Например, какие-то существа могут не бояться собственной гибели и не иметь нужды в обычных для людей и других биологических существ эмоциях. Может быть, они все же будут способны пройти тест Тьюринга, а может быть, попросту не захотят.

Нам нужны роботы, предназначенные для работы в опасных условиях и не имеющие инстинкта самосохранения. Пока такие машины не являются достаточно разумными или сложными, чтобы всерьез говорить об их чувствительности, но можно вообразить, что в будущем они станут столь же сложными, как люди. Что тогда?

Лично я могу сказать, что поломка устройства с таким сложным строением и способностью выполнять указания, необходимые для реализации его миссии, меня бы, безусловно, поразила и огорчила. Возможно, здесь мы слегка расширяем обзор, поскольку рассматриваем реакцию на поведение, отличное от нормального поведения людей и вообще всех биологических существ. Но и в данном случае я пытаюсь нащупать связь с теми признаками, которые характерны для меня самого и для других людей. Вообще говоря, мысль о существе, полностью посвящающем себя выполнению достойной задачи и пытающемся решить ее вне зависимости от собственного благополучия, не так уж чужда человеческому опыту. Нам нужны существа, способные защитить биологических людей или каким-то образом способствовать нашему процветанию.

Но что если такое существо имеет собственные задачи, отличные от человеческих, и не выполняет той миссии, которую мы считаем достойной? Можно попытаться оценить его способности другим путем. Если это существо действительно очень разумное, возможно, оно сильно в математике, и с ним можно поговорить на эту тему. Возможно, оно сможет оценить математические шутки.

Но если это существо не захочет общаться со мной, а у меня не будет достаточной возможности оценить его действия и решения, означает ли это, что оно лишено сознания? Я должен сделать вывод, что существа, которые не убедили меня своими эмоциональными реакциями или не пытались этого сделать, не обязательно являются несознательными. Сложно распознать существо с другим сознанием, не установив какого-либо эмпатического контакта, но это скорее проблема моей собственной ограниченности, чем проблема того существа. Поэтому действовать придется осторожно. Нам бывает сложно поставить себя на место другого человека, что уж говорить о понимании разума, который так сильно отличается от нашего собственного.

<<< Назад
Вперед >>>

Генерация: 0.461. Запросов К БД/Cache: 3 / 1
Вверх Вниз