Книга: Homo Roboticus? Люди и машины в поисках взаимопонимания

Глава 6 Сотрудничество

Глава 6

Сотрудничество

Гуманоид в отреставрированном кирпичном здании в Бостоне повернул голову. Робот представлял собой лишь сооружение из пластмассовых деталей, двигателей и проводов, увенчанное подвижным жидкокристаллическим экраном с карикатурными глазами и бровями. Но его реакция была узнаваемой и вызывала небольшой шок у каждого, кто приближался к нему. Наш разум обладает удивительной способностью находить человеческие качества даже в куче электронных блоков, датчиков и проводов.

Робот Baxter, созданный для работы бок о бок с людьми, был с помпой представлен публике осенью 2012 г. Baxter довольно громоздок и не особенно ловок. У него нет ни колес, ни ног, он стоит на жестком неподвижном основании. Его руки – захваты, способные аккуратно взять и положить предмет. Кроме этого Baxter мало что может, но тем не менее он открывает новую главу в развитии робототехники. Это один из первых примеров реализации идеи Энди Рубина, в соответствии с которой персональные компьютеры должны получить ноги и начать двигаться. Baxter – дитя Родни Брукса, путь которого к созданию робота-помощника начинается у истоков разработок в сфере искусственного интеллекта.

В 1962 г. пути Маккарти и Мински разошлись, и Стэнфордская лаборатория искусственного интеллекта, где обосновался Маккарти, с ее разношерстной командой программистов-фанатиков стала зеркальным отображением Лаборатории искусственного интеллекта Массачусетского технологического института, оставшейся под руководством Мински. В 1969 г. эти лаборатории были связаны через электронную сеть ARPAnet, предшественницу современного интернета, которая упрощала обмен информацией между исследователями. Все это происходило в разгар войны во Вьетнаме, и разработки в сфере искусственного интеллекта и робототехники в значительной мере финансировались военными, но по своему духу Стэнфорд был ближе к контркультуре концертного зала Fillmore Auditorium в Сан-Франциско, чем к Пентагону на реке Потомак.

Эксцентричный молодой аспирант Ханс Моравек жил в мансарде SAIL и работал над Стэнфордской тележкой, четырехколесным мобильным роботом. В цокольном этаже находилась сауна, а по вечерам в лаборатории проходили сеансы групповой психотерапии. На расположенных там компьютерных терминалах отображалось сообщение «Возьми меня, я твой». В связанном с мейнфреймом торговом автомате под названием «Скачущий пони» (по аналогии с гостиницей для странников во «Властелине колец» Толкиена), можно было купить что-нибудь съестное. Посетителей встречали в небольшом вестибюле с плакатом на стене, где красовалась надпись «Вы здесь» и воспроизводилась известная обложка журнала New Yorker Лео Штейнберга с релятивистским образом самого важного места в Соединенных Штатах. Карта SAIL когда-то была простым планом лаборатории и кампуса Стэнфорда, но со временем ее разукрасили разными дополнениями – от фигурки посетителя в центре человеческого мозга до точки расположения лаборатории у неизвестной звезды в рукаве спиральной галактики среднего размера.

Это буквально очаровало Родни Брукса, еще одного аспиранта Стэнфорда. Чрезвычайно одаренный математик из Аделаиды, Австралия, выходец из семьи рабочих, Брукс был очень далек от культуры американских программистов с их девизом «Мы можем всё». В 1969 г. он вместе с миллионами других людей по всему миру посмотрел фильм «Космическая одиссея 2001» Стэнли Кубрика, однако, как и Джерри Каплан, не увлекся карьерой астронавта. Его заинтриговал HAL, параноидальный (или, возможно, оправданно подозрительный) искусственный интеллект.

У Брукса возникла идея создать собственный искусственный интеллект, и после поступления в колледж такая возможность у него появилась. По воскресеньям, пользуясь неограниченным доступом к мейнфрейму школы, он занимался своим ориентированным на искусственный интеллект языком программирования и созданием интерактивного интерфейса для дисплея{150}. Затем Брукс перешел к доказательству теорем, иначе говоря, сам того не подозревая, работал в формальной традиции искусственного интеллекта Маккарти. Он решил посвятить свою жизнь созданию искусственного интеллекта.

Посмотрев на карту США, Брукс пришел к заключению, что Стэнфорд – ближайший к Австралии университет, где есть отделение искусственного интеллекта, и подал заявление. Хотя он особо не рассчитывал на успех, его приняли. К осени 1977 г., когда он приехал в университет, бурлящий мир антивоенных выступлений и контркультуры в районе залива Сан-Франциско стал успокаиваться. Группа Энгельбарта с системой NLS отделилась от SRI и создала свою компанию. Но персональные компьютеры только-только начали вызывать интерес и распространяться в районе средней части полуострова Сан-Франциско. Это было золотое время клуба компьютерщиков-энтузиастов Homebrew Computer Club, который провел первую встречу в марте 1975 г. на той же неделе, когда открылось новое здание Xerox PARC. В своем обычном духе Маккарти предложил участникам клуба собираться в его стэнфордской лаборатории, но по-прежнему скептически относился к идее «персональных компьютеров». Маккарти был пионером коллективного использования мейнфреймов и считал расточительностью наличие в собственности маломощного компьютера, который простаивает большую часть времени. Его идея работы в режиме разделения времени возникла как результат желания более эффективно использовать вычислительные системы в исследованиях, связанных с искусственным интеллектом. Возможно, в насмешку он поместил объявление во втором информационном бюллетене Homebrew с предложением создать «Клуб домашних терминалов» для совместного использования мейнфрейма VAX компании Digital Equipment Corp. На его взгляд, $75 в месяц без учета стоимости терминала и услуг связи были приемлемой ценой. Позднее он называл опытный образец Alto/Dynabook PARC, прототип всех будущих персональных компьютеров, не иначе как «ересью Xerox».

Алан Кей, один из главных будущих еретиков, прошел через SAIL в период своего недолгого преподавания в Стэнфорде. Он уже тогда таскал с собой «промежуточный» Dynabook и с удовольствием демонстрировал его: устройство, опередившее лэптопы более чем на десятилетие. Кей ненавидел время, проведенное в лаборатории Маккарти. У него было совсем другое представление о роли компьютеров, и во время работы в SAIL он чувствовал себя так, словно находился в стане врага.

Идея персонального компьютера возникла у Алана Кея, когда он был аспирантом Айвена Сазерленда в Университете Юты. Кей услышал выступление Энгельбарта, когда исследователь из SRI ездил по стране с демонстрацией NLS – программной среды, предвосхищавшей современные «PC с оконными интерфейсами с мышью». На Кея огромное впечатление произвели и сам Энгельбарт, и NLS, и акцент на повышение производительности небольших групп работников, будь то ученые, исследователи, инженеры или программисты. Кей продвинул идеи Энгельбарта на шаг вперед. Он изобрел книгу для интерактивной эпохи. Он писал о возможностях «персональных динамических медиа», фактически излагая принципы построения портативных компьютеров и планшетов, которыми мы пользуемся сегодня. Кей полагал, что персональные компьютеры станут новой универсальной средой, такой же массовой, как и печатная продукция в 1960-х и 1970-х гг.

Взгляды Кея, как и взгляды Энгельбарта, радикально отличались от воззрений сотрудников Маккарти в SAIL. Лаборатории не были прямой противоположностью друг другу, но их ориентиры очень сильно отличались. Кей, подобно Энгельбарту, помещал пользователя в центр своих разработок. Он хотел создавать технологии для расширения интеллектуальных возможностей человека. Но его представление о киберпространстве было иным, чем у Энгельбарта. Энгельбарт считал, что интеллектуальное взаимодействие человека и информации аналогично управлению автомобилем – пользователи компьютеров должны плыть по информационному шоссе. Кей принял мысль Маклюэна о том, что «среда и есть сообщение». Он предвидел, что компьютер станет универсальной, всеобъемлющей средой, которая вберет в себя речь, музыку, текст, видео и связь.

Ни один из этих подходов не находил почвы в SAIL. Лес Эрнест, которого в 1965 г. чиновники ARPA направили в SAIL для восполнения недостатка управленческих навыков у Маккарти, писал, что многие компьютерные технологии, считающиеся продуктами SRI и PARC, одновременно разрабатывались в SAIL. Разница крылась в философии. Первоначальной целью SAIL было создание работающего искусственного интеллекта за 10 лет, возможно, робота, сопоставимого по интеллекту с человеком, но физически более сильного, быстрого и ловкого. Многие поколения исследователей SAIL работали над созданием систем, вытесняющих людей, а не расширяющих их возможности.

Когда Род Брукс оказался в Стэнфорде осенью 1977 г., Маккарти опаздывал уже на три года на пути к своей цели – созданию работающего искусственного интеллекта. Два года минуло с тех пор, как Ханс Моравек дал первый залп по Маккарти, отметив, что главным для развития систем искусственного интеллекта является экспоненциальный рост вычислительной мощности. Позиция Брукса, стороннего наблюдателя из Австралии, позволяла ему иметь другую точку зрения на происходящее в Стэнфорде, и он стал в ночную смену работать ассистентом у Моравека. У обоих были свои причуды. Моравек безвылазно жил в SAIL, и продукты ему приносили друзья. Брукс быстро воспринял контркультуру эпохи. Он отрастил волосы до плеч и освоил стиль жизни программиста-фанатика: у него был «28-часовой день», иначе говоря, 20 часов непрерывной работы, а потом 8 часов сна. В главной идее диссертации, посвященной символьной логике применительно к визуальным объектам, Брукс шел по стопам Маккарти. Однако австралиец добавил геометрическое осмысление для формирования третьего измерения с использованием однообъективной камеры. В конечном итоге долгие ночи, проведенные с Моравеком, вызвали у Брукса разочарование и привели к разрыву с традицией старого доброго искусственного интеллекта.

Как помощник Моравека, Брукс довольно много занимался Стэнфордской тележкой. В середине 1970-х гг. системе распознавания образов мобильного робота требовалось слишком много времени на анализ окружающей обстановки, чтобы можно было говорить о «реальном времени». В зависимости от загрузки мейнфрейма тележке требовалось от четверти часа до четырех часов, чтобы одолеть следующий участок заданного маршрута. После обработки одного образа она немного перемещалась вперед и вновь начинала сканирование{151}. Когда робот работал на улице, у него возникали еще более значительные сложности. Оказалось, что движущиеся тени сбивали с толку программу распознавания образов. Проблема движущихся теней была с восторгом воспринята Бруксом. Он знал об экспериментах Грея Уолтера, британско-американского нейрофизиолога, создавшего первых простых электронных автономных роботов в 1948 и 1949 гг. для демонстрации того, как взаимосвязи небольших групп клеток мозга определяют автономное поведение. Грей Уолтер построил несколько автоматизированных «черепах» с «глазом» на основе фотоэлемента и простой схемой управления двигателями и колесами, которые двигались «как живые».

Если Моравек считал простых роботов основой для своей модели развития искусственного интеллекта, то Брукс не был уверен в этом. В начале 1950-х гг. Грей Уолтер строил в Великобритании удивительно интеллектуальных роботов, которые стоили всего несколько фунтов и назывались наподобие биологического вида Machina speculatrix. Теперь, более двух десятилетий спустя, как заметил Брукс, «робот стоимостью в миллионы долларов работает далеко не так хорошо». Он видел, что многие американские разработчики использовали сложные алгоритмы Моравека, но не понимал, зачем они делают это. «Действительно ли внутренние модели бесполезны или они являются авансовым платежом за хорошую работу будущих поколений тележки?»{152}

После получения степени доктора философии в 1981 г. Брукс оставил «дворец логики» Маккарти ради Массачусетского технологического института. Там он фактически перевернул телескоп и стал смотреть через него с другого конца. В 1986 г. Брукс сформулировал свой «восходящий» подход к робототехнике. Если потребности в вычислительной мощности для моделирования интеллекта человека не удовлетворяются из-за ограниченных возможностей компьютеров, почему бы не попытаться получить разумное поведение на основе сочетания простых элементов, которые в конечном счете превратятся в интегрированные системы в роботах и других воплощениях искусственного интеллекта? На его взгляд, если разработчики хотят сымитировать биологический интеллект, им нужно начинать с самого низкого уровня – с создания искусственных насекомых. Такой взгляд ускорил разрыв с Маккарти и спровоцировал новую волну в сфере искусственного интеллекта: Брукс выступал за имитирование самых простых биологических систем вместо попыток сравняться с человеком. С тех пор восходящий подход доминирует в мире искусственного интеллекта от «Общества разума» (The Society of Mind) Мински до более поздних работ Джеффа Хокинса и Рэя Курцвейла. Оба они утверждали, что путь к искусственному интеллекту высокого уровня следует искать в соединении простых алгоритмов, которые лежат в основе когнитивных способностей человеческого мозга.

Брукс изложил свой критический взгляд в статье 1990 г. «Слоны не играют в шахматы»{153}, где утверждал, что господствующий символьный искусственный интеллект за предшествующие 30 лет потерпел неудачу и необходим новый подход. «Новый искусственный интеллект строится на формировании глобального поведения в результате взаимодействия небольших поведенческих единиц. Как и в эвристике, нет гарантии, что это будет всегда работать, – писал он. – Однако тщательная проработка простых моделей поведения и их взаимодействий нередко позволяет создать системы с полезными и интересными эмерджентными свойствами»{154}.

Брукс получил признание истеблишмента искусственного интеллекта не сразу. Примерно в то же время, когда он начал создавать автоматизированных насекомых, Рэд Уиттакер в Университете Карнеги – Меллона рисовал в воображении, как его шестиногий пятиметровый робот Ambler весом 2,5 т ходит по поверхности Марса. Робот Брукса Genghis был насекомым весом чуть больше 900 г. Genghis стал символом нового стиля в искусственном интеллекте: «быстрый, дешевый и не требующий контроля», как следовало из названия статьи 1989 г., написанной Бруксом в соавторстве с его аспиранткой Анитой Флинн. Брукс и Флинн говорили, что самый практичный способ освоения космоса – это использование множества дешевых, подобных насекомым роботов, а не развертывание единой, технически сложной и дорогой системы.

Понятно, что в NASA поначалу не приняли идею «быстрых, дешевых и не требующих контроля» роботизированных исследователей. Когда Брукс представил свое предложение Лаборатории реактивного движения, работавшие над дорогостоящей исследовательской аппаратурой, инженеры отвергли концепцию крошечного недорогого робота с ограниченными возможностями. Его это не смутило. В конце 1980-х – начале 1990-х гг. стало ясно, что идеи Брукса совпадают с принципами, лежащими в основе интернета. Идеология восходящего подхода, когда отдельные компоненты объединяются в более мощные и сложные системы, захватила воображение публики. С двумя своими студентами Брукс основал компанию и начал искать инвесторов в идею отправки в космос небольших роботов сначала на Луну, а потом на Марс{155}. За $22 млн Брукс обещал инвестору не только разместить его логотип на планетоходе, но и дать рекламу в процессе освещения запуска в СМИ. Фильмы, мультики, игрушки, реклама на фоне лунной пыли, тематический парк и удаленные телесъемки – все это были части одной из самых экстравагантных из когда-либо задуманных маркетинговых кампаний. Брукс планировал запуск на Луну в 1990 г., впервые после 1978 г., а затем, всего через три года, намеревался послать ракету на Марс. К 2010 г. проект предусматривал отправку микророботов на Марс, Нептун, его спутник Тритон и астероиды.

Чего не хватало плану, так это частной ракеты для доставки роботов на объект исследования. Трио вело переговоры с шестью частными компаниями, но ни у одной из них в то время не было успешных запусков. Бруксу требовалось только финансирование. Не найдя инвесторов в частном секторе, он обратился в государственную структуру – Организацию по противоракетной обороне, которая принадлежала Пентагону и ранее отвечала за Стратегическую оборонную инициативу, прозванную в насмешку «звездными войнами». СОИ, однако, закрыли после распада Советского Союза. Некоторое время Организация по противоракетной обороне конкурировала с NASA, занимаясь подготовкой запуска своего аппарата к Луне. Трио из Массачусетского технологического института построило прототип лунохода Grendel, доставить который на Луну должна была переоборудованная ракета-перехватчик Brilliant Pebble, разработанная для уничтожения межконтинентальных баллистических ракет. Grendel отвечал принципам восходящего подхода Брукса и успешно прошел испытания, но на этом все и закончилось.

Пентагон проиграл в борьбе с NASA. Стране не нужны были две занимающиеся одним и тем же организации. По иронии судьбы годы спустя разработчики марсохода NASA Sojourner, доставленного на Марс в 1997 г., позаимствовали многие идеи Брукса. Хотя Брукс так и не добрался до космоса, чуть больше десятилетия спустя его подход нашел коммерческую нишу. Компания iRobot, преемница космического предприятия Брукса, успешно вывела на потребительский рынок автономный пылесос, а ее модифицированный для военных целей аппарат нашел применение в Афганистане и Ираке для поиска взрывных устройств.

В конечном счете Брукс выиграл сражение со старой гвардией. У него появились последователи в Массачусетском технологическом институте, а то, что он называл новым искусственным интеллектом, получило признание. Новое поколение аспирантов последовало за ним, а не за Мински. Концепция нового искусственного интеллекта вышла далеко за пределы США и оказала особенно сильное влияние на Европу, где внимание сместилось с попыток сравняться с интеллектом человека к созданию систем со сложным поведением, интеллектуальные способности которых являются результатом сочетания множества простых элементов.

Сам Брукс отошел от автономных насекомых и переключился на социальные взаимодействия с людьми. Вместе с аспирантами он начал работать над социализацией роботов. Роботы Cog и Kismet, разработанные с аспиранткой Синтией Бризил, использовались для исследования взаимодействия человека и робота и способностей самих роботов. В 2014 г. Бризил объявила о намерении начать продажу домашних роботов, ставших результатом этих исследований. Она создала семейного помощника в стиле Siri, который устанавливался на кухонном столе и помогал выполнять многие работы по дому.

В 2008 г. Брукс ушел из Лаборатории искусственного интеллекта Массачусетского технологического института и основал небольшую компанию с привлекающим внимание названием Heartland Robotics. Брукс взялся за решение проблемы, связанной с выводом производств из США вследствие более низкой стоимости рабочей силы за рубежом. В условиях резкого роста затрат на энергию и транспортировку промышленные роботы давали возможность выровнять правила игры для США и стран с дешевой рабочей силой. В течение нескольких лет ходили самые разные слухи о том, что задумал Брукс. Он работал над человекоподобными роботами почти десятилетие, но до сих пор никому не удавалось успешно наладить серийный выпуск даже игрушечных антропоморфных роботов, не говоря уже о роботах, пригодных для выполнения практических задач.

Когда в 2012 г. был наконец представлен Baxter, Heartland изменила свое название на Rethink, а антропоморфный робот получил неоднозначную оценку. Не все поняли, зачем Брукс сделал робота похожим на человека. Сегодня многие из его конкурентов предпочитают простоту и функциональность и продают манипуляторы, не имеющие ничего общего с обликом человека. Но Брукса это не останавливает. Он намерен построить робота, который будет сотрудничать с людьми, а не заменять их. Baxter – представитель поколения роботов, предназначенных для работы вместе с коллегами из плоти и крови. Технический термин для таких отношений – «совместимость», и среди робототехников распространено мнение, что за следующую половину десятилетия эти машины станут широко использоваться в производстве, дистрибуции и в розничной торговле. Запрограммировать такого робота может даже неспециалист. Для обучения новой операции человеку нужно только взять его за руки и показать требуемые движения, и Baxter запомнит процедуру. Во время демонстрации робота Rethink Robotics показала его способность медленно брать предметы с ленточного конвейера и помещать их на новое место. Такая помощь на рабочем месте кажется довольно ограниченной, но Брукс утверждает, что система со временем накопит библиотеку функциональных возможностей, а с появлением новых версий программного обеспечения возрастет и ее скорость.

Показательно, что одним из первых инвесторов предприятия Rethink был руководитель компании Amazon Джефф Безос. У Amazon все чаще возникали проблемы с не состоящими в профсоюзе складскими рабочими, которые жаловались на плохие условия труда и низкую заработную плату. Приобретение компании Kiva Systems стало сигналом, что Безос полон решимости устранить на своих складах как можно больше ручного труда. В современной логистике товаров широкого потребления есть два уровня дистрибуции: складирование и перемещение контейнеров с товарами и извлечение отдельных продуктов из этих контейнеров. Система Kiva включает парк мобильных роботов, которые освобождают работников от необходимости ходить по складу при комплектации заказов для отгрузки. Заказы комплектуют люди, работающие в одном месте, а роботы Kiva подвозят им лотки с необходимыми товарами в нужный момент в процессе комплектации. Так или иначе Kiva – промежуточное решение на пути к конечной цели – созданию полностью автоматизированных складов. Сегодняшние автоматизированные системы еще не могут заменить руки и глаза человека. Способность быстро распознавать нужные предметы среди десятков других и брать их из разных положений остается прерогативой человека. Но надолго ли? Не нужно обладать большим воображением, чтобы представить Baxter или его конкурента из компаний Universal Robots или Kuka, работающего на складе Amazon рядом с командами мобильных роботов Kiva. Склады без персонала уже отчетливо просматриваются на горизонте, может быть, с «дружественными» роботами вроде Baxter, а может быть, с более безликими системами, как те, которые предположительно разрабатываются новым робототехническим подразделением Google.

В 2012 г. в США вновь вспыхнули дебаты по технологиям и занятости, и многие сочли своим долгом бросить камень в Baxter Брукса и его антропоморфность. Страхи перед автоматизацией в США уже не одно десятилетие то усиливаются, то утихают, но раз Rethink построила робота в виде человека, то многие решили, что он уже сейчас способен заменить живой труд. Однако Брукс твердо стоит на том, что роботы не уничтожают рабочие места. Снижая стоимость производства в США, роботы способствуют восстановлению национальной производственной базы на новых предприятиях с рабочими местами для более квалифицированного, хотя, возможно, и менее многочисленного персонала.

Споры о людях и машинах преследуют Брукса повсюду. В конце учебного года в 2013 г. ему довелось выступать перед родителями выпускников в Университете Брауна. Мысль, которую он проводил в рассказе о Baxter, была простой и, на его взгляд, доступной университетской публике. Он говорил, что занимается созданием поколения более интеллектуальных инструментов для людей и Baxter является примером будущего оснащения заводского цеха, которым может пользоваться и управлять средний рабочий. Но мать одного из студентов отказывалась принимать сказанное. Она подняла руку и с негодованием спросила: «Но что станет с рабочими местами? Разве эти роботы не отнимают работу у людей?» Брукс терпеливо изложил свою мысль снова. Речь идет о сотрудничестве с работниками, не об их прямой замене. С 2006 г. Соединенные Штаты очень много тратят на оплату производства в Китае. На эти деньги можно было бы создать немало рабочих мест для американцев. Но женщина не унималась: «Вы рассматриваете ситуацию на местном уровне, а что в глобальном масштабе?» Брукс развел руками и сказал, что Китаю роботы нужны еще больше, чем Соединенным Штатам. Из-за демографии и особенно политики «одна семья – один ребенок» китайцы скоро столкнутся с нехваткой производственных рабочих. До высокообразованных родителей из верхней части среднего класса явно не удавалось довести мысль о том, что Baxter ликвидирует однообразную работу, а не ту, которая требует высокой квалификации. Когда инженеры Rethink приходят на предприятия, они интересуются, хотят ли работники, чтобы у их детей были такие же рабочие места. «Никто не говорит "да"», – отметил Брукс.

В офисе Брукса есть фотографии производственной линии завода Foxconn, самого крупного в мире производителя компонентов бытовой электроники. Они убедительно демонстрируют те виды однообразной работы, которые он хочет переложить на плечи Baxter. Однако, несмотря на очевидную страсть к автоматизации и робототехнике, Брукс остается гораздо большим реалистом, чем многие из его коллег в Кремниевой долине. Хотя у роботов уже появились ноги и они повсюду в окружающем нас мире, это, с точки зрения Брукса, все еще машины. Даже с учетом склонности людей взаимодействовать с роботами как с одушевленными созданиями, Брукс полагает, что интеллектуальным машинам еще очень далеко до реального соответствия людям. «Об этом можно будет говорить, – замечает он, – когда мои аспиранты начнут испытывать угрызения совести, выключая робота».

Бруксу нравится подтрунивать над давним другом и коллегой по Массачусетскому технологическому институту Рэем Курцвейлом, который получил заказ на создание мегамашины с искусственным интеллектом масштаба Google. Тот известен своей верой в возможность достижения бессмертия уже при жизни нынешнего поколения людей благодаря компьютерам, искусственному интеллекту и пищевым добавкам. «Рэй, мы оба умрем», – говорит он Курцвейлу. Брукс просто надеется, что будущая модель Baxter окажется достаточно совершенной, чтобы обеспечить уход за ним в старости.

Идея о том, что мы стоим на пороге экономики, функционирующей в основном без участия (эпизодического или постоянного) человека, не нова. Почти все нынешние аргументы берут начало в более ранних спорах. Ли Фельзенштейн – продукт этого эклектичного соединения политики и технологии. Он вырос в Филадельфии, его мать была инженером, а отец – художником-дизайнером на заводе по производству локомотивов. Воспитание в техноцентрической атмосфере дополнялось коммунистической идеологией. Отец мальчика был настолько убежденным членом Американской коммунистической партии, что назвал брата Ли в честь Сталина – Джо{156}. Как многие дети членов партии, Ли не знал, что его родители – коммунисты, пока не стал совершеннолетним: совершенно неожиданно по результатами проверки анкетных данных его лишили права участвовать в программе «Учись и работай» в летнем колледже на авиабазе «Эдвардс».

Ли рос в светской еврейской семье, где чтение и учеба занимали важное место. Неудивительно, что еврейская культура стала частью его мировоззрения. Он с детства знал легенду о големе, и это еврейское предание повлияло на его подход к миру персональных компьютеров, к созданию которого он приложил руку. Представление о големе восходит ко временам зарождения иудаизма. В Торе так называют незавершенного человека перед взором Бога. Позже это понятие стало обозначать оживленное гуманоидное создание из неживой материи, обычно из пыли, глины или грязи. Голем, оживленный с помощью каббалистических обрядов, становится послушным, но только частично одушевленным созданием. В некоторых версиях предания голема оживляют, помещая ему в рот пергамент, что напоминает программирование с использованием перфоленты. В литературе современного робота впервые изобразил чешский писатель Карел Чапек в пьесе «R. U. R.» в 1921 г. Голем, таким образом, появился на несколько тысяч лет раньше.

«Есть ли в этой древней легенде предупреждение для нас?» – спрашивал Р. Макмиллан в своей книге «Автоматизация: Друг или враг?» (Automation: Friend or Foe?), предупреждая нас в 1956 г. об опасностях компьютеризации рабочих мест. «Опасности неограниченной "войны кнопок" довольно очевидны, но я также считаю, что быстро растущая роль, которую автоматические устройства играют в промышленности всех цивилизованных стран в мирное время, со временем значительно скажется на их экономической жизни»{157}.

Интерпретация Фельзенштейна легенды о големе, пожалуй, более оптимистична, чем большинство других. Под влиянием еврейского фольклора и предупреждений Норберта Винера он составил собственное видение робототехники. В мире Фельзенштейна, когда роботы станут достаточно совершенными, они будут не слугами и не хозяевами людей, а их партнерами. Такая перспектива соответствует идеям усиления интеллекта Энгельбарта.

Фельзенштейн приехал в Беркли примерно на десятилетие позже того, как Энгельбарт учился там как аспирант. Фельзенштейн стал студентом в бурные дни Движения за свободу слова. В 1973 г., когда война во Вьетнаме близилась к завершению, он вместе с небольшой группой радикалов занялся созданием вычислительной системы, которая сделала бы возможности мейнфреймов доступными всему обществу. Они нашли пустой склад в Сан-Франциско и собрали систему на основе списанного мейнфрейма SDS 940, от которого отказалась лаборатория Энгельбарта в Стэнфордском исследовательском институте. Чтобы предоставить «вычислительные мощности людям», они установили бесплатные терминалы с возможностью анонимного доступа в общественных местах в Беркли и Сан-Франциско.

Группа твердо придерживалась социалистических взглядов и не принимала идею персонального компьютера. Лозунгом проекта Community Memory было совместное использование компьютеров. Эта идея опережала время. За 12 лет до появления AOL и Well и за семь лет до того, как стали популярными электронные доски объявлений с коммутируемым доступом, новаторы из Community Memory создали функционирующую доску объявлений, социальную сеть и электронные сообщества людей. Первая версия проекта просуществовала лишь до 1975 г.

У Фельзенштейна не было анти-PC уклона, присущего обоим его радикально настроенным друзьям и Джону Маккарти. В результате он стал одним из пионеров использования PC. Фельзенштейн не только был в числе учредителей клуба Homebrew Computer Club, но и разработал Sol-20, первый любительский компьютер, выпущенный в 1976 г., за которым в 1981 г. последовал Osborne 1, первый серийный портативный компьютер. Фельзенштейн широко смотрел на влияние компьютеров на общество. Он вырос в доме, где «Кибернетика и общество» Норберта Винера занимала видное место на семейной книжной полке. Его отец считал себя не просто политическим радикалом, но и модернистом. Фельзенштейн впоследствии писал, что его отец Джейк «был модернистом, который верил в совершенствование человека и машины как модель для общества. Играя с детьми, он часто изображал паровоз таким же образом, как другие отцы изображают животных»{158}.

В конце 1950-х – начале 1960-х гг. обсуждение влияния технологии было обычным делом у Фельзенштейна дома. В семье говорили о последствиях автоматизации и возможности технологической безработицы с большим беспокойством. Ли даже нашел и прочитал книгу «Творец и голем» Винера, изданную в год его неожиданной кончины во время визита в Стокгольм и состоящую в основном из мрачных и восторженных предсказаний последствий появления машин и автоматизации для человека и общества. Для Фельзенштейна Винер был личным героем.

Несмотря на рано проявившийся интерес к роботам и компьютерам, Фельзенштейн никогда не испытывал восторга в отношении основанного на правилах искусственного интеллекта. Знакомство с идеями усиления интеллекта Энгельбарта изменило его представление о компьютерах. В середине 1970-х гг. идеи Энгельбарта захватили умы увлеченных компьютерами людей в Кремниевой долине. Фельзенштейн и многие другие рисовали в мечтах картины того, что можно было бы сделать, имей они собственные компьютеры. В 1977 г., на второй год эры персональных компьютеров, его друг Стив Домпьер рассказывал ему о том, как он хотел бы использовать компьютер. Домпьер описывал будущий пользовательский интерфейс, похожий на авиационный тренажер. Пользователь в его воображении должен был «летать» по файловой системе подобно тому, как нынешние 3D-программы моделируют полет над виртуальной местностью.

Мысль Фельзенштейна шла вслед за Домпьером. Он прорабатывал идею «игрового» взаимодействия и в конечном итоге распространил ее и на дизайн пользовательского интерфейса, и на робототехнику. Фельзенштейн пришел к выводу, что традиционная робототехника приведет к появлению машин, заменяющих людей, но правильные отношения между человеком и машиной должны быть, по его словам, «големическими». Понятие «големический» ввел Норберт Винер для обозначения мира до технологической эпохи. В своей книге «Големический подход» (The Golemic Approach){159} Фельзенштейн представил философию проектирования автоматизированных машин, где пользователь включался в систему с жесткой обратной связью машина – человек. В структуре Фельзенштейна человек должен был иметь высокую квалификацию, чтобы управлять системой. Такой подход радикально отличался от традиционной робототехники, где экспертные знания «закладывались» в робота, а человек играл пассивную роль.

Для Фельзенштейна хорошей аналогией идеального големического устройства был автомобиль. В автомобиле немало автоматических систем – автоматическая трансмиссия, система распределения тормозных усилий, а в наши дни адаптивный круиз-контроль и система удержания полосы движения, – но управляет им все же человек. Человек, выражаясь языком NASA, играет значительную роль в контуре управления.

Фельзенштейн сначала опубликовал свои идеи в виде манифеста в сборнике материалов Компьютерной ярмарки Западного побережья 1979 г. Движение любителей компьютеров в середине 1970-х гг. нашло свой дом на этом ежегодном компьютерном мероприятии, которое организовал и курировал бывший преподаватель математики и несостоявшийся хиппи по имени Джим Уоррен. Когда Фельзенштейн сформулировал свои идеи, 1960-е гг. уже закончились, но он во многом остался утопистом: «Я верю, что големические подходы позволят нам прийти к обществу, где машины будут не отнимать у людей хорошую и плодотворную работу, а стирать различия между работой и игрой»{160}. Однако в конце 1970-х гг., когда Фельзенштейн писал свое эссе, было ясно, что голем может превратиться как в помощника, так и в аналог монстра Франкенштейна.

Хотя Фельзенштейн внес немалый вклад в превращение PC из хобби в огромную индустрию, до недавнего времени о нем мало кто вспоминал. В 1990-х гг. он работал инженером в Interval Research Corporation, а затем основал небольшую консультационную компанию неподалеку от Калифорния-авеню в Пало-Альто, на той же улице, где сегодня расположено робототехническое подразделение Google. Фельзенштейн придерживался своих политических идеалов и работал над множеством технических проектов – от слуховых аппаратов до приборов для исследования парапсихологических явлений. На национальную сцену он вернулся в 2014 г., когда им заинтересовался Евгений Морозов, интеллектуал из Белоруссии, который специализировался на квазиакадемических разборках интернет-знаменитостей и пунктиках постдоткомовской эры. Морозов опубликовал в журнале New-Yorker очерк{161} о сомнительных, на его взгляд, аспектах в целом позитивно воспринимаемого «движения мейкеров». Он начал с корней Фельзенштейна в клубе Homebrew и его утопических идеалов, изложенных в интервью 1995 г. В нем Фельзенштейн рассказывал, как отец познакомил его с книгой «Инструменты конвивельности» (Tools for Conviviality) Ивана Иллича, радикального бывшего священника, который был влиятельным сторонником левых в контркультуре 1960-х и 1970-х гг. Фельзенштейна привлекло недогматическое отношение Иллича к технологии, противопоставлявшее «конвивельные», антропоцентрические технологии «промышленным». Иллич писал в основном до того, как микропроцессоры позволили децентрализовать обработку данных, и поэтому считал вычислительные машины инструментом централизованного бюрократического контроля. Противоположный пример он видел в распространении радио в Центральной Америке, которое быстро стало восходящей технологией, расширявшей возможности людей, а не угнетавшей их. Фельзенштейн полагал, что это потенциально верно для вычислительной техники{162}.

Морозов хотел доказать, что Фельзенштейн, а следовательно, и движение мейкеров, унаследовавшее его идеи, наивны в стремлении преобразовать общество только через инструменты. Он писал, что «общество всегда в движении» и что «разработчик не может предвидеть, в какой мере политические, социальные и экономические системы ослабят, расширят или перенацелят возможности создаваемых инструментов». Политическим ответом, утверждал Морозов, должно быть преобразование движения программистов-фанатиков в традиционные политические кампании за обеспечение прозрачности и демократии.

Такое заявление впечатляло, но предложенное Морозовым решение было столь же неэффективно, как соломенное чучело, которое ставят, а потом раздраконивают под аплодисменты. Затем Морозов переключился на гений Стива Джобса. Джобса, похоже, мало заботило, открытой или закрытой была технология персональных компьютеров, развитием которой он занимался в середине 1970-х гг. Морозов отдавал Джобсу должное за то, что тот рассматривал компьютер как мощный инструмент усиления интеллекта. Однако он совершенно упустил взаимозависимость предпринимателя Джобса и разработчика Возняка. Их можно рассматривать по отдельности, но это не объяснит успеха Apple. Пытаясь показать, что Иллич интересовался только простыми технологиями, доступными неспециалистам, Морозов просто притягивал аргументы за уши.

Однако «конвивельные» технологии (так Иллич называл инструменты, находящиеся под индивидуальным контролем) остаются жизненно важным аспектом при разработке систем, актуальность которого сегодня выше, чем когда-либо. Это наглядно показала встреча Фельзенштейна с Илличем, когда ученый-радикал посетил Беркли в 1986 г. Иллич посмеялся над Фельзенштейном за попытку заменить живое общение коммуникацией через компьютеры. «Зачем городить огород, чтобы поговорить с Перл? Почему просто не пойти и не поговорить с ней?» – спрашивал Иллич.

Фельзенштейн отвечал: «Что, если я не знаю, с ней ли хочу поговорить?»

Иллич запнулся и сказал: «Понимаю, что вы имеете в виду».

Тогда Фельзенштейн добавил: «Вот видите, пожалуй, компьютер не помешает и сообществу велосипедистов».

Фельзенштейн убедил Иллича, что такая коммуникация позволяет создать сообщество даже в отсутствие личных контактов. Учитывая быстрое развитие робототехники, в наши дни значение идей Фельзенштейна и Иллича относительно разработки и контроля лишь выросло. В мире Фельзенштейна тяжелая работа должна была стать уделом машин, а работа – превратиться в игру. Описывая гипотетический «терминал Тома Свифта»{163}, систему, предвосхищавшую первые PC, он говорил: «Если работа будет игрой, то инструменты должны стать игрушками».

Сегодня корпоративный кампус Microsoft представляет собой проложенные среди елей дорожки, здания, спортивные площадки, кафетерии и крытые автостоянки. Его атмосфера непохожа на Googleplex в Кремниевой долине – там не увидишь ярко раскрашенных велосипедов, но повсюду встречаются такие же молодые технические работники, которых легко можно принять за студентов или даже учеников средней школы.

Когда подходишь к лифту в вестибюле здания 99, где расположены исследовательские лаборатории компании, двери открываются автоматически. Прямо как в «Звездном пути»: капитан Кирк тоже никогда не нажимал на кнопку. Интеллектуальный лифт – детище Эрика Хорвица, директора исследовательского центра Microsoft Research в Редмонде. Хорвиц известен среди исследователей искусственного интеллекта как представитель первого поколения ученых-компьютерщиков, которые стали использовать статистические методы для повышения эффективности интеллектуальных приложений.

Как и многие другие, Хорвиц сначала пытался понять, как функционирует человеческий разум. В 1980-х гг. он получил медицинское образование в Стэнфорде и погрузился в нейробиологические исследования. Однажды вечером в лаборатории он попробовал с помощью зонда пересадить единичный нейрон в мозг крысы. Эксперимент захватил Хорвица. В его распоряжении были осциллограф и громкоговоритель. Он слышал генерируемые нейроном импульсы и думал: «Ну вот, я внутри. Я наблюдаю процесс мышления позвоночного животного». Вдруг до него дошло, что он и понятия не имеет, о чем говорят импульсы нейрона. Его взгляд упал на лабораторный стол, где стоял новенький компьютер Apple IIe со сдвинутой крышкой. Сердце екнуло – он ведь выбрал совершенно неправильный подход. С таким же успехом можно было тыкать зондом наугад в компьютер и пытаться понять, как работает программное обеспечение.

Хорвиц оставил медицину, изменил специализацию обучения и начал слушать курсы когнитивной психологии и информатики. В качестве наставника он выбрал Герберта Саймона с другого конца страны, ученого-когнитивиста из Университета Карнеги – Меллона и пионера искусственного интеллекта. Он также сблизился с преподавателем информатики из Калифорнийского университета Джудой Перлом, который одним из первых порвал с ранними подходами к искусственному интеллекту на основе логики и правил и стал использовать распознавание образов и строить байесовские сети. Этот подход концептуально близок к идеям нейронной сети, в пух и прах раскритикованным Мински и Пейпертом в 1960-е гг. Как результат в 1980-х гг. в Стэнфорде идеи Хорвица не укладывались в господствующие представления в сфере компьютерных наук. Многие исследователи считали его подход на основе теории вероятности возвратом к устаревшим методам «теории управления».

Оказавшись в Microsoft Research в 1993 г., Хорвиц занялся созданием группы по применению искусственного интеллекта для улучшения коммерческих продуктов компании. Помощник Microsoft Office Assistant, или Clippy, представленный в 1997 г., должен был облегчить пользователям освоение сложного программного обеспечения. В значительной мере он был результатом работы группы Хорвица. К сожалению, это нововведение обернулось провалом. Проект встретил настолько широкое неприятие, что в ролике Microsoft с рекламой Office 2010 присутствовал надгробный камень Clippy, скончавшегося в 2004 г. в возрасте семи лет{164}.

Провал Clippy пролил свет на внутреннюю политику Microsoft. Исследовательская группа Хорвица проповедовала идею интеллектуального помощника, но она вместе с Microsoft Research в то время работала почти в полном отрыве от департамента разработки компании. В 2005 г., после того как Microsoft покончила с технологией Office Assistant, Стивен Синофски, руководитель разработчиков Office, описывал отношение к интеллектуальному помощнику так: «Название сервиса, используемое в продукте, никогда не совпадает с тем, как мы называем его во время разработки. Office Assistant получил название TFC. Буква "C" обозначала клоуна. Ну а что имелось в виду под TF, решите сами»{165}. Было ясно, что идея интеллектуального помощника с самого начала не вызывала энтузиазма у разработчиков программного обеспечения компании. Поскольку Хорвиц со своей группой не имел достаточной поддержки со стороны разработчиков продуктов, Clippy был обречен на неудачу.

Первоначальная, более общая концепция интеллектуального офисного помощника, которую исследовательская группа Хорвица представила в докладе 1998 г., очень отличалось от того, что позже выпустила на рынок Microsoft. Из окончательной версии помощника была исключена программа, предотвращавшая слишком частое появление подсказчика на экране. Постоянные вторжения отвлекали пользователей, и функция была решительно – хотя, возможно, преждевременно – отвергнута клиентами Microsoft. Компания не захотела публично объяснять, почему она исключила компоненты, необходимые для нормальной работы Clippy. Один из слушателей однажды спросил об этом Хорвица после публичной лекции, и тот ответил, что компоненты раздували Office 97 до такой степени, что он не помещался на дистрибутивный диск{166}. (До тех пор пока интернет не открыл возможность обновления через сеть, единственным выходом было исключение чего-нибудь.)

Такова политика крупных компаний, но Хорвиц не сдался. Сегодня посетителей его кабинета со стеклянными стенами на четвертом этаже приветствует живущий в мониторе персональный помощник. Монитор установлен на тележке перед офисом, и с него на зрителей смотрит карикатурный двойник Макса Хэдрума, звезды британского телесериала о запинающемся искусственном интеллекте, который содержит предсмертные воспоминания из мозга тележурналиста Эдисона Картера. Электронный секретарь Хорвица может сообщить посетителям, где тот находится, назначить встречу, сказать, когда хозяин кабинета будет на месте. Он отслеживает почти десяток аспектов работы Хорвица, включая его местоположение и загруженность в любой момент дня.

Хорвиц остается приверженцем систем, которые расширяют возможности людей. Исследователи под его руководством разрабатывают приложения, которые помогают во время разговора врача и пациента и в других ответственных ситуациях избегать потенциально опасного недопонимания. Одно из приложений позволяет вести журнал переговоров во время авиакатастроф для выявления ошибок в процессе взаимодействия авиадиспетчеров и пилотов. Классическим и трагическим примером недопонимания между пилотами и диспетчерами служит катастрофа в аэропорту Тенерифе в 1977 г., когда в густом тумане столкнулись два Boeing 747, один из которых выруливал на взлетно-посадочную полосу, а другой взлетал. Столкновение унесло жизни 583 человек{167}. В записи переговоров есть момент, когда двое пытаются говорить одновременно и речь становится неразборчивой. Одна из целей лаборатории Хорвица – разработка способов предотвращения трагедий такого рода. Хорвиц полагает, что добавление функционала машинного обучения и принятия решений позволит системам искусственного интеллекта анализировать переговоры людей и судить, что лучше оставить людям, а что следует передать машине. Доступность дешевых компьютеров и интернета увеличивает эффективность таких систем, и на рынке уже есть примеры подобного усиления интеллекта. Так, еще в 2005 г. два шахматиста-любителя с помощью шахматной программы смогли обыграть и первоклассных шахматистов, и самостоятельные шахматные программы.

Хорвиц продолжает углублять взаимодействие человека и машины, исследуя возможности сочетания машинного обучения и компьютерных технологий принятия решений с интеллектом человека. Например, его исследователи тесно сотрудничают с создателями научного инструмента Galaxy Zoo, позволяющего привлечь армию интернет-пользователей к классификации типов галактик по их изображениям. Участие широкого круга добровольцев становится существенным ресурсом в научном исследовании: профессиональные ученые могут привлекать любителей, от которых зачастую требуется немногим больше, чем в игре, построенной на использовании живого восприятия. Этот подход помогает ученым решать такие сложные проблемы, как фолдинг белка{168}. Известен целый ряд случаев, когда команды экспертов по своим возможностям превосходили самые мощные суперкомпьютеры.

Формируя коллективы людей и машин и поручая каждой группе свою исследовательскую задачу, ученые могут создать сильную гибридную команду. Компьютеры потрясающе распознают изображения и могут составлять таблицы из сотен визуальных и аналитических характеристик каждой галактики, видимой через телескопы на земле. Это очень недорого, но идеальных результатов не приносит. В следующей версии программы, названной Galaxy Zoo 2, компьютеры с моделями машинного обучения интерпретировали изображения галактик для представления точных исходных данных людям, которые классифицировали галактики со значительно меньшими усилиями, чем раньше. Кроме того, система стала идентифицировать способности конкретных участников. Galaxy Zoo 2 смогла автоматически классифицировать возникающие проблемы и определять, кто именно наиболее эффективно способствует решению данной проблемы.

Во время выступления на конференции TED в 2013 г. Хорвиц продемонстрировал реакцию молодой сотрудницы Microsoft при первом столкновении с его роботом-секретарем. Он показал ролик о взаимодействии с точки зрения системы, которая отслеживала выражение лица. Молодая женщина подошла к роботу, и, когда тот сказал, что Эрик разговаривает с кем-то в офисе, а потом предложил записать ее на прием, она запнулась и отказалась. «Ничего себе, – сказала она шепотом, а затем, чтобы закончить разговор, добавила: Рада была познакомиться!» Хорвиц видел в этом хороший знак, предвещавший появление мира, в котором люди и машины будут партнерами.

Диалоговые системы постепенно становятся неотъемлемой частью наших повседневных взаимодействий. Конечно, такое партнерство не всегда развивается так, как мы ожидаем. В декабре 2013 г. сенсацией стал фильм «Она», любовный роман с Хоакином Фениксом в главной роли и голосом Скарлетт Йоханссон. Этот научно-фантастический фильм показывает наше недалекое будущее, в котором одинокий человек из Южной Калифорнии влюбляется в операционную систему. Сюжет показался вполне правдоподобным многим зрителям. В конце 2013 г. миллионы людей по всему миру уже не первый год общались с Siri компании Apple и не сомневались в том, что «виртуальные агенты» постепенно превращаются из новинок в обычное дело.

В какой-то мере фильм «Она» посвящен и сингулярности – идее о том, что быстро развивающийся машинный интеллект в конечном итоге превзойдет человека и станет независимым. Фильмы «Она» и «Превосходство» (Transcendence) – другой пронизанный идеей сингулярности фильм, вышедший на экраны следующей весной – больше всего интересны тем, как они преподносят отношения между человеком и машиной. В «Превосходстве» взаимодействие человека с компьютером переходит из приятного в мрачное, и в конечном счете сверхинтеллектуальная машина уничтожает нашу цивилизацию. В фильме «Она» отношения между человеком и операционной системой распадаются, поскольку электронный интеллект развивается настолько быстро, что ему становится мало даже тысяч одновременных отношений, он превосходит человечество и… уходит.

Это, конечно, фантастика, но с чем-то подобным в реальном мире Лизл Каппер столкнулась почти на десятилетие раньше. Каппер, в то время генеральный директор занимавшейся разработкой виртуального собеседника австралийской компании My Cybertwin, просматривала регистрационный журнал созданного ею сервиса My Perfect Girlfriend с растущим ужасом. My Perfect Friend должен был стать чат-ботом, демонстрирующим технологии обработки естественного языка, предлагаемые компанией Каппер. Но эксперимент пошел не в ту сторону. Прочитав сообщения веб-сайта, Каппер обнаружила, что стала оператором цифрового борделя.

Технология виртуальных собеседников существует со времен экспериментов Вейценбаума с программой Eliza. Быстрое развитие компьютерных технологий упростило отношения между людьми и машинами. В книге «Одинокие вместе: Почему мы ожидаем от технологий большего, чем друг от друга» социолог из Массачусетского технологического института Шерри Теркл выражает беспокойство в связи с тем, что технологии расширяют взаимодействие человека с машинами в ущерб контактам между людьми. «Я полагаю, что технология общения всегда будет разочаровывать, поскольку она обещает то, чего не может дать, – пишет Теркл. – Она обещает дружбу, но способна создать только "видимость". Хотим ли мы на самом деле штамповать друзей, которые никогда не будут друзьями?»{169} Социологи уже давно описали это явление как ложное чувство единства – «псевдосообщество», – и оно не ограничено человеко-машинным взаимодействием. Например, клиент банка может ценить отношения с кассиром, хотя они существуют только в контексте коммерческих операций и представляют собой не более чем вежливое, поверхностное знакомство. Теркл также считает, что отношения между людьми и роботами, которые она наблюдала в исследовательских лабораториях Массачусетского технологического института, нельзя относить к настоящим. Машины создаются для выражения синтетических эмоций с тем, чтобы вызвать определенную реакцию человека или выяснить, как он будет реагировать.

Именно такие эмоциональные, если не открыто сексуальные, разговоры пользователей с Perfect Girlfriend увидела Каппер. Молодая деловая женщина, которая выросла в Зимбабве и имела степень в области психологии, прежде занималась разработкой программ обучения для центров раннего развития детей. Каппер переехала в Австралию как раз перед крахом пузыря доткомов. В Австралии она попробовала себя в разработке поисковых систем и создала Mooter, программу индивидуализированного поиска. Но Mooter не могла противостоять глобальному господству Google. Хотя ее компания впоследствии стала публичной, в 2005 г. Каппер ушла из нее вместе с деловым партнером Джоном Закосом, ярким австралийским исследователем искусственного интеллекта, с юности очарованным идеей создания виртуальных собеседников. Вместе они превратили My Cybertwin в бизнес, продающий технологию FAQbot банкам и страховым компаниям. Эти боты отвечали на часто задаваемые вопросы пользователей веб-сайтов о продуктах и услугах. Технология, позволявшая предоставлять персонифицированную информацию клиентам и экономить деньги на колл-центрах и телефонной связи, была очень востребованной, но в то время еще недостаточно зрелой. Хотя My Cybertwin и добилась некоторого первоначального успеха, у нее были конкуренты, и Каппер искала выходы на новые рынки. Они попытались превратить My Cybertwin в сервис, создающий программный аватар, который обеспечивает взаимодействие в интернете, даже когда его владелец не в сети. Это была фантастическая идея, но результаты она принесла скромные.

Каппер отвечает уклончиво и нейтрально на вопрос, отнимают ли виртуальные помощники рабочие места. В интервью она подчеркивает, что они не заменяют работников напрямую, и концентрирует внимание на рутинной работе, которую ее Cybertwin делают во многих компаниях и таким образом высвобождают людей для более сложных и престижных задач. В это же время Закос на конференциях утверждал, что при сравнительном тестировании ответов на вопросы по тексту Cybertwin и операторов колл-центра Cybertwin выигрывает у людей с точки зрения удовлетворенности потребителя. По его словам, после развертывания коммерческой системы на веб-сайте крупнейшего банка страны, Национального банка Австралии, больше 90 % посетителей сайта думали, что общаются с человеком, а не c программой. Чтобы быть убедительным, интеллектуальный агент на веб-сайте банка должен отвечать не меньше чем на 150 000 вопросов – такая возможность вполне обеспечивается современными системами обработки и хранения информации.

Несмотря на нежелание обсуждать вопрос ликвидации рабочих мест, последствия работы Каппер и Закоса, скорее всего, будут ощутимыми. В значительной мере рост армии белых воротничков в США после Второй мировой войны объяснялся быстрым распространением систем коммуникации – агенты по телефонным продажам, телефонисты, работники служб технической поддержки и обеспечения продаж были необходимы для создания в компаниях инфраструктуры для связи клиентов с персоналом. Компьютеризация изменила эти профессии: колл-центры переместились за границу, а автоматические коммутаторы первого поколения заменили большую толику телефонистов. Софтверные компании вроде выделившейся из SRI Nuance, которая предлагает системы независимого от говорящего распознавания голоса, начали радикально преобразовывать колл-центры клиентской поддержки и системы бронирования авиабилетов. Несмотря на неприятие потребителями голосовой почты, технологии, подобные My Cybertwin и Nuance, скоро поставят под угрозу рабочие места, связанные с взаимодействием с клиентами по телефону. Интеллектуальный агент My Cybertwin может быть недостаточно хорошим, чтобы пройти полный тест Тьюринга, но он был на шаг впереди большинства чат-ботов, доступных через интернет в то время.

Каппер совершенно уверена, что скоро мы будем жить в мире, где виртуальные роботы станут обычными компаньонами человека. У нее нет философских сомнений, которые мучают исследователей вроде Вейценбаума и Теркл. Она также не видит проблемы, если человек и Cybertwin будут взаимодействовать по модели «главный – подчиненный»{170}. В 2007 г. Каппер начала экспериментировать с программами под названием My Perfect Boyfriend и My Perfect Girlfriend. Как и следовало ожидать, трафик на сайте Girlfriend оказался существенно больше, поэтому она установила платный доступ к отдельным видам сервиса. И что бы вы думали, 4 % пользователей, скорее всего мужчины, из тех, кто уже посещал сайт, согласились платить за создание онлайн-отношений. Их предупредили, что на другом конце нет ничего даже отдаленно человеческого, что это алгоритм, который только подражает человеку. Но они были готовы платить за услугу, хотя в то время не наблюдалось недостатка «секс-чатов» с реальными людьми.

Причина, возможно, в следующем. На заре эры персональных компьютеров существовал успешный издатель текстовых игр – компания Infocom, рекламный лозунг которой выглядел так: «Лучшая графика – в вашей голове». Не исключено, что взаимодействие с роботом раскрепощает именно из-за отсутствия на другом конце линии человека. Может быть, дело тут вообще не в отношениях с людьми, а в чувстве контроля и возможности занять положение главного или… подчиненного.

Независимо от психологической основы таких взаимодействий, Каппер была шокирована. Она видела в них больше человеческого, чем рассчитывала. Поэтому, хотя бизнес успешно развивался, она отступила и закрыла My Perfect Girlfriend в 2014 г. На ее взгляд, бизнес надо было строить на чем-то другом. Как оказалось, деловое чутье Каппер сработало вовремя. Успех Siri компании Apple изменил рынок виртуальных агентов. Компьютерный мир стал воспринимать диалоговые системы не как необычные новинки, а как основную форму взаимодействия с компьютером. Еще до My Perfect Girlfriend Каппер поняла, что для успеха бизнес необходимо развертывать в Соединенных Штатах. Она привлекла необходимые средства, переименовала My Cybertwin в Cognea и открыла отделения в Кремниевой долине и в Нью-Йорке. Весной 2014 г. Каппер продала свою компанию IBM. Компьютерный гигант после победы в матче над гроссмейстером Гарри Каспаровым в 1997 г. с не менее шумной рекламной кампанией выставил одного из своих роботов против двух лучших игроков телевикторины «Своя игра». В 2011 г. система Watson компании IBM одержала победу над Брэдом Раттером и Кеном Дженнингсом. Многие посчитали эту победу доказательством превосходства искусственного интеллекта над человеком. Но действительность была не такой однозначной. Соперникам робота очень редко удавалось нажать кнопку раньше Watson. У компьютера было подавляющее механическое преимущество, имевшее мало общего с искусственным интеллектом. Когда у него была статистическая уверенность в правильности ответа, он мог нажать кнопку намного раньше людей.

Ирония заключается в том, что IBM исторически позиционировала себя как компания усиления интеллекта, а не компания, стремящаяся заменить людей. С 1950-х гг., когда IBM оставила исследования в области искусственного интеллекта, компания стремится не афишировать, что ее компьютеры нередко заменяют людей{171}. После победы Watson компания представляла свое достижение как шаг к расширению возможностей работников и заявляла о планах создать на основе этой технологии интеллектуального помощника для врачей и медсестер.

Однако превращение системы Watson в советника врачей шло со скрипом, и компания расширила сферу ее применения. Сегодня бизнес-группа Watson разрабатывает приложения, которые неизбежно заменяют людей. Watson первоначально работала в режиме «вопрос – ответ», развиваясь в направлении фундаментальных целей в сфере искусственного интеллекта. В сочетании с Cognea система Watson получила способность вести беседу. Как она будет использоваться? Дилемма, перед которой стоят IBM и ее инженеры, известна. Watson может с равным успехом служить интеллектуальным помощником профессионалов и заменять их. В момент зарождения индустрии искусственного интеллекта IBM отошла от нее. Куда она пойдет в будущем – вопрос.

Участник «Своей игры» Кен Дженнингс не видит в победе IBM ничего хорошего: «Если в XX в. роботы на сборочной линии заменяли фабричных рабочих, то новое поколение "думающих" машин заменяет работников сферы интеллектуальных услуг, которую представляем мы с Брэдом. "Участник телевикторины" – первая профессия, ликвидированная системой Watson, но я уверен, что она не последняя»{172}.