Мичио Каку Физика будущего

Скачать 5.65 Mb.

Название	Мичио Каку Физика будущего
страница	14/54
Дата публикации	03.09.2013
Размер	5.65 Mb.
Тип	Документы

100-bal.ru > Физика > Документы

1 ... 10 11 12 13 14 15 16 17 ... 54

Наиболее вероятный сценарий: дружественный ИИ

Во-первых, ученые, вероятно, примут некоторые простые меры к тому, чтобы роботы не были опасны. В качестве минимальной меры в мозг робота можно поместить специальный чип, который будет автоматически выключать своего носителя при возникновении у него мыслей об убийстве людей. При таком подходе все разумные роботы будут снабжены отказоустойчивым механизмом, который любой человек сможет в любой момент включить, особенно если робот вдруг начнет вести себя неправильно. При малейшем намеке на неисправность и сбои в функционировании робота любая голосовая команда немедленно выключит его.

Или можно создать специальных роботов-охотников, обязанностью которых будет нейтрализация роботов с отклонениями в поведении. Роботы-охотники будут превосходить обычных роботов по скорости, силе и координации и смогут без труда захватывать девиантных роботов. В их схему будет заложено понимание слабых мест любой автоматической системы, любого робота, а также принципы их поведения в определенных обстоятельствах. Охотником на сбойных роботов может стать и человек. В фильме «Бегущий по лезвию бритвы» был показан отряд особо тренированных агентов, в который входил и главный герой в исполнении Харрисона Форда; эти агенты владели специальными техниками, необходимыми для выявления и нейтрализации роботов-преступников.

На постепенное восхождение роботов по эволюционной лестнице разума уйдет много десятилетий тяжкой работы, поэтому появление разумных роботов не станет внезапным. Человечество невозможно будет захватить врасплох и сразу же загнать в зоопарки, как зверей. Сознание, в моем понимании, — это скорее процесс, ход которого можно оценивать, а не внезапное эволюционное событие, и восхождение роботов по шкале сознания будет идти медленно и постепенно и займет не один десяток лет. В конце концов, на развитие человеческого сознания у матери-природы ушли миллионы лет. Так что для человека не станет неожиданностью, когда Интернет внезапно «проснется» или роботы ни с того ни с сего начнут самостоятельно планировать собственное будущее.

Именно такой подход предпочитал писатель-фантаст Айзек Азимов. В его произведениях каждому роботу еще на заводе намертво встраивали в сознание три непреложных закона, не позволявших им выйти из-под контроля. Цель знаменитых трех законов робототехники, придуманных им, состояла в том, чтобы не дать роботам нанести вред человеку или себе самим. (Если очень коротко, эти три закона гласят, что робот не может нанести вред человеку, что он должен повиноваться человеку и что он должен заботиться о себе, именно в этом порядке.)

(Даже азимовские законы не избавляют от проблем в тех случаях, когда ситуация порождает противоречие между тремя законами. Представьте, к примеру, что кому-то удалось создать благожелательного робота. Что произойдет, если человечество вдруг сделает губительный выбор и поставит под угрозу собственное существование? Дружественный робот может решить, что необходимо взять под контроль правительство и не дать человеку нанести себе вред. Именно с этой проблемой столкнулся Уилл Смит в кинофильме «Я, робот», когда центральный компьютер решил, что для спасения человечества «некоторыми людьми необходимо пожертвовать, а от некоторых свобод отказаться». Чтобы не позволить роботам поработить человечество и спасти его, некоторые предлагают дополнить законы робототехники еще одним, нулевым законом: робот не может нанести вред человечеству или поработить его.)

Однако многие ученые склоняются к варианту так называемого «дружественного ИИ», при котором подразумевается, что человек с самого начала сделает роботов доброжелательными созданиями. Поскольку именно мы — создатели роботов и именно мы будем их разрабатывать, ничто не помешает нам сделать так, чтобы роботы с самого начала занимались только полезными и добрыми делами.

Понятие «дружественный ИИ» или «дружественный сверхразум» ввел в обращение Элиезер Юдковский (Eliezer Yudkowsky), один из основателей Института сингулярности по искусственному интеллекту. Дружественный ИИ несколько отличается от законов Азимова, которые предполагается навязывать роботам, возможно против их воли. (Более того, законы Азимова, привнесенные в сознание роботов извне, могут побудить их поступить наоборот и заняться поиском хитрых путей их обхода.) В дружественном ИИ, напротив, ничто не мешает роботам убивать и безобразничать. Здесь нет законов, насаждающих искусственную мораль. Скорее можно сказать, что эти роботы с самого начала придуманы так, что для них естественным является желание помогать людям, а не губить их. Они сами выбирают путь добра.

Такой подход породил новое направление, получившее название «социальной робототехники». Его цель — наделить роботов качествами, которые помогут им безболезненно войти в человеческое общество. Ученые компании Hanson Robotics, к примеру, утверждают, что единственная задача их исследований — разработка роботов, которые «эволюционируют в социально разумные существа, способные любить и достойные места в расширенной человеческой семье».

Проблема с подобными подходами в том, что больше всего — и намного! — денег в разработки по искусственному интеллекту вкладывают военные, и роботы, создаваемые по их заказам, специально предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военные роботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда-нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия.

В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно.

Слиться с роботами

В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться.

Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражался с общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты^¹⁰. Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы.

Брукс считает, что одна из проблем ИИ состоит в том, что исследователи, как правило, хватаются за новые веяния и работают в рамках текущей парадигмы, вместо того чтобы думать по-новому и искать новые пути. Он вспоминает, к примеру: «В детстве у меня была книга, в которой мозг описывался как телефонный коммутатор. Еще более ранние книги описывали мозг как гидродинамическую систему или паровой двигатель.

Затем, в 1960-е, мозг стал цифровым компьютером. В 1980-е — цифровым компьютером с параллельной шиной. Вероятно, сейчас можно отыскать детскую книжку, где говорится, что мозг очень напоминает Всемирную паутину…»

Так, некоторые историки отмечают, что на психоанализ Зигмунда Фрейда повлияло появление парового двигателя и конкретно паровоза. Вообще, возникновение в Европе сети железных дорог в середине — конце XIX в. серьезно сказалось на мышлении интеллектуалов. По Фрейду, в сознании человека существуют потоки энергии, которые непрерывно конкурируют с другими потоками, и все это напоминает движение пара в паровозных паропроводах. А тот факт, что подавление этих энергетических потоков может вызывать неврозы, аналогичен тому, что паровой двигатель при закупорке клапана может взорваться.

Марвин Мински признался мне, что существует еще одна парадигма, которая уже много лет уводит исследователей ИИ в сторону и затрудняет развитие. Дело в том, что многие исследователи искусственного интеллекта пришли в эту область из физики и испытывают чувство, известное как «зависть физиков», — желание отыскать единственный принцип, лежащий в основе всякого разума. В физике ученые вслед за Эйнштейном стремятся представить физическую Вселенную в виде нескольких обобщающих уравнений и, возможно, отыскать короткое уравнение, которое объединило бы всю Вселенную единственной универсальной и понятной идеей. Мински считает, что «зависть физиков» побуждает исследователей ИИ искать универсальную базовую формулу и для сознания, — а на самом деле единой формулы или единого принципа не существует! Мински по крайней мере в этом убежден. Эволюция случайным образом объединила в один клубок множество самых разных структур и технологий, которые мы сегодня называем сознанием. Разберите мозг на составные части, и вы найдете набор слабо связанных между собой мини-мозгов, каждый из которых предназначен для выполнения конкретной задачи. Мински называет это «союзом сознаний» и говорит, что на самом деле человеческое сознание — это сумма множества отдельных алгоритмов и техник, которые случайно возникли и были подхвачены эволюцией и которые природа за миллионы лет объединила в единую систему.

Родни Брукс тоже искал похожую парадигму, но такую, которую никто и никогда еще до конца не исследовал. Вскоре он понял, что мать-природа и эволюция уже решили большую часть наших проблем. К примеру, комар, у которого в мозгу содержится всего несколько сотен тысяч нейронов, способен легко обойти любую, в том числе самую лучшую военную роботизированную систему. В отличие от наших беспилотных самолетов, комары, мозг которых по размеру намного уступает булавочной головке, способны независимо ориентироваться в пространстве, огибать препятствия, находить пищу и партнера. Почему не поучиться у природы и биологии? Посмотрев внимательнее на ступени эволюционной лестницы, нетрудно понять, что в насекомых и мышей никто не закладывал законы логики и здравого смысла. Только метод проб и ошибок позволил им завоевать мир и овладеть искусством выживания.

Теперь Брукс разрабатывает еще одну теоретическую идею, изложенную в его статье «Смешение плоти и машин». Он отмечает, что старые лаборатории MIT, когда-то разрабатывавшие полупроводниковые компоненты для промышленных и военных роботов, теперь закрываются, уступая дорогу новому поколению роботов, в состав которых будут входить не только кремний и сталь, но и живые ткани. Он предвидит появление абсолютно новых роботов совершенно новой архитектуры, в которой соединятся биологические и электронные системы.

Брукс пишет: «Я предсказываю, что к 2100 г. всюду в нашей повседневной жизни будут встречаться весьма умные роботы. Но и мы не останемся независимыми от них — скорее, мы сами будем отчасти роботами и будем при этом неразрывно связаны с роботами».

Он считает, что путь к этому будет постепенным. В настоящее время уже идет революция в протезировании, электронные компоненты вживляются непосредственно в тело человека, чтобы обеспечить реалистичную замену слуху, зрению и другим биологическим функциям. К примеру, искусственная «улитка» уже произвела переворот в аудиологии и дала возможность возвращать слух глухим людям. Работа искусственных улиток состоит в том, чтобы подключать электронные устройства к биологической сети, т. е. к нейронам. Такой слуховой имплант состоит из нескольких компонент. Снаружи возле уха помещается микрофон. Он принимает звуковые волны, обрабатывает их и передает сигналы по радио импланту, хирургически размещенному внутри уха. Имплант принимает радиопослания, переводит их в электрические токи и отправляет дальше по проложенным в ухе электродам. Улитка распознает электрические импульсы и пересылает их в мозг. В таких имплантах может использоваться до 24 электродов, которых достаточно для обработки полудюжины различных частот. Этого, в свою очередь, достаточно, чтобы различать человеческий голос. На сегодня уже 150 000 человек во всем мире носят улитку-имплант.

Несколько групп ученых занимаются вопросом помощи слепым и создания системы искусственного зрения, которая позволила бы подключить камеру к человеческому мозгу. Один из предлагаемых методов состоит в том, чтобы вживить полупроводниковый чип непосредственно в сетчатую оболочку человеческого глаза и подсоединить его к соответствующим зрительным нейронам. Другой — в том, чтобы подсоединить чип к специальному кабелю, который будет вести в заднюю часть черепа, где мозг обрабатывает зрительные сигналы. Этим группам ученых уже удалось впервые в истории вернуть какую-то часть зрения полностью слепым людям. Пациенты получили возможность различать до 50 световых точек, зажигавшихся перед ними. Со временем, вероятно, ученым удастся повысить Этот результат и довести число точек до нескольких тысяч.

Пока пациенты различают огни фейерверков, общие очертания своих рук, яркие светящиеся объекты и лампы, распознают присутствие поблизости автомобилей и людей и улавливают границы объектов. «На детских бейсбольных играх я различаю, где находятся принимающий, отбивающий и судья», — говорит Линда Морфут, одна из пациенток, на которых испытываются новые приборы.

На сегодняшний день 30 пациентов получили искусственную сетчатку и до 60 электродов. Но в Проекте искусственной сетчатки Министерства энергетики США, штаб-квартира которого находится в Университете Южной Калифорнии, уже разрабатывается новая система с более чем 200 электродами. Изучается также возможность разработки системы на 1000 электродов (но если к одному чипу подключить слишком много электродов, сетчатка может перегреться). В этой системе миниатюрная видеокамера, установленная на очках слепого человека, снимает окружающее и пересылает сигналы по беспроводной связи в микропроцессорный блок, который человек носит на поясе. Блок затем передает информацию чипу, помещенному непосредственно на сетчатку. Этот чип, в свою очередь, посылает слабые импульсы прямо в нервы сетчатки, которые сохранили активность. Таким образом можно обойти и отчасти заменить неработоспособные клетки сетчатки.

Роботизированная рука из «Звездных войн»

Механические усилители позволяют также копировать «изобретения» научной фантастики, включая роботизированную руку из «Звездных войн» и рентгеновское зрение Супермена. В фильме «Империя наносит ответный удар» Люк Скайуокер теряет кисть руки в результате удара светового меча, находящегося в руке злодея Дарта Вейдера, его отца. Никаких проблем. Ученые той далекой галактики быстро создают для него новую механическую руку с пальцами, способными чувствовать прикосновение.

Конечно, это кажется фантастикой — это и есть фантастика, — но на самом деле подобные вещи уже рядом с нами. Ученые Италии и Швеции добились значительного прогресса в этом вопросе и разработали роботизированную искусственную руку, способную «чувствовать». Первый пациент, Робин Экенстам (Robin Ekenstam), — 22-летний молодой человек, потерявший правую руку в результате рака, может теперь управлять движениями механических пальцев и ощущать реакцию предмета. Врачи подсоединили нервы руки Экенстама к чипам, установленным в его механической руке, так чтобы он мог при помощи сознания контролировать движения пальцев. В искусственной «умной руке» имеется четыре моторчика и 40 чувствительных элементов — сенсоров. Движения механических пальцев передаются в мозг пациента, так что он их чувствует и получает, соответственно, сигнал обратной связи. Таким образом, он может не только управлять движениями руки, но и «чувствовать» их. А поскольку обратная связь — одно из существенных условий корректных движений тела, новые протезы, возможно, произведут переворот в нашем отношении к инвалидам с искусственными конечностями.

Экенстам говорит: «Это очень здорово. Я испытываю чувства, которых не испытывал долгое время. Ко мне возвращается чувство руки. Стоит мне что-нибудь крепко сжать — и я ощущаю это кончиками пальцев, что странно, ведь их у меня больше нет».

Один из исследователей, Кристиан Чиприани (Christian Cipriani) из итальянского университета «Высшая школа Св. Анны», говорит: «Сначала мозг управляет движениями механической руки без всяких мышечных сокращений. Затем рука сможет послать мозгу сигнал обратной связи, так что пациент сможет это Движение почувствовать. В точности как у настоящей руки».

Это достижение очень важно, поскольку оно означает, что когда-нибудь люди смогут без труда управлять механическими конечностями, как если бы они состояли из плоти и костей. Вместо того чтобы долго осваивать управление металлическими руками и ногами, люди научатся обращаться с механическими протезами как с настоящими и чувствовать все нюансы движений через механизмы электронной обратной связи.

Имеются также данные в пользу теории о том, что человеческий мозг чрезвычайно пластичен и не имеет постоянной структуры, а непрерывно обновляет и заново устанавливает внутренние связи в соответствии с новыми заданиями и приспосабливается к новым обстоятельствам. Из этого следует, что мозг достаточно адаптабелен, чтобы принять на себя управление любым новым приспособлением или органом чувств. Их можно подключать к мозгу в разных местах, и мозг просто «научится» их контролировать. Если так, то мозг можно рассматривать как модульное устройство, способное коммутироваться в разных конфигурациях и брать на себя управление различными сенсорами и исполняющими устройствами. Такой тип поведения можно ожидать, если наш мозг представляет собой некую нейронную сеть, которая собирается по-новому, устанавливает новые связи и прокладывает новые нейронные пути всякий раз, когда сталкивается с новой задачей или необычными обстоятельствами, какими бы они ни были.

Родни Брукс пишет: «В следующие десять-двадцать лет произойдет культурный сдвиг, при котором мы примем роботизированные технологии, полупроводники и сталь в наши тела, попытаемся улучшить то, что имеем, и понять окружающий нас мир». Анализируя успехи по подключению мозга непосредственно к компьютеру или к механической руке, достигнутые в университетах Брауна и Дьюка, Брукс делает вывод: «Не исключено, что все мы сможем установить у себя прямо в мозгу беспроводное соединение с Интернетом».

На следующем этапе, считает он, целью слияния кремниевых чипов с живыми клетками будет уже не просто исправление физических недостатков, но постепенное увеличение наших способностей. К примеру, если сегодня импланты-улитки и искусственная сетчатка могут в какой-то степени восстановить слух и зрение, то завтра подобные приборы, возможно, дадут нам сверхчеловеческие способности. Мы научимся слышать звуки, доступные сегодня только собакам, и видеть ультрафиолетовые, инфракрасные и рентгеновские лучи.

Не исключено, что нам удастся улучшить и свои мыслительные способности. Брукс цитирует исследования, в которых к мозгу крысы в критические моменты развития зародыша добавлялись дополнительные слои нейронов. Интересно, что когнитивные способности таких крыс превосходили средние крысиные показатели. Брукс предвидит, что в недалеком будущем наступит время, когда при помощи аналогичных процессов можно будет улучшить интеллектуальные показатели и человеческого мозга. В дальнейших главах мы увидим, что биологи уже выделили у крыс ген, которые средства массовой информации окрестили «мышиным геном ума». «Улучшенная» мышь, в геном которой был введен этот ген, обладает значительно большим объемом памяти и лучшей обучаемостью, чем обычная.

К середине века, по мнению Брукса, наступит время, когда можно будет осуществлять фантастические на первый взгляд улучшения в теле, придавая нам способности, намного превосходящие способности обычного человека. «Через пятьдесят лет мы, скорее всего, увидим радикальные перемены в человеческом теле в результате генетических модификаций». А если добавить к этому еще и электронные усилители, то «разнообразие человеческих типов расширится в невообразимых для нас сегодня направлениях… Нас уже не будет ограничивать дарвиновская эволюция», — говорит он.

Но любые разумные идеи, конечно, можно довести до абсурда. Как далеко нам нужно будет зайти в деле слияния с нашими созданиями — роботами, прежде чем часть людей взбунтуется и скажет, что подобные гибриды вызывают у них отвращение?

Суррогаты и аватары

Существует способ соединения с роботами, при котором нам не придется менять свое человеческое тело. Речь идет о создании суррогатов, или аватаров. В фильме «Суррогаты» с Брюсом Уиллисом в главной роли рассказывается о том, что в 2017 г. ученые придумали способ, при помощи которого люди могли управлять роботами так, как если бы находились внутри их, и каждый получил возможность прожить жизнь в идеальном теле. Робот отзывался на любые команды, а человек-хозяин видел и чувствовал все, что видел и чувствовал его суррогат. Пока бренные тела людей слабели и старели, сами люди спокойно управляли поведением роботов-заменителей, обладавших сверхчеловеческими способностями и идеальной фигурой. Сюжет фильма осложняется тем, что люди в какой-то момент предпочли остаться молодыми и красивыми роботами-сверхчеловеками и бросить свои стареющие тела, которые очень кстати оказываются скрыты от глаз. По существу, весь род человеческий, не желая смотреть в лицо реальности, добровольно выбирает жизнь роботов.

В фильме «Аватар» эта идея продвигается еще на один шаг. Вместо того чтобы вести жизнь идеальных роботов, как в «Суррогатах», мы в 2154 г., может быть, получим возможность жить жизнью инопланетных существ. По сюжету фильма тело человека помещают в специальный кокон, а сам он получает возможность управлять специально клонированным телом инопланетянина. В каком-то смысле человек получает новое тело, которое позволит ему жить на новой планете. Таким образом мы сможем лучше контактировать с населением иных планет. По ходу сюжета фильма один из героев решает отказаться от своей человеческой сущности и жить жизнью аборигена, защищая местных жителей от наемников.

Сегодня подобные суррогаты и аватары невозможны, но не исключено, что в будущем такие возможности у человека появятся.

Недавно ASIMO был запрограммирован под новую идею, связанную с удаленным чувствованием. В университете Киото были подготовлены люди, которые должны управлять механическими движениями роботов при помощи сенсоров мозга. К примеру, студенты надевают на голову шлем для снятия электроэнцефалограммы и получают возможность мысленным усилием приводить в движение руки и ноги ASIMO. Пока испытуемые освоили четыре различных движения руками и головой робота. Не исключено, однако, что это первый шаг к новому направлению ИИ: созданию роботов, управляемых силой мысли.

Пока это всего лишь грубая демонстрация силы мысли и ее превосходства над материей, но в будущем — в ближайшие несколько десятилетий — мы, вероятно, увеличим набор движений, которые человек может мысленно скомандовать роботу, и установим обратные связи, так чтобы человек мог «чувствовать» свои новые роботизированные руки. Специальные очки или контактные линзы позволять увидеть все, что видит робот, и когда-нибудь человек, возможно, обретет полный мысленный контроль над его телесными движениями.

Не исключено, что такой подход позволит решить проблему иммиграции для Японии. Представьте себе работников, живущих в разных странах мира, но каждый день надевающих сенсорные шлемы и берущих на себя управление роботами-рабочими. Получается, что не только интеллектуальный, но и физический труд можно будет передавать дистанционно, через Интернет, и получать на выходе реальные физические действия механических рабочих. Это может означать, что роботы станут неотъемлемой частью любой нации, столкнувшейся с проблемой нехватки рабочей силы и заоблачных расходов на здравоохранение.

Дистанционное управление роботами можно будет применить и в других областях. Роботы, управляемые силой мысли, смогут исполнять функции спасателей в любой опасной или агрессивной среде (к примеру, под водой, возле высоковольтных линий или в огне). Или, скажем, подводных роботов можно будет подключить непосредственно к людям, так что человек сможет мысленно управлять движениями множества плавающих роботов. Поскольку суррогаты будут обладать сверхчеловеческими способностями, с их помощью можно будет гоняться за преступниками (если, конечно, преступники тоже не обзаведутся суррогатами с возможностями сверхчеловека). В общем, человек сможет пользоваться всеми преимуществами слияния с роботами, не меняя при этом нисколько своего тела.

Достижения в этой области могут оказаться полезными и в деле исследования и освоения космического пространства — к примеру, на постоянной лунной базе. Суррогаты будут выполнять все опасные задачи по содержанию и обслуживанию лунной базы, а астронавты все это время будут оставаться на Земле, в безопасности. При этом последние смогут пользоваться сверхсилой и другими сверхвозможностями роботов, что, безусловно, окажется полезным при исследовании полного опасностей инопланетного ландшафта. (Однако с суррогатами на Марсе такой фокус не пройдет, поскольку прохождение радиосигналов от Земли к Марсу и обратно занимает до 40 минут. Тем не менее суррогаты смогут работать на поверхности Красной планеты, выполнять опасные задачи под управлением астронавтов, находящихся в безопасности на постоянной марсианской базе.)

Стоит ли полностью сливаться с роботами?

Пионер робототехники Ганс Моравек заходит еще на несколько шагов дальше и представляет нам крайний случай слияния: мы полностью превращаемся в тех самых роботов, которых создали. Он объяснил мне, как человек может до конца слиться со своим роботизированным созданием: хирургическая операция заменит каждый нейрон человеческого мозга на транзистор внутри робота. Операция начинается, когда человек ложится рядом с безмозглым пока телом робота. Робот-хирург берет поочередно каждый кластер серого вещества мозга, воспроизводит его транзистор за транзистором, подключает нейроны к транзисторам и помещает готовый элемент мозга в череп робота. По мере дублирования кластеров мозга оригиналы отключаются. Человек во время этой деликатной операции находится в полном сознании. Часть его мозга продолжает функционировать в черепе его прежнего тела, но другая часть уже состоит из электронных элементов и находится внутри тела робота. Такая операция даст человеку не только роботизированное тело, но и все преимущества робота: бессмертие в совершенном теле, обладающем сверхчеловеческими способностями. В XXI в. такая операция не станет возможной, но в XXII — может быть.

Крайний сценарий такого рода предусматривает полный отказ от наших неуклюжих тел и превращение со временем в чисто компьютерные программы, в которых будет закодирована наша личность. Можно будет «загрузить» себя целиком, всю свою личность, в компьютер, и если кто-нибудь нажмет на клавиатуре этого компьютера кнопку с вашим именем, машина станет вести себя как вы, ведь ее память будет хранить все особенности вашей личности. Человек станет бессмертным, но будет существовать лишь в замкнутом мире компьютера, взаимодействуя с другими «людьми» (т. е. с другими программами) в некоем огромном киберпространстве — виртуальной реальности. Он откажется от телесного существования, заменив его движением электронов в гигантском компьютере. Окончательная судьба человека в этом сценарии — превратиться в строчку кода огромной компьютерной программы и при этом вести виртуальную псевдотелесную жизнь в виртуальном раю. Он будет обмениваться глубокими мыслями с другими строчками программного кода и жить в иллюзорном мире. Он будет совершать героические подвиги и исследовать новые миры, не обращая внимания на то, что сам он — всего лишь танец электронов внутри некоего компьютера. Конечно, все это до тех пор, пока компьютер кто-нибудь не выключит.

Однако существует проблема, которая, судя по всему, не позволит завести подобные сценарии слишком далеко: это Принцип пещерного человека. Мы уже говорили, что архитектура нашего мозга соответствует образу жизни примитивного охотника-собирателя, вышедшего из Африки более 100 000 лет назад. Наши заветные желания, аппетиты и нужды сформировались на травянистых равнинах Африки, где наши далекие предки убегали от хищников, выслеживали и загоняли добычу, собирали пищу в лесу, искали себе партнеров и развлекались у привальных костров.

Одной из первичных наших потребностей, прочно вплетенных в ткань мыслей и подсознания, является желание хорошо выглядеть, особенно в глазах противоположного пола и сверстников. Громадную часть свободных средств человек тратит (после развлечений) на собственную внешность. Именно поэтому так быстро развиваются пластическая хирургия, всевозможные технологии омоложения, производство продуктов ухода за лицом и телом и одежды на самый разный вкус, а также обучение танцам, бодибилдинг, модная музыка и здоровый образ жизни. Если сложить все это, получится громадный сектор потребительского рынка, который в свою очередь порождает значительную долю экономики США.

Все это означает, что, получив возможность создавать идеальные, почти бессмертные тела, мы, не захотим переселяться в роботизированные оболочки, если при этом будем выглядеть как неуклюжие роботы с торчащими из головы имплантами. Никто не захочет походить на беглеца из научно-фантастического фильма. Если уж переселяться в новое тело, то только в такое, которое сделает нас привлекательными для противоположного пола и повысит наше реноме среди ровесников. В противном случае новые тела будут нам не нужны. Какой подросток захочет обрести сверхспособности за счет внешнего вида?

Некоторым писателям-фантастам нравится идея о том, что мы все со временем избавимся от тел и станем бессмертными сущностями, воплощениями чистого разума, внутри некоего компьютера, погрузившись в размышления о вечном. Но кто захочет так жить? Возможно, наши потомки не станут решать дифференциальные уравнения, описывающие структуру черной дыры. Может быть, в будущем люди предпочтут чаще слушать рок-музыку совершенно старомодным способом, нежели рассчитывать движение элементарных частиц, живя каким-то непостижимым образом внутри компьютера.

Грег Сток (Greg Stock) из Университета Калифорнии в Лос-Анджелесе заходит еще дальше. Он считает, что в налаживании связи человеческого мозга с суперкомпьютером нет особого смысла. Он говорит: «Когда я пытаюсь думать о преимуществах, которые мог бы получить, если бы между моим мозгом и суперкомпьютером была налажена прямая связь, я оказываюсь в тупике, если пытаюсь настаивать на двух условиях: чтобы эти преимущества невозможно было получить каким-то другим, неинвазивным способом и чтобы они окупали в моих глазах неудобства, связанные с нейрохирургической операцией».

Так что, хотя возможностей в будущем просматривается немало, я лично считаю, что наиболее вероятный путь — разработка изначально благожелательных и дружественных роботов и улучшение наших физических возможностей, — но лишь в той мере, в какой это не противоречит Принципу пещерного человека. Человек с удовольствием попробовал бы пожить жизнью суперробота при помощи суррогатного тела, но никогда не пойдет на то, чтобы полностью переселиться в компьютер или изменить свое тело до неузнаваемости.

Рубежи на пути к сингулярности

Никто не знает наверняка, когда роботы смогут сравняться с человеком по интеллекту. Однако я лично отнес бы это событие на конец нынешнего века по нескольким причинам.

Во-первых, поразительные успехи компьютерных технологий в значительной степени объясняются законом Мура. Но где-то в 2020–2025 гг. заданные им темпы развития начнут замедляться, а в какой-то момент рост, возможно, совсем остановится. Поэтому неясно, можем ли мы достоверно оценивать скорость новых компьютеров после этой даты. (Информацию о посткремниевой эпохе см. в главе 4.) При написании этой книги я исходил из предположения о том, что мощность компьютеров будет продолжать расти, но более медленными темпами.

Во-вторых, даже если компьютеры научатся считать с фантастической скоростью вроде 1016 операций в секунду, это не будет обязательно означать, что они стали умнее нас. К примеру, Deep Blue, компьютер-шахматист фирмы IBM, способен проанализировать 200 миллионов позиций в секунду и обыграть чемпиона мира. Но, несмотря на всю свою скорость и вычислительную мощь, этот компьютер больше ничего делать не умеет. А мы уже знаем, что истинный разум — это нечто гораздо большее, чем просто перебор и анализ шахматных позиций.

К примеру, среди аутистов встречаются эрудиты, способные творить чудеса с числами и запоминанием данных. Но этим людям бывает трудно завязывать шнурки, найти работу или жить в обществе. Покойный Ким Пик — человек настолько необычный, что стал прототипом главного героя фильма «Человек дождя», — помнил каждое слово из 12 000 книг и способен был производить вычисления, проверить которые мог только компьютер. Тем не менее его IQ равнялся 73, ему было сложно поддерживать разговор и, чтобы выжить, он нуждался в постоянной помощи. Без поддержки отца он был практически беспомощен. Иными словами, сверхбыстрые компьютеры будущего будут похожи на гениев-аутистов; они смогут запоминать громадное количество информации, но не способны будут самостоятельно выжить в реальном мире.

Даже если компьютеры сравняются с человеческим мозгом по скорости вычислений, им все равно будет не хватать необходимых программ, чтобы все это заработало. Скорость вычислений — всего лишь начало долгого пути.

В-третьих, даже если разумные роботы возможны, неизвестно, способен ли робот изготовить собственную копию, которая будет умнее оригинала. Математический аппарат для самовоспроизводящихся роботов был разработан математиком Джоном фон Нейманом (John von Neumann), изобретателем теории игр и участником разработки электронного компьютера. Он первым поднял вопрос об определении минимального числа исходных посылок, необходимых для того, чтобы машина могла воспроизвести сама себя. Однако Нейман никогда не обращался к вопросу о том, сможет ли робот сделать свою копию умнее себя. Более того, сама «разумность» — понятие спорное и общепринятого его определения не существует.

Конечно, можно смело предположить, что робот сумеет создать копию себя, сумеет снабдить ее более емкой памятью и лучшими вычислительными возможностями — для этого достаточно будет добавить в структуру дополнительные чипы. Но означает ли это, что копия будет умнее оригинала или просто быстрее? К примеру, калькулятор считает в миллион раз быстрее человека, но сказать, что он умнее, не повернется язык. Так что разум, очевидно, — это нечто большее, чем просто скорость и объем памяти.

В-четвертых, даже если вычислительные мощности компьютеров будут расти экспоненциально, программное обеспечение может за ними и не успеть. Если возможности компьютерного «железа» долгое время развивались за счет микроминиатюризации транзисторов и совершенствования технологии производства, позволявших размещать на одной и той же подложке все большее число электронных элементов, то с программным обеспечением все иначе. Для его создания нужен человек, который сядет за стол, возьмет карандаш и сочинит программный код. Это и есть самое главное ограничение: человек.

Программное обеспечение, как и любая творческая деятельность человека, развивается скачками; здесь бывают блестящие озарения и долгие периоды застоя и монотонной работы. Если в электронике как таковой достаточно было научиться вытравливать на кремниевой подложке все больше и больше транзисторов — и здесь закон Мура работал как часы, — то уровень программного обеспечения определяется такими непредсказуемыми качествами, как человеческая креативность и настроение. Поэтому все предсказания, касающиеся стабильного экспоненциального роста компьютерных мощностей, следует оценивать трезво. Цепь не может быть прочнее самого слабого своего звена, а слабое звено компьютера — программное обеспечение, которое создают люди.

В технике развитие часто идет по экспоненте, особенно если речь идет всего-навсего о повышении эффективности технологических процессов. Однако когда дело доходит до фундаментальных исследований, где трудно обойтись без удачи, мастерства и неожиданных гениальных прозрений, речь может идти скорее о «прерывистом равновесии», когда долгое время почти ничего не меняется, а затем вдруг происходит прорыв, который полностью меняет всю картину. Если взглянуть на историю фундаментальных исследований от Ньютона до Эйнштейна и до наших дней, становится понятно, что прерывистое равновесие более точно описывает способ развития фундаментальной науки.

В-пятых, как мы уже видели в исследованиях по реверсивному проектированию мозга, чрезвычайно высокая стоимость и просто масштаб проекта, по всей видимости, отсрочат его реализацию до середины века. А затем наступит время обработки данных, которая тоже может растянуться на много десятилетий, и в результате полная модель мозга, скорее всего, будет создана лишь к концу текущего столетия.

В-шестых, вероятно, не будет никакого «большого взрыва», когда машины вдруг, в один день, обретут сознание. Как прежде, если мы установим, что сознание обязательно включает способность планировать будущее при помощи моделирования, получится, что существует целая шкала сознания, целый спектр его уровней. Машины будут медленно двигаться по этой шкале вверх, и человек успеет подготовиться. Я считаю, что это произойдет ближе к концу века, так что времени на обсуждение всевозможных вариантов и путей у нас достаточно. Сначала у роботов появится некая форма «кремниевого сознания», и только потом — настоящее человеческое сознание.

Но здесь возникает другой вопрос. Наряду с механическими способами усовершенствовать тело человека существуют и биологические способы. Более того, весь ход эволюции основывается на отборе лучших генов — так почему бы человеку не «перепрыгнуть» через миллионы лет эволюции и не взять под контроль собственную генетическую судьбу?