Митио Каку Физика невозможного

Скачать 4.16 Mb.

Название	Митио Каку Физика невозможного
страница	9/25
Дата публикации	20.08.2013
Размер	4.16 Mb.
Тип	Документы

100-bal.ru > Астрономия > Документы

1 ... 5 6 7 8 9 10 11 12 ... 25

Подход «сверху вниз»

Попытки ученых всего мира по созданию роботов встретились по крайней мере с двумя серьезными проблемами, которые не позволили сколько-нибудь заметно продвинуться в этом направлении: это распознавание образов и здравый смысл. Роботы видят гораздо лучше нас, но не понимают увиденного. Роботы слышат гораздо лучше нас, но не понимают услышанного.

Чтобы подступиться к решению этой двойной проблемы, исследователи пытались применить подход к искусственному интеллекту, известный как «сверху вниз» (иногда его еще называют формалистической школой или «старым добрым ИИ»), Целью ученых, грубо говоря, было запрограммировать все правила и законы распознавания образов и здравого смысла и записать эти программы на один CD-диск. Они считают, что любой компьютер, в который вы вставите этот диск, мгновенно осознает себя и станет разумным, не хуже человека. В 50-60-х гг. XX в. в этом направлении были достигнуты громадные успехи; появились роботы, способные играть в шашки и шахматы, решать алгебраические задачи, поднимать с пола кирпичики и т.п. Прогресс производил настолько сильное впечатление, что зазвучали даже пророчества о том, что через несколько лет роботы по разумности превзойдут людей.

К примеру, в 1969 г. настоящую сенсацию произвел робот Шейки, созданный в Стэнфордском исследовательском институте. Робот этот представлял собой небольшой компьютер типа PDP с камерой наверху, установленный на колесной тележке. Камера «осматривалась», компьютер анализировал и распознавал находящиеся в комнате объекты, а затем пытался провести тележку по маршруту, ничего не задев. Шейки первым из механических автоматов научился передвигаться в «реальном мире»; журналисты тогда горячо спорили, когда же наконец роботы обгонят людей в развитии.

Но вскоре проявились и недостатки подобных роботов. Подход к искусственному интеллекту, известный как «сверху вниз», привел к созданию громоздких неуклюжих роботов, которым требовалось несколько часов, чтобы научиться ориентироваться в специальной комнате, где находились только объекты с прямыми сторонами (прямоугольники и треугольники). Стоило поставить в комнату мебель неправильной формы, и робот был уже не в состоянии распознать ее. (Забавно, но плодовая мушка, мозг которой содержит всего лишь около 250 000 нейронов и которая по вычислительной мощи в подметки не годится любому роботу, без всякого труда ориентируется и передвигается в трех измерениях и исполняет фигуры высшего пилотажа; тем временем неуклюжие шумные роботы умудряются запутаться в двух измерениях.)

Вскоре подход «сверху вниз» как будто уткнулся в кирпичную стену: прогресс остановился. Стив Гранд, директор Института кибержизни, говорит, что у подобных подходов «было 50 лет, чтобы доказать свою состоятельность, и они не оправдали ожиданий».

В 1960-х гг. ученые еще не понимали, какую громадную работу нужно проделать, чтобы запрограммировать робота на выполнение даже самых простых задач, таких, например, как распознавание ключей, ботинок и чайных чашек. Как сказал Родни Брукс из MIT, «40 лет назад Лаборатория искусственного интеллекта MIT дала эту задачу студенту в качестве летнего задания. Студент потерпел неудачу — как и я в своей докторской диссертации 1981 г.». Вообще говоря, исследователи искусственного интеллекта до сих пор не могут решить эту задачу.

Рассмотрим пример. Входя в комнату, мы мгновенно распознаем пол, кресла, мебель, столы и т.п. При этом робот, осматривая комнату, видит в ней только набор линий, прямых и изогнутых, которые он переводит в пиксели изображения. И требуются громадные вычислительные мощности, чтобы извлечь из этой мешанины линий какой-то смысл. Нам достаточно доли секунды, чтобы узнать стол, но компьютер видит на месте стола только набор кругов, овалов, спиралей, прямых и кривых линий, углов и т. п. Может быть, затратив громадное количество компьютерного времени, робот в конце концов и распознает в этом объекте стол. Но если вы повернете изображение, ему придется начинать все сначала. Другими словами, робот способен видеть, причем гораздо лучше, чем человек, но он не способен понимать увиденное. Войдя в комнату, робот увидит только мешанину прямых и кривых линий, а не кресла, столы и лампы.

Когда мы входим в комнату, наш мозг неосознанно распознает объекты, производя при этом многие триллионы операций, — занятие, которого мы, к счастью, просто не замечаем. Причина того, что значительная часть действий мозга скрыта даже от нас самих, — эволюция. Представим себе человека, на которого в темном лесу напал саблезубый тигр; если он будет сознательно производить действия, необходимые для распознавания опасности и поиска путей к спасению, он просто не успеет сдвинуться с места. Для выживания нам надо знать одно — как бежать. Когда мы жили в джунглях, нам просто не было нужды сознавать все входящие и выходящие сигналы, с которыми имеет дело мозг при распознавании земли, неба, деревьев, скал и т. п.

Другими словами, действия нашего мозга напоминают огромный айсберг. То, что мы осознаем, лишь верхушка айсберга, сознание. Но под видимой поверхностью, скрытое от глаз, присутствует гораздо более объемное подсознание; оно задействует громадное количество «вычислительной мощи» мозга для того, чтобы мы постоянно были в курсе простых вещей: где мы, с кем разговариваем, что находится вокруг. Все эти действия мозг проделывает автоматически, не спрашивая нашего позволения и не отчитываясь о них; мы просто не замечаем этой работы.

Именно поэтому роботы не могут свободно ориентироваться в комнате, читать рукописный текст, водить машины, собирать мусор и т. п. На тщетные попытки создать механических солдат и умные грузовики американские военные потратили сотни миллионов долларов.

Только после этого ученые начали понимать, что игра в шахматы или перемножение громадных чисел задействует лишь крохотную долю человеческого разума. Победа в 1997 г. компьютера Deep Blue фирмы IBM над чемпионом мира по шахматам Гарри Каспаровым стала победой чисто компьютерной, т.е. вычислительной, мощи; однако, несмотря на громкие заголовки газет, этот эксперимент не сообщил нам ничего нового ни о разуме, ни о сознании. Дуглас Хофштадтер, ученый-компьютерщик из Индианского университета, сказал по этому поводу: «Боже мой, я-то считал, что для игры в шахматы нужно думать. Теперь я понимаю, что не нужно. Это не означает, что Каспаров не умеет глубоко размышлять; это означает только, что при игре в шахматы можно обойтись и без глубоких мыслей, точно так же, как можно летать, не взмахивая крыльями».

(Развитие компьютеров в будущем очень сильно скажется на рынке труда. Футурологи иногда заявляют, что через несколько десятилетий без работы не останутся только высококвалифицированные специалисты по устройству, производству и обслуживанию компьютеров. На самом деле это не так. Такие работники, как мусорщики, строители, пожарные, полицейские и т. п., тоже не останутся в будущем без работы, поскольку их труд включает в себя задачу распознавания образов. Каждое преступление, каждый кусок мусора, каждый инструмент и пожар отличаются от остальных; роботы с такой работой не справятся. По иронии судьбы работники со специальным образованием, такие как рядовые бухгалтеры, брокеры и кассиры, в будущем действительно могут лишиться работы — ведь их труд почти полностью состоит из повторяющихся действий и включает в себя работу с числами, а мы уже знаем, что именно с этим компьютеры справляются лучше всего.)

Вторая — после распознавания образов — проблема, с которой сталкиваются попытки создания роботов, еще более фундаментальна. Это отсутствие у роботов так называемого «здравого смысла», К примеру, каждый человек знает, что:

• Вода мокрая.

• Мать всегда старше дочери.

• Животные не любят боли.

• После смерти никто не возвращается.

• Веревка может тянуть, но не может толкать.

• Палка может толкать, но не может тянуть.

• Время не может идти задом наперед.

Но не существует такого исчисления, такой математики, которая могла бы выразить смысл этих высказываний. Мы знаем все это, потому что видели в жизни животных, воду и веревку и сами додумались до этих истин. Дети учатся здравому смыслу на ошибках, при неизбежных столкновениях с действительностью. Эмпирические законы биологии и физики также познаются на опыте — в процессе взаимодействия с окружающим миром. Но у роботов нет опыта такого рода. Они знают только то, что заложили в них программисты.

(В результате в будущем никто не отнимет у человека профессии, требующие здравого смысла, т. е. области деятельности, связанные с творчеством, оригинальностью, талантом, юмором, развлечениями, анализом и лидерством. Именно эти качества делают нас уникальными, именно их так трудно воспроизвести в компьютере. Именно они делают нас людьми.)

В прошлом математики неоднократно пытались соорудить волшебную программу, которая сосредоточила бы в себе раз и навсегда все законы здравого смысла. Самый амбициозный проект такого рода — CYC (сокращение от «энциклопедия»), детище Дугласа Лената, главы компании Сусогр. Подобно тому как в результате реализации Манхэттенского проекта — программы стоимостью 2 млрд долл. — была создана атомная бомба, проект CYC должен был стать «Манхэттенским проектом» искусственного интеллекта, последним толчком, в результате которого должен был появиться подлинный искусственный интеллект.

Не удивительно, что девиз Лената звучит гак: «Разум — это десять миллионов правил». (Ленат придумал новый способ отыскания законов здравого смысла; его сотрудники тщательно прочесывают страницы скандальных и сенсационных газетенок, после чего просят CYC найти в статьях ошибки. В самом деле, если Ленату удастся-таки этого добиться, CYC станет разумнее большинства читателей желтой прессы!)

Одна из задач проекта CYC — достичь «точки равенства», т.е. такого момента, когда робот будет понимать достаточно, чтобы самостоятельно переваривать новую информацию и черпать ее непосредственно из журналов и газет, которые найдутся в любой библиотеке. В этот момент CYC, как птенец, вылетевший из гнезда, сможет расправить крылья и обрести самостоятельность .

К сожалению, с момента основания фирмы в 1984 г. ее репутация сильно пострадала от общей для ИИ проблемы: ее представители делают громкие, но совершенно нереалистичные предсказания, которые только привлекают газетчиков. В частности, Ленат предсказывал, что через десять лет — к 1994 г. — в «мозгах» CYC будет содержаться уже от 30 до 50% «общеизвестной реальности». Но сегодня CYC и близко не подошел к этому показателю. Как выяснили ученые корпорации, необходимо написать многие миллионы строк программного кода, чтобы компьютер смог хотя бы приблизиться к уровню здравого смысла четырехлетнего ребенка. Пока программа CYC содержит жалкие 47 000 понятий и 306 000 фактов. Несмотря на стабильно оптимистичные пресс-релизы корпорации, газеты процитировали одного из сотрудников Лената Р.В. Гуха, покинувшего команду в 1994 г.: «CYC обычно считают неудачей... Мы вкалывали как проклятые, пытаясь создать бледную тень того, что было первоначально обещано».

Другими словами, попытки запрограммировать все законы здравого смысла и загнать их в один компьютер провалились просто потому, что у здравого смысла слишком много законов. Человек осваивает их без усилий — ведь он с самого рождения постоянно сталкивается с действительностью, постепенно впитывая в себя законы физики и биологии. С роботами все иначе.

"Основатель фирмы Microsoft Билл Гейтс признает: «Оказалось гораздо труднее, чем предполагалось, научить компьютеры и роботов воспринимать окружающее и реагировать на него быстро и точно... к примеру, ориентироваться в комнате по отношению к находящимся в ней предметам, отзываться на звук и понимать речь, брать разные по размерам, материалу и хрупкости предметы. Роботу чертовски трудно проделать даже такую простую вещь, как отличить открытую дверь от окна».

Однако сторонники подхода «сверху вниз» указывают, что прогресс в этой области, хотя и не такой быстрый, как хотелось бы, все же наблюдается. В лабораториях всего мира преодолеваются все новые рубежи. К примеру, несколько лет назад агентство DARPA, которое часто берет на себя финансирование самых передовых технических проектов, объявило приз в 2 млн долл. за создание автоматического транспортного средства, способного самостоятельноj без водителя, преодолеть сильно пересеченный рельеф пустыни Мохаве. В 2004 г. ни один из участников заезда не смог пройти маршрут. Лучшая машина сумела пройти 11,9 км, после чего вышла из строя. Но уже в 2005 г. машина без водителя, представленная группой Stanford Racing Team, успешно преодолела тяжелый маршрут протяженностью 212 км, хотя ей и потребовалось на это семь часов. Кроме победителя к финишу гонки пришли еще четыре машины. [Правда, критики отмечают, что правила позволяют машинам использовать системы спутниковой навигации на долгом пути в пустыне. В результате машина едет по заранее выбранному маршруту без особенных осложнений; это значит, что ей не приходится распознавать в пути сложные образы препятствий. В реальной жизни водитель должен учитывать множество непредсказуемых обстоятельств: движение других машин, пешеходов, ремонтные работы, дорожные пробки и т. п.)

Билл Гейтс с осторожным оптимизмом говорит, что роботы-машины могут стать «следующим большим скачком». Он сравнивает сегодняшнюю робототехнику с персональными компьютерами, которыми он занялся 30 лет назад. Очень может быть, что роботы сегодня, как персональные компьютеры тогда, уже готовы к стремительному старту. «Никто не может определенно сказать, когда эта индустрия наберет критическую массу, — пишет он. — Но если это произойдет, то роботы, возможно, изменят мир».

(Рынок человекоподобных разумных роботов, если они когда-нибудь появятся и станут коммерчески доступными, будет огромен. Хотя сегодня настоящих роботов нет, роботы с жесткой программой не только существуют, но быстро распространяются. По оценке Международной федерации робототехники, в 2004 г. существовало около 2 млн таких роботов, а к 2008 г. их появится еще 7 млн. Японская Ассоциация роботов предсказывает, что если сегодня оборот промышленности, занятой выпуском персональных роботов, составляет 5 млрд долл. в год, то к 2025 г. он достигнет 50 млрд долл.)

Подход «снизу вверх»

Ограниченность подхода «сверху вниз» к созданию искусственного интеллекта очевидна, поэтому с самого начала ученые исследуют и другой подход — «снизу вверх». Суть этого подхода заключается в том, чтобы, подражая эволюции, заставить робота учиться на собственном опыте, как учится младенец. Ведь насекомые, скажем, руководствуются при движении не тем, что сканируют картинку окружающего мира, разбивают ее на триллионы пикселей и обрабатывают полученное изображение при помощи суперкомпьютеров. Нет, мозг насекомого состоит из «нейронных сетей» — самообучающихся машин, которые медленно, натыкаясь на препятствия, осваивают искусство правильно передвигаться во враждебном мире. Известно, что в MIT с огромным трудом удалось создать шагающих роботов методом «сверху вниз». Зато простые механические существа вроде жуков, накапливающие опыт и информацию методом проб и ошибок (т.е. утыкаясь в препятствия), уже через несколько минут начинают успешно носиться по комнате.

Родни Брукс, директор прославленной Лаборатории искусственного интеллекта МГТ, знаменитой своими большими и неуклюжими шагающими роботами типа «сверху вниз», сам превратился в еретика, когда начал изучать идею крошечных «насекомоподобных» роботов, которые учатся ходить старым испытанным методом: спотыкаясь, падая, натыкаясь на всевозможные предметы. Вместо того чтобы использовать сложные компьютерные программы и математически вычислять при ходьбе точное положение каждой ноги в каждый момент времени, его «насекоботы» действуют методом проб и ошибок и обходятся небольшими вычислительными мощностями. Сегодня «потомки» крошечных роботов Брукса собирают на Марсе данные для NASA; они преодолевают километры унылых марсианских ландшафтов по собственному разумению. Брукс считает, что насекоботы идеально подходят для исследования Солнечной системы.

Одним из новых проектов Брукса стал COG — попытка создать механического робота с разумом шестимесячного младенца. Внешне робот представляет собой мешанину проводов, электрических цепей и приводов, но снабжен головой, глазами и руками. В нем нет программы, определяющей какие бы то ни было законы разума. Вместо этого робота научили фокусировать глаза и следить за человеком-тренером; который пытается научить робота простым навыкам. (Одна из сотрудниц, забеременев, заключила пари о том, кто сделает большие успехи к возрасту двух лет: COG или ее будущий ребенок. Ребенок намного обогнал «соперника».)

Несмотря на успешное подражание поведению насекомых, роботы с нейронными сетями выглядят довольно жалко, когда создатели пытаются заставить их подражать поведению высших организмов, таких как млекопитающие. Самый продвинутый робот с нейронными сетями способен ходить по комнате или плавать в воде, но не может прыгать и охотиться, как собака в лесу, или исследовать комнату, как крыса. Крупные роботы на нейронных сетях содержат десятки, максимум сотни «нейронов»; при этом человеческий мозг насчитывает более 100 млрд нейронов. Нервная система очень простого червя Caenorhabditis elegans, полностью изученная биологами и нанесенная на карту, состоит из 300 с небольшим нейронов; вероятно, это одна из простейших нервных систем в природе. Но и в этой системе между нейронами наблюдается более 7000 связей-синапсов. Как бы ни был примитивен С. elegans, его нервная система настолько сложна, что никому еще не удалось создать компьютерную модель такого мозга. (В 1988 г. один компьютерный эксперт предсказал, что к настоящему моменту у нас будут роботы примерно со 100 млн искусственных нейронов. На самом же деле нейронная сеть из ста нейронов уже считается выдающейся.)

Ирония ситуации заключается в том, что машины неустанно выполняют задания, которые людям кажутся «трудными», скажем перемножают большие числа или играют в шахматы, но застревают на совершенно «простых» для человека заданиях, таких как походить по комнате, узнать кого-то по лицу или посплетничать с приятелем. Причина в том, что даже самые продвинутые наши компьютеры в основе своей всего лишь усложненные до предела счетные машинки. А наш мозг эволюция сформировала таким образом, чтобы он мог решать глобальную задачу выживания. Для этого необходима сложная и хорошо организованная структура мышления, включающая в себя здравый смысл и распознавание образов. Сложные вычисления или шахматы не нужны для выживания в лесу—зато там не обойтись без умения удрать от хищника, найти себе пару и приспособиться к меняющимся условиям.

Вот как обобщил проблемы ИИ Марвин Мински из MIT, один из основателей науки об искусственном интеллекте: «История ИИ в чем-то забавна — ведь первыми реальными достижениями в этой области были красивые машинки, способные к логическим доказательствам и сложнейшим вычислениям. Но затем мы захотели сделать машину, которая умела бы отвечать на вопросы по простым рассказам, какие можно найти в книжке для первоклассников. На сегодняшний день не существует машины, способной на это».

Некоторые ученые считают, что когда-нибудь два подхода — «сверху вниз» и «снизу вверх» — сольются воедино, и такое слияние может стать ключом к созданию настоящего искусственного интеллекта и человекоподобных роботов. В конце концов, когда ребенок учится, он пользуется обоими методами: сначала маленький человек полагается в основном на методику «снизу вверх» — он натыкается на предметы, ощупывает их, пробует на вкус и т. п.; но затем он начинает получать словесные уроки от родителей и учителей, из книг — в этот момент приходит время для подхода «сверху вниз». Даже будучи взрослыми, мы постоянно смешиваем оба подхода. К примеру, повар читает рецепт, но не забывает и пробовать блюдо, которое готовит.

Ганс Моравек говорит: «Полностью разумные машины появятся не раньше, чем будет забит золотой костыль, который соединит оба пути». Он считает, что произойдет это, вероятно, в ближайшие 40 лет.

Эмоциональные роботы?

Одной из постоянных тем в литературе и искусстве уже давно стало механическое существо, мечтающее стать человеком, обрести человеческие эмоции. Это существо не удовлетворено тем, что собрано из проводов и стали; оно хочет смеяться, плакать и ощущать все эмоциональные радости человеческого существа.

Типичный пример — марионетка Пиноккио, мечтавшая стать настоящим мальчиком. Железный Дровосек хотел получить сердце. И Дейта, робот из «Звездного пути», хочет стать человеком, хотя и превосходит любого человека в силе и разумности.

Выдвигаются даже предположения о том, что наши эмоции представляют собой высшее неповторимое свойство и что именно они делают человека человеком. Сторонники этой точки зрения утверждают, что ни одна машина никогда не сможет задохнуться от восторга при виде великолепного заката или рассмеяться удачной шутке. А некоторые говорят, что машины никогда не будут испытывать эмоций, потому что они, эмоции, представляют собой вершину развития человека.

Но ученые, которые работают над созданием искусственного интеллекта и пытаются разгадать физику эмоций, рисуют иную картину. Для них эмоции не только не квинтэссенция всего человеческого, но и наоборот — побочный результат эволюции. Попросту говоря, эмоции полезны для нас. Они помогли нам выжить в лесу и сегодня тоже помогают преодолевать невзгоды и ориентироваться среди жизненных опасностей.

К примеру, очень важно в эволюционном смысле понятие «нравится» — ведь большинство вещей на свете представляют для нас опасность. Из миллионов объектов, с которыми ежедневно сталкивается человек, лишь несколько способны принести ему пользу. Поэтому когда нам что-то «нравится», это означает, что мы выделяем из миллионов опасных и бесполезных вещей ту крохотную их долю, которая может оказаться для нас полезна.

Точно так же ревность — важное чувство, потому что успех в продолжении рода обеспечивает передачу наших генов будущим поколениям. (Именно поэтому с сексом и любовью связано так много эмоционально заряженных чувств.)

Стыд и раскаяние важны, потому что помогают нам освоить навыки социализации, необходимые для жизни в обществе. Если мы не будем иногда извиняться, рано или поздно нас изгонят из племени, серьезно уменьшив тем самым наши шансы на выживание и передачу генов.

Чувство одиночества тоже имеет значение. Поначалу кажется, что это чувство ненужно и избыточно — ведь человек же способен жить один. Но стремление к обществу других людей тоже важно для выживания, потому что человек всегда зависит от ресурсов племени в целом.

Иными словами, в ходе дальнейшего развития роботы, возможно, тоже обзаведутся эмоциями. Может быть, программисты заложат в них эмоциональную связь с хозяевами, чтобы роботы не закончили свои дни на свалке. Такие эмоции помогли бы им войти в наше общество, стать не соперниками, а надежными помощниками хозяев.

Эксперт по компьютерам Ганс Моравек считает, что роботы обязательно будут запрограммированы на такие эмоции, как «страх»; это необходимо для самосохранения. К примеру, если у робота заканчивается батарея, он «будет выражать возбуждение или даже панику таким образом, чтобы люди могли его понять. Он направится к соседям и попросит разрешения воспользоваться розеткой со словами: "Пожалуйста! Пожалуйста! Мне это необходимо! Это так важно для меня и так немного стоит! Мы вам заплатим!"»

Кроме всего прочего, эмоции важны при принятии решений. Люди, перенесшие определенную мозговую травму, теряют способность испытывать эмоции. Интеллектуальные способности остаются при них, но выражать чувства они не в состоянии. Врач-невролог Антонио Дамасио из Медицинского колледжа Университета Айовы, специально изучавший людей с такого рода мозговыми травмами, говорит, что они «знают, но не чувствуют».

Д-р Дамасио утверждает, что такие люди часто испытывают затруднения с принятием даже самых незначительных решений. Они не могут руководствоваться эмоциями, а потому бесконечно перебирают и обдумывают варианты; результат — губительная нерешительность. Один из пациентов доктора Дамасио целых полчаса выбирал дату следующего визита.

Ученые считают, что эмоции обрабатываются в «лимбической системе» мозга, расположенной глубоко в его центре. Если у человека нарушается связь между новой корой головного мозга (которая управляет рациональным мышлением) и лимбической системой, его разум остается при нем, но пропадают эмоции, которыми он мог бы руководствоваться в принятии решений. Иногда нас «осеняет», мы «нутром чуем», как надо поступить. Люди, у которых нарушена связь между рациональной и эмоциональной частями мозга, лишены такой способности.

К примеру, в магазине мы неосознанно производим тысячи оценок и решений; мы оцениваем практически все, что видим: «Эта вещь слишком дорогая, слишком дешевая, слишком цветастая, слишком глупая, а вот это как раз то, что нужно». Для человека с такой травмой мозга поход в магазин за покупками может стать настоящим кошмаром, потому что все вещи покажутся ему одинаково хорошими или, если угодно, одинаково плохими.

По мере того как роботы будут становиться все разумнее и начнут принимать собственные решения, они тоже станут, вероятно, жертвой губительной нерешительности. (Вспомните историю об ослике, который умер от голода между двумя стогами сена — он никак не мог решить, к которому стогу направиться.) Для решения этой проблемы у роботов будущего, скорее всего, в мозгу появится эмоциональный контур. Говоря об отсутствии эмоций у роботов, д-р Розалинда Пикард из Медиа-лаборатории MIT замечает: «Они не чувствуют, что важнее всего. Это один из главных их недостатков. Компьютеры этого просто не понимают».

Как писал русский романист Федор Достоевский, «если бы все на Земле было разумно, ничего бы не происходило».

Другими словами, эмоции могут потребоваться роботам будущего, чтобы устанавливать цели, придавать своей «жизни» смысл и структуру; в противном случае бесконечные возможности лишат их всякой способности к действию.

Обладают ли они сознанием?

По вопросу о том, могут ли машины обладать сознанием, нет единого мнения; более того, нет его и по вопросу о том, что такое сознание вообще. Никто еще не сумел сформулировать приемлемое для всех определение сознания.

Марвин Мински считает, что сознание представляет собой скорее «совокупность сознаний»; имеется в виду, что процесс мышления в мозге не локализован, а распределен, и в каждый момент времени за первенство в нем состязаются несколько различных центров. В этом случае сознание можно рассматривать как последовательность мыслей и образов, исходящих из различных «сознаний» более низкого уровня, причем все они соревнуются между собой и стараются захватить наше внимание.

Если это действительно так, то вполне возможно, что понятие «сознания» несколько раздуто; возможно, слишком много научных трудов посвящено предмету, затуманенному поколениями философов и психологов. Возможно, определить сознание не так уж сложно. Сидни Бреннер из Института Солка в г. Ла-Холла говорит: «Я предрекаю, что к 2020 г. — черты которого уже вполне различимы — сознание как научная проблема перестанет существовать,,. Наши преемники будут поражены количеством научной чепухи, которая сегодня всерьез обсуждается, конечно, если у них хватит терпения копаться в электронных архивах старых журналов».

Марвин Мински считает, что исследования в области ИИ страдают «от зависти к физике». В физике священным Граалем, добыть который мечтает любой ученый, является простое уравнение, которое объединило бы все физические взаимодействия вселенной в рамках единой теории — «теории всего». Под влиянием этой идеи исследователи искусственного интеллекта тоже пытаются найти единую парадигму, которая объяснила бы сознание. Но Мински считает, что такой парадигмы, возможно, вообще не существует,

(Члены «конструкционистской» школы, к которой принадлежу и я, считают, что вместо бесконечных дебатов о том, можно ли создать думающую машину, нужно взять и попытаться. Что же касается сознания, то, скорее всего, существует некое пространство сознания, к которому принадлежит и примитивный термостат, который отслеживает температуру в комнате, и осознающий себя организм, каким на сегодняшний день является человек. Животные, возможно, тоже обладают сознанием, но сознанием более низкого уровня по сравнению с человеком. Поэтому, вместо того чтобы без конца обсуждать философские вопросы и спорить об определении сознания, следовало бы попытаться составить каталог всевозможных типов и уровней сознания и разложить все по полочкам. Возможно, роботы со временем обретут «силиконовое сознание». Вообще, когда-нибудь, может статься, роботы воплотят в себе совершенно иную, чем у нас, архитектуру мышления и обработки информации. Не исключено, что в будущем высококлассные роботы сумеют размыть грань между синтаксисом и семантикой и их реакция действительно станет неотличима от реакции человека. Если это произойдет, вопрос о том, «понимают» ли они на самом деле вопрос, потеряет всякий смысл. Робот, в совершенстве владеющий синтаксисом, понимает — для любых практических целей — содержание разговора. Другими словами, идеальное владение синтаксисом и есть понимание.)

Могут ли роботы представлять опасность?

Закон Мура (онутверждает, что производительность компьютеров удваивается каждые 18 месяцев) позволяет предположить, что через несколько десятилетий появятся роботы с разумом, скажем, собаки или кошки. Но вполне может так случиться, что к 2020 г. закон Мура перестанет действовать, а кремниевая эра подойдет к концу. Последние полвека производительность компьютеров росла такими поразительными темпами благодаря тому, что появлялись все более крохотные кремниевые транзисторы, десятки миллионов которых легко умещались на ногте. Для вытравливания этих микроскопических транзисторов на кремниевых пластинках использовалось ультрафиолетовое излучение. Но процесс микроминиатюризации не может продолжаться до бесконечности. Со временем транзисторы могут уменьшиться до размера молекул, и он автоматически прекратится. После 2020 г., когда закончится эра кремния, Силиконовая долина может превратиться в новый Ржавый пояс.

Процессор Pentium в вашем портативном компьютере имеет слои толщиной в 20 атомов. К 2020 г. толщина слоя может уменьшиться до пяти атомов. В этот момент вступит в действие принцип неопределенности Гейзенберга, и будет вообще невозможно сказать наверняка, где находится электрон. И тогда в чипе возникнут утечки электричества, а в компьютере — короткое замыкание. В этот момент компьютерная революция и закон Мура уткнутся в глухую стену — ведь законы квантовой механики обойти невозможно. (Кое-кто утверждает, что цифровая эра — это «победа битов над атомами». Но когда-нибудь, когда закон Мура перестанет действовать, атомы возьмут свое.)

В настоящее время физики работают над посткремниевой технологией, которая будет доминировать в мире компьютеров после 2020 г., но пока результаты не слишком обнадеживают. Как мы уже говорили, рассматривается несколько перспективных технологий, в том числе квантовые компьютеры, компьютеры на основе ДНК, оптические компьютеры, атомные компьютеры и т. п. Но на каждом направлении имеются громадные трудности, которые предстоит преодолеть, прежде чем технология сможет примерить на себя мантию кремниевых чипов. Технология манипулирования отдельными атомами и молекулами находится пока в зачаточном состоянии, и мы пока не в состоянии изготовить миллиарды транзисторов, сравнимых по размерам с атомами.

Но предположим на мгновение, что физики нашли способ преодолеть пропасть между кремниевыми чипами и, скажем, квантовыми компьютерами. Предположим также, что закон Мура в той или иной форме продолжает действовать и в посткремниевую эру. В этом случае искусственный интеллект действительно может стать реальностью. Тогда роботы могут овладеть человеческой логикой и эмоциями и научиться уверенно проходить тест Тьюринга. Стивен Спилберг исследовал эту тему в фильме «Искусственный интеллект»; в фильме рассказывается о том, как был создан первый искусственный мальчик, способный проявлять эмоции и пригодный поэтому для усыновления в человеческую семью.

Возникает вопрос: могут ли такие роботы представлять опасность? Наиболее вероятный ответ: да, могут. Роботы могут стать опасными, как только достигнут интеллекта обезьяны, — ведь обезьяна обладает сознанием и собственной волей. Возможно, на достижение этого рубежа уйдет немало десятилетий, и ученым хватит времени понаблюдать за роботами, прежде чем они начнут представлять угрозу. К примеру, в их процессоры можно будет помещать специальный чип, который не даст им «пойти вразнос». Или можно интегрировать в них механизм саморазрушения или отключения, который срабатывал бы в случае чрезвычайной ситуации.

Артур Кларк писал: «Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки».

Более реальной угрозой представляется зависимость нашей инфраструктуры от компьютеров. Система водоснабжения и электрическая сеть, не говоря уже о связи и транспорте, в будущем станут все более компьютеризованными. Наши города уже превратились в сложнейшие организмы, и теперь для управления всей нашей инфраструктурой и ее мониторинга необходимы сложные и запутанные компьютерные сети. В будущем, чтобы все это работало, придется вводить в эти компьютерные сети искусственный интеллект. Ошибка или отказ в этой всеохватной компьютерной инфраструктуре способны полностью парализовать город, страну или даже всю цивилизацию.

Превзойдут ли компьютеры нас по разумности? Разумеется, в принципе это не запрещено никакими законами природы. Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Моравек говорит, что постбиологический мир — «это такой мир, в котором род человеческий оказался сметен волной культурных изменений и вытеснен его собственными искусственными потомками... Когда это произойдет, наша ДНК окажется никому не нужна, потому что она проиграет эволюционную гонку сопернику нового типа».

Некоторые изобретатели, например Рей Курцвейл, предсказывают даже, что это произойдет скоро, скорее, чем кажется, — возможно, в ближайшие десятилетия. Не исключено, что мы сейчас создаем своих эволюционных преемников. Кое-кто из ученых-компьютерщиков предвидит момент «сингулярности», как они это называют, — когда роботы смогут обрабатывать информацию все быстрее и быстрее, по экспоненте, и одновременно создавать новых роботов, пока наконец их коллективная способность к усвоению информации не вырастет практически до бесконечности.

Поэтому некоторые ученые в долговременной перспективе предлагают объединить углеродную и кремниевую технологии^²¹, не дожидаясь нашего полного истребления. Мы, люди, основаны на углероде, роботы — на кремнии (по крайней мере в настоящий момент). Возможно, решение кроется в слиянии нас самих с нашими творениями. (Если мы когда-нибудь встретимся с инопланетянами, не стоит удивляться, если их тела окажутся частью органическими, частью механическими; так легче выдерживать тяготы космического путешествия и успешно жить во враждебной среде.)

В далеком будущем роботы или человекоподобные киборги^²², возможно, даже подарят нам бессмертие. Марвин Мински добавляет: «Что, если Солнце погаснет или мы сами уничтожим планету? Почему не сделать лучших, чем мы сами, физиков, инженеров или математиков? Возможно, нам необходимо быть архитекторами своего будущего. Если нет, наша культура может исчезнуть».

Моравек предвидит такое время в отдаленном будущем, когда мы научимся переносить структуру своего мозга, нейрон за нейроном, прямо в машину. В определенном смысле это даст нам бессмертие. Эта мысль кажется дикой, но, вообще говоря, не выходит за пределы возможного. Так что, по представлениям некоторых ученых, в будущем человека ждет бессмертие (в кремниевой форме или в виде искусственных тел с улучшенной ДНК).

Итак, если мы сумеем преодолеть тупик, связанный с прекращением действия закона Мура, и разберемся с проблемой здравого смысла, думающие машины с интеллектом животных — а может быть, столь же умные, как мы, или даже умнее — могут стать реальностью. Возможно, это произойдет уже в конце текущего века. Хотя открыты еще не все фундаментальные законы искусственного интеллекта, прогресс в этой области идет семимильными шагами. Принимая это во внимание, я бы определил роботов и другие думающие машины как невозможность I класса.