Почему попытки построить искусственный интеллект потерпели неудачу?
Как мне кажется, для дальнейших серьезных исследований, которые могли бы привести к реальному прорыву в этой области необходимо предварительно провести тщательный анализ произошедшего за эти полвека. К счастью, некоторое время назад нашелся человек, который это уже осуществил, и на мой личный взгляд, весьма проницательно и точно. P. Singh, сотрудник Массачусетского Технологического Института (MIT), одной из наиболее влиятельных организаций в области ИИ, 9 июня 1996 г. опубликовал следующий документ (манифест):
«Why AI Failed – The Past 10 Years. (почему ИИ потерпел неудачу – прошедшие 10 лет)
(перевод с англ. – Пальянов А.Ю.)
За последнее десятилетие в области ИИ наблюдался некоторый прогресс, но по большому счету он был незначителен. Я вижу 5 основных причин для этого:
1. Область исследований была разрознена, разбита на подобласти, занятые исследователями с разными целями и общающимися на разных технических языках. Многое было изучено, и настало время интеграции знаний из разных подобластей, но лишь немногие сегодня готовы к этому шагу.
2. ИИ страдает от «зависти физике». Большинство исследователей ИИ ищут простых объяснений для предельно сложных феноменов. Возможно, вселенная может быть описана относительно небольшим числом относительно простых законов, но только не мозг. Чтобы добиться успеха в понимании того, как работает мозг, мы должны копировать биологию (биологическое строение мозга), поскольку существует многие сотни различных видов механизмов в мозге, специализированных для решения разных типов задач, объединенные в не менее сложную структуру управления ими.
3. Многие исследователи потеряли связь с исходной целью – построением гибкого, мощного интеллекта, сравнимого с человеческим.
4. ИИ – проблема предельной сложности в области программного обеспечения, однако многие исследователи ИИ тратят огромные усилия, финансовые и временные, на разработку и построение роботов. Мы должны работать над новыми алгоритмами, а не «играть в солдатиков». Когда роботы необходимы, вполне можно работать с ними внутри симуляции (виртуального мира).
5. Исследователи ИИ безуспешно пытались ходить вокруг да около знания «здравого смысла». Для решения сложных проблем в ИИ – понимания естественного языка, работы зрительных механизмов, синтеза разборчивой речи и распознавания рукописного текста – необходимы системы, обладающие «здравым смыслом» и достаточно гибкие для его использования. Проблема в том, что построение таких систем приравнивается к «решению проблемы ИИ». Это утверждение сложно для восприятия, но кажется, что нет другого выбора кроме как принять его.»
Данный манифест получил довольно заметную известность в соответствующих кругах, в том числе вызвал ответ от Билла Гейтса:
«Я думаю, что ваши наблюдения и взгляды на проблему ИИ корректны. По мере того, как будут публиковаться ваши новые работы, я был бы рад получать их копии. Я по-прежнему исключительно заинтересован в ИИ.»
И еще один взгляд на эту же проблему. Из интервью с Александром Семеновичем Нариньяни - генеральным директором Российского НИИ искусственного интеллекта (Москва-Новосибирск), одним из ведущих российских специалистов в области ИИ (2006-02-22):
«Термин искусственный интеллект был предложен в 1956 году на семинаре с аналогичным названием в Стэндфордском университете (США). Подобное самоназвание области обозначило тот «наивный оптимизм» начального периода, когда большинству казалось, что до ИИ рукой подать. Однако пока с каждым десятилетием расстояние до цели только растет. Спустя пятьдесят лет всем ясно, что она не близка, трудностей полно, а успехи не слишком впечатляют. Очевиден и вывод – область ИИ находится под влиянием известного «горного эффекта»: если расстояние до небольшой высоты определить несложно, поскольку она попадает в поле зрения только вблизи, то громадная вершина видна с такого удаления, что кажется гораздо меньше и ближе, чем на самом деле. Ее масштаб начинаешь представлять лучше, пройдя достаточно большую дистанцию и осознавая, что ее видимые размеры почти не изменились и оценка расстояния до нее на глаз осталась примерно той же.
Упомянутый «горный эффект» иллюстрирует ошибку оценки в условиях прямой видимости, которой у больших задач, как правило, нет. На тему «Куда и как двигаться» дискуссий в ИИ идет не меньше, чем по поводу определения самого термина. Выделяются три основных подхода.
1. «Аппаратная аналогия»: поймем, как работает мозг, сможем создать его искусственно. Именно этот подход лег в основу нейрокибернетики и разных школ с приставкой «нейро».
2. «Аналогия поведения»: мозг слишком сложен и до его познания далеко; наиболее прямой путь к ИИ – изучение и компьютерное моделирование поведения человека.
3. «Метафора колеса»: аналогии 1 и 2 для создания ИИ не обязательны – например, колеса в природе нет, но оно эффективнее способов передвижения живых организмов; трудно представить, на какой стадии развития застряло бы человечество, если бы вместо колеса попыталось имитировать ногу, а ведь мозг на много порядков сложнее.
Последние два направления ориентируются на решение сложных задач с использованием знаний и легли в основу противоположного нейрокибернетике принципа «черного ящика»: не имеет значения, как устроен человеческий мозг, главное, чтобы ИИ обладал его способностями».
Однако, для нас наибольший интерес представляет именно первый из упомянутых подходов. Подводя итоги обсуждения проблем прежних исследований, стоит поставить акцент именно на том, что исследователи, предпринимавшие попытки создания ИИ, как правило, пытались запрограммировать лишь внешние признаки разума, пытались создать искусственный интеллект, не пытаясь по-настоящему разобраться с тем, что является сутью естественного. Этого, правда, мы не понимаем и сейчас. Однако теперь, спустя десятилетия, уже можно с достаточной степенью уверенности сделать вывод, что попытки полностью воспроизвести свойства «черного ящика», основываясь только на внешних проявлениях его внутренней активности, упорно терпят неудачу. Но ящик, если присмотреться, не так уж и черен, о его внутренней структуре нам уже многое известно. В первую очередь притягивает внимание астрономическое количество нейронов (~10e+11) и еще на несколько порядков большее количество связей между ними (~10e+15) в настоящем мозге человека. Природа, которая, как правило, никогда ничего не делает зря, а лишь по необходимости, не стала бы содержать такое количество нейронов без веской на то причины. Поэтому попытки обойтись на много порядков меньшим количеством, и к тому же в рамках относительно простой модели, и получить столь же внушительную функциональность кажутся, по меньшей мере, довольно самонадеянными. Есть один очевидный выход, который, казалось бы, напрашивается сам собой. Надо взять реальный мозг и воспроизвести его деятельность в форме компьютерной модели, полностью основываясь на биологических данных с большой, но не избыточной детализацией. При этом совершенно не обязательно начинать с мозга человека – для отработки технологии и методологии будет достаточно взять предельно простое существо, обладающее нервной системой. Уверен, что уже на этом этапе исследователи столкнутся с немалым количеством сюрпризов. К вопросу о выборе такого объекта для исследования и моделирования мы еще вернемся.
Само по себе моделирование нейробиологических процессов – это, конечно, хорошо, но при этом стоит иметь в виду и быть готовым к тому, чтобы столкнуться с вопросами и проблемами, упомянутыми ниже и желательно как-то приблизиться к их решению. Например, в книге «Разум и Материя» (1956 г.) Эрвина Шредингера, выдающегося австрийского физика, не нуждающегося в представлении, обсуждаются, в том числе, следующие вопросы:
Мир – совокупность наших нынешних ощущений и прошлых знаний о нем. Существование мира удобно считать объективно независимым, однако оно не делает мир очевидным. Он становится таковым благодаря весьма специфическим процессам, происходящим в весьма специфических местах, а именно в мозге. Какие именно свойства отличают процессы в мозге от всех остальных, позволяя им «проявлять» мир? Иными словами, какие процессы в материальном мире связаны с сознанием? Появление нервных клеток, а затем и мозга у некоторых многоклеточных организмов – исключительное событие, значение и важность которого сложно переоценить. Это особый механизм, благодаря которому индивидуум реагирует на альтернативные ситуации соответствующим изменением поведения, механизм адаптации и изменяющейся окружающей обстановке. Это наиболее сложный и замысловатый из подобных механизмов, и где бы он ни появился, он быстро завоевывает доминирующую роль. Готовы ли мы поверить, что этот особенный поворот в развитии высших животных (который мог и не произойти) был необходимым условием того, что мир осветился светом сознания? Не случись этого, остался бы мир спектаклем перед пустым залом, не существующим ни для кого, и таким образом, вполне корректно говоря, не существующим?
Все попытки расширить сферу сознания, связав его с чем-либо помимо нервных процессов, приведут лишь к недоказанным или недоказуемым утверждениям. Но мы обретем более верную почву под ногами, если отправимся в обратном направлении. Не каждый нервный процесс, более того, не каждый нервный процесс в головном мозге связан с сознанием. По мнению Шредингера, ключ следует искать в следующих хорошо известных фактах. Любая последовательность событий, в которых мы принимаем участие ощущениями, восприятием и, возможно, действиями, постепенно вытесняется из сферы сознания, когда одна и та же череда событий многократно повторяется. Но она немедленно попадает в сознательную сферу, когда какое-либо из условий процесса оказывается отличным от всех предыдущих вариантов, требуя от мозга «новых соображений». Каждый из нас может привести десятки подобных ситуаций из личного опыта. Новые ситуации и новые реакции сохраняются в свете сознания, старые и многократно повторенные – нет.
Еще рассмотрим книгу «The Mind’s I», Д. Хофштадтер, Д. Деннет 2003 г., которую я бы вообще рекомендовал к прочтению целиком как чрезвычайно захватывающую и содержащую массу интереснейших рассуждений и мысленных экспериментов, непосредственно касающихся проблематики разума и ИИ.
«Что такое разум? Что такое Я? Может ли материя думать или чувствовать? Как правило, любой, кто задумывается над этими вопросами, рано или поздно заходит в тупик. Мы попробуем не столько ответить на вопросы, сколько выявить возникающие противоречия и описать их живо и образно.
А что такое сознание? Это одновременно наиболее очевидная и наиболее таинственная особенность нашего разума. С одной стороны, что может быть более очевидным, что каждый из нас является субъектом собственных переживаний. С другой стороны, как могут существа физического мира породить подобное явление? Такие явления природы, как, к примеру, магнетизм, фотосинтез, пищеварение были в разное время объяснены с помощью науки. Но сознание кажется явлением совсем иного порядка. Дело в том, что все остальные явления одинаково доступны для любого наблюдателя, имеющего необходимые приборы, а вот сознание доступно только для одного. Его доступ к наблюдениям несравненно лучше, чем у любого другого исследователя, какими бы приборами он не обладал. По этой, а так же по ряду других причин, теория сознания так и не была создана, да и вообще непонятно, на что она должна быть похожа. То, что мы в течение такого времени не в состоянии охарактеризовать такую «обыденную» черту нашей жизни, может означать, что наш подход к проблеме в корне неверен».
В книге рассматриваются также проблемы создания действующей копии разума с/без уничтожения оригинала, «разума» на основе муравьиной колонии («неразумные» элементарные составляющие + набор правил их взаимодействия = существенно более интеллектуальный комплекс, чем его отдельный элемент), проблема нахождения личности в случае, если тело и разум находятся в разных местах, будучи связанными «идеальным радиоканалом», обеспечивающим передачу всей необходимой информации в обе стороны, а также многие другие проблемы и парадоксы. Все это лишь отдельные примеры проблем, с которыми неизбежно сталкивается исследователь, заинтересовавшийся проблемами разума; лишь верхушка айсберга, охватить который целиком в данном обзоре совершенно не представляется возможным.
|
