Учебное пособие Печатается по решению Учебно-методической комиссии Института геологии и нефтегазовых технологий К(П)ФУ

Казанский (Приволжский) федеральный университет

Институт геологии и нефтегазовых технологий
Искусственные нейронные сети в прогнозировании нефтегазоносности по данным сейсморазведки
Учебное пособие


Печатается по решению Учебно-методической комиссии Института геологии и нефтегазовых технологий К(П)ФУ.

Авторы: Борисов А.С., Куликов С.А

Изложены история создания, принципы построения искусственных нейронных сетей обратного распространения, возможные области их использования. Приведены петрофизические основы применения нейрокомпьютерных систем для прогнозирования залежей нефти по материалам сейсмических наблюдений. Рассмотрены результаты моделирования. Приведён опыт практического использования системы "НЕЙРОСЕЙСМ" при проведении поисково-разведочных работ на нефть в Татарстане. Большое внимание уделено изучению влияния различных геолого-геофизических факторов и приёмов обработки сейсмических данных на достоверность прогноза.

Учебное пособие предназначено для студентов, изучающих дополнительные разделы сейсморазведки.

Рецензент – доктор геол.-мин. наук, проф. В.А.Трофимов

КАЗАНЬ – 2012
ОГЛАВЛЕНИЕ

Введение …………………………………………………………………………… 4

Глава 1. Из истории создания искусственных нейронных сетей …………. 5

Глава 2. Основы конструирования искусственных нейронных сетей ……,, 7

Глава 3. Использование нейронных сетей в сейсморазведке ………………….11

3.1 Петрофизические основы применения нейрокомпьютерных сетей

для прогнозирования залежей углеводородов ………………………………11

3.2 Сейсмическое моделирование при разработке нейрокомпьютерной

системы "НЕЙРОСЕЙСМ"………………………………………………….. 13

3.3. Влияние различных геолого-геофизических факторов и приемов

обработки на достоверность прогноза системы "НЕЙРОСЕЙСМ"……… 17

3.4 Примеры применения системы "НЕЙРОСЕЙСМ"

для прогнозирования залежей нефти……………………………………. 21

Литература …………………………………………………………………………… 25
Введение
Повышение эффективности геологоразведочных работ (ГРР) было и остается приоритетной задачей геологов и геофизиков. Обнаружение и картирование мелких и очень мелких залежей нефти, часто связанных с ловушками неструктурного типа, с которыми связываются основные перспективы прироста запасов углеводородов в Волго-Уральской нефтегазоносной провинции, требует применения особых наукоёмких методов исследований. В последние десятилетия в мире бурно развивается новая прикладная область математики, специализирующаяся на искусственных нейронных сетях (НС). Актуальность исследований в этом направлении подтверждается массой различных применений НС. Это - автоматизация процессов распознавания образов, адаптивное управление, прогнозирование, создание экспертных систем, в том числе и в области обработки массивов геолого-геофизической информации. В процессе развития сейсмических обрабатывающих систем явственно определилась генеральная тенденция развития методов и алгоритмов, стремящихся к извлечению всё более полной информации из сейсмических данных.

По данным американских исследователей, в прошлом столетии сейсморазведочные работы, направленные на решение структурных задач, обеспечили почти десятикратное увеличение эффективности поисков месторождений нефти по сравнению с бурением скважин, закладываемых по совокупности различных геологических признаков (метод "диких кошек"). В последние десятилетия новейшие технологии сейсмических исследований, связанные в первую очередь с комплексным изучением кинематических и динамических особенностей сейсмических записей, позволили значительно увеличить эффективность ГРР. Одной из таких технологий прогноза геологического разреза по материалам сейсмических наблюдений являются применение искусственных нейронных сетей.
Глава 1
Из истории создания искусственных нейронных сетей

Создание и развитие искусственных нейронных сетей вдохновлялось биологией. Людей всегда интересовало их собственное мышление. В процессе накопления знаний нейробиологи выяснили, что мозг человека имеет ошеломляющую сложность. Сотни миллионов нейронов, каждый из которых соединен с сотнями или тысячами других, образуют систему, далеко превосходящую наши самые смелые мечты о суперкомпьютерах.

Понимание функционирования нейрона и картины его связей позволило исследователям создать аппроксимирующие его математические модели. В первых же работах выяснилось, что эти модели не только повторяют функции мозга, но и способны выполнять функции, имеющие свою собственную ценность. Поэтому возникли и остаются в настоящее время две взаимно обогащающие друг друга цели нейронного моделирования. Первая- понять функционирование нервной системы человека и, вторая- создать вычислительные системы выполняющие функции, сходные с функциями человеческого мозга.

В 50-е и 60-е годы двадцатого столетия группа исследователей, объединив эти биологические и физиологические подходы, создала первые искусственные нейронные сети. Выполненные первоначально как электронные сети, они были позднее перенесены в более гибкую среду компьютерного моделирования. Первые успехи вызвали взрыв активности и оптимизма. Первоначально были разработаны сети, состоящие из одного слоя искусственных нейронов. Они были использованы для такого широкого класса задач, как предсказание погоды, анализ электрокардиограмм и искусственное зрение. В течении некоторого времени казалось, что это ключ к интеллекту найден и воспроизведение человеческого мозга является лишь вопросом конструирования достаточно большой сети.

Но эта иллюзия скоро рассеялась! Сети не могли решать ряд задач, внешне весьма сходных с теми, которые они успешно решали. С этих необъяснимых неудач начался период интенсивного анализа. Было доказано [8], что используемые в то время однослойные сети теоретически неспособны решать многие простые задачи, в том числе реализовать функцию "Исключающие ИЛИ". Постепенно появился теоретический фундамент, на основе которого сегодня конструируются наиболее мощные многослойные сети. Именно переход от однослойной к многослойным сетям позволил преодолеть выявленные ограничения.

Урок, который можно извлечь из этой истории, выражается законом Кларка. В нём утверждается, что если крупный учёный говорит, что нечто может быть выполнено, то он почти всегда прав. Если же учёный говорит, что это не может быть выполнено, то он почти всегда не прав. Таким образом, после двух десятилетий почти полного забвения интерес к искусственным сетям быстро вырос. Специалисты из таких далёких областей, как техническое конструирование, философия, физиология, геология и психология заинтригованы возможностями, представляемыми этой технологией, и ищут практическое приложение им внутри своих дисциплин.

Это возрождение интереса было вызвано как теоретическими, так и прикладными достижениями. Неожиданно открылись возможности использования вычислений в сферах до этого относящихся лишь к области человеческого интеллекта, возможности создания машин, способность которых учиться и запоминать удивительным образом напоминает мыслительные процессы человека. Имеется много впечатляющих демонстраций возможностей искусственных нейронных сетей. Так, сеть научили превращать текст в фонетическое представление, которое затем превращалось в речь, другая сеть могла распознавать рукописные буквы, сконструирована система сжатия изображений и много других прикладных задач решаются с использованием многослойных нейронных сетей.

Сегодня можно говорить о решении системы линейных уравнений, обращения матриц, сортировки с помощью нейрокомпьютерных технологий. Делаются попытки реализовать на нейрокомпьютерах выполнение всех арифметических операций. Действительно, при ориентации на негативную физическую основу, эти операции можно реализовать значительно эффективнее, чем на известных булевских элементах. Нейрокомпьютеры начали активно использовать при обработке сейсмических сигналов. Таким образом, искусственные нейронные сети предложены для решения задач, простирающихся от управления боем до присмотра за ребёнком. Потенциальными приложениями являются те, где человеческий интеллект малоэффективен, а обычные вычисления трудоёмки или неадекватны.

Глава 2
Основы конструирования искусственных нейронных сетей
Искусственные нейронные сети чрезвычайно разнообразны по своим конфигурациям, но основу каждой НС составляют относительно простые, в большинстве случаев - однотипные, элементы (ячейки), имитирующие работу нейронов головного мозга. Далее под нейроном будет подразумеваться искусственный нейрон, т. е. ячейка НС. Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Он обладает группой синапсов - однонаправленных входных связей, а также имеет аксон - выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Каждый синапс характеризуется величиной синаптической связи или ее весом Wi, который по физическому смыслу эквивалентен электрической проводимости.

Текущее состояние нейрона определяется как взвешенная сумма его входов:

S = åXiWi . (2.1)

Выход нейрона есть функция его состояния: Y = f(S), где f- активационная функция.
Все НС работают по принципу параллельной обработки сигналов, который реализуется путем объединения большого числа нейронов в так называемые слои и соединения нейронов различных слоев, а также, в некоторых конфигурациях, и нейронов одного слоя между собой, причем обработка взаимодействия всех нейронов ведется послойно.

Теоретически число слоев и число нейронов в каждом слое может быть произвольным, однако фактически оно ограничено ресурсами компьютера или специализированной микросхемы, на которых обычно реализуется НС. На рис.2.1. приведен пример трехслойной сети (трехслойного персептрона).

Вопрос о необходимых и достаточных свойствах сети для решения того или иного рода задач представляет собой целое направление нейрокомпьютерной науки. Так как проблема синтеза НС сильно зависит от решаемой задачи, дать общие рекомендации затруднительно. В большинстве случаев оптимальный вариант получается на основе интуитивного подбора.

Очевидно, что процесс функционирования НС, т. е. сущность действий, которые она способна выполнять, зависит от величин синаптических связей. Поэтому, задавшись определенной структурой НС, отвечающей какой-либо задаче, разработчик сети должен найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными). Этот этап называется обучением НС, и от того, насколько качественно он будет выполнен, зависит способность сети решать поставленные перед ней задачи во время эксплуатации. На этапе обучения, кроме качества подбора весов, важную роль играет время обучения. Как правило, эти два параметра связаны обратной зависимостью, и их приходится выбирать на основе компромисса.

Обучение НС на некотором множестве примеров может вестись "с учителем" или без него. В первом случае сети предъявляются значения как входных, так и требуемых выходных сигналов, и она по некоторому внутреннему алгоритму подстраивает веса своих синаптических связей. Во втором случае выходы НС формируются самостоятельно, а веса изменяются по алгоритму, учитывающему только входные и производные от них сигналы.




Рис.2.1. Трехслойная нейронная сеть (трехслойный персептрон).


Для обучения многослойной сети в 1986 г. Руммельхартом и Хинтоном (Rummelhart D.E., Hinton G.E., Williams R.J., 1986) был предложен алгоритм обратного распостранения ошибок (error back propagation). Многочисленные публикации о промышленных применениях многослойных сетей с этим алгоритмом обучения подтвердили его принципиальную работоспособность на практике.

Основная идея обратного распространения состоит в том, как получить оценку ошибки для нейронов скрытых слоев. Заметим, что известные ошибки, делаемые нейронами выходного слоя, возникают вследствие неизвестных пока ошибок нейронов скрытых слоев. Чем больше значение синаптической связи между нейроном скрытого слоя и выходным нейроном, тем сильнее ошибка первого влияет на ошибку второго. Следовательно, оценку ошибки элементов скрытых слоев можно получить, как взвешенную сумму ошибок последующих слоев. При обучении информация распространяется от низших слоев иерархии к высшим, а оценки ошибок, делаемые сетью - в обратном напаравлении, что и отражено в названии метода.

Алгоритм обратного распространения предполагает, что для каждого входного вектора обучающего множества существует целевой вектор, представляющий собой требуемый выход. Вместе они называются обучающей парой. Сеть обучается на некотором множестве обучающих пар. Предъявляется входной вектор, вычисляется выход сети и сравнивается с соответствующим целевым вектором. Разность (ошибка) распространяется от выходов НС к се входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы, и веса изменяются в соответствии с алгоритмом, стремящимся минимизировать ошибку. Векторы обучающего множества предъявляются последовательно, вычисляются ошибки, и веса подстраиваются для каждого вектора до тех пор, пока ошибка по всему обучающему множеству не достигнет приемлемо низкого уровня.

Рассмотрим трехслойную сеть состоящую из шести нейронов ( рис.2.1).

Перед началом обучения сети всем весам W_nm присваиваются небольшие начальные значения, выбранные случайным образом. Это гарантирует, что в сети не произойдет насыщения большими значениями весов, и предотвращает ряд других патологических случаев. Например, если всем весам придать одинаковые начальные значения, а для требуемого функционирования нужны неравные значения, то сеть не сможет обучиться. Обучение сети происходит следующим образом.

Сначала вычисляется выход первого нейрона однослойной сети. Затем вычисляется разность между выходом первого нейрона Y₁ и обучающим вектором X₁. На следующем шаге по формуле:
DW₁₁=hd₁X₁; DW₂₁=hd₁X₂; DW₃₁=hd₁X₃; (2.2)
вычисляются приращения весов первого нейрона, чтобы минимизировать ошибку. Здесь коэффициент h размер шага обучения сети. На последнем этапе вычисляется (2.3) новое значение весов первого нейрона:
W¢₁₁=W₁₁+ DW₁₁; W`<sub>21</sub>=W<sub>21</sub>+ DW<sub>21</sub>; W`₃₁=W₃₁+ DW₃₁; (2.3)
Затем процесс повторяется. Аналогично корректируются веса для других нейронов сети. Обучение (подстройка весов) сети происходит до тех пор, пока ошибка (разница между входом и выходом сети) не достигнет приемлемого, заранее заданного уровня. Таким образом, целью обучения сети является такая подстройка его весов, чтобы приложение некоторого множества входов приводило к требуемому множеству выходов.

Несмотря на многочисленные успешные применения обратного распространения, оно не является панацеей. Больше всего неприятностей приносит неопределённо долгий процесс обучения. В сложных задачах для обучения сети могут потребоваться дни или даже недели, она может и вообще не обучиться. Длительное время обучения может быть результатом неоптимального выбора длины шага. В процессе обучения сети значения весов могут в результате коррекции стать очень большими величинами. Это может привести к тому, что все или большинство нейронов будут функционировать при очень больших значениях Y , в области, где производная сжимающей функции очень мала. Так как посылаемая обратно в процессе обучения ошибка пропорциональна этой производной, то процесс обучения может практически замереть. В теоретическом отношении эта проблема плохо изучена. Обычно этого избегают уменьшением размера шага h, но это увеличивает время обучения.

Обратное распространение использует разновидность градиентного спуска, т.е. осуществляет спуск вниз по поверхности ошибки, непрерывно подстраивая веса в направлении к минимуму. Поверхность ошибки сложной сети сильно изрезана и состоит из холмов, долин, складок и оврагов в пространстве высокой размерности. Сеть может попасть в локальный минимум (неглубокую долину), когда рядом имеется гораздо более глубокий минимум. В точке локального минимума все направления ведут вверх, и сеть неспособна из них выбраться. Таким образом, неудачи в обучении сети могут возникнуть по двум причинам: паралича сети и попадания в локальный минимум.

В этой главе рассмотрен классический метод конструирования нейронных сетей. С точки зрения математической оптимизации классический метод является простым градиентным методом первого порядка. Известно, что такие методы имеют низкую сходимость по сравнению с методами второго порядка, в которых учитывается не только само значение градиента функции оценивания ошибки в данной точке, но и "история" его изменения, описываемая матрицей Гессе вторых производных. Именно такой метод был предложен Фалманом и получил название «Метод быстрого обратного распространения ошибки», который в настоящее время используется для прогнозирования залежей нефти в системе "НЕЙРОСЕЙСМ", разработанной в Татарском геолого-разведочном управлении ОАО «Татнефть».