Однонаправленные многослойные нейронные сети сигмоидального типа получили наибольшее распространение на практике в силу относительной простоты их математического описания.
Собственно история ИНС началась с однослойных сетей данного типа. Однако, возможности однослойных сетей крайне скромны, поскольку расположенные на одном уровне нейроны функционируют независимо друг от друга, и свойства всей сети ограничены свойствами отдельных нейронов. Многослойные сети получили свое развитие с конца 70-х годов, когда были предложены эффективные алгоритмы их обучения.
Однонаправленные многослойные сети сети сигмоидального типа имеют устоявшееся название многослойный персептрон MLP (MultiLayer Perceptron). На рисунке представлена структурная схема двухслойного персептрона.
Рис. 1.  Сруктурная схема двухслойного персептрона
Здесь , — выходные сигналы первого слоя нейронов. Верхние индексы в скобках (), ,... означают номер слоя нейрона.
Для исключения коллизий следует отметить, что понятие "слой" часто применяют по отношению к сигналам ИНС (а не к нейронам). В таком смысле представленная на рисунке сеть — трехслойная: входные сигналы сети составляют входной слой, выходные сигналы первого нейронного слоя образуют первый скрытый слой, а выходные сигналы — слой выходной. Для обозначения структуры сети используется кодировка в виде "".
Выходные сигналы нейронных слоев легко рассчитываются по следующим формулам:


Необходимо подчеркнуть, что функции активации абсолютно всех нейронов сети абсолютно идентичны (в том числе имеют одинаковое значение параметра ).
Цель обучения многослойного нейрона заключается в подборе таких значений всех весовых коэффициентов сети и , которые обеспечивают максимальное совпадение выходного вектора и эталонного вектора ожидаемых значений при предъявлении входного вектора .
В случае единичной обучающей выборки целевая функция задается в виде:

В случае множества обучающих пар , , целевая функция превращается в сумму по всем парам:

Подходы к обучению многослойного персептрона
Представленные ранее выражения для целевой функции характеризуются, во-первых, аналитическим видом, во-вторых, дважды дифференцируемостью. Это дает возможность использовать для отыскания минимума практически весь арсенал универсальных методов поисковой оптимизации. Кроме того, специально для целей обучения ИНС разработаны модификации "канонических" методов.
Среди универсальных методов обучения сетей наибольшее распространение получили следующие.
  1. Метод градиента. Очередное приближение к оптимальному решению определяется по формуле

    где — коэффициент обучения, адаптивно подбираемый в ходе поиска так, чтобы .
  2. Метод наискорейшего спуска.

    где коэффициент обучения на каждом шаге поиска таков, что гарантированно обеспечивает достижение минимума в направлении . Расчет оптимального значения реализуется, как правило, методом полиномиальной аппроксимации (одномерная оптимизация в антиградиентом направлении).
  3. Метод сопряженных градиентов.


    В этом методе направление поиска на текущем шаге определяется как градиентом целевой функции в точке , так и направлением поиска на предыдущем шаге , умноженном на коэффициент сопряжения . Существуют различные правила расчета , например, популярно такое:

  4. Ньютоноподобные методы. Формула метода Ньютона имеет следующий вид:

    где — матрица Гессе (матрица вторых производных целевой функции). В силу трудоемкости расчета матрицы Гессе метод Ньютона как таковой на практике не используется, но служит прототипом для ряда весьма эффективных методов, предлагающих экономичные способы расчета приближенных эквивалентов матрицы Гессе и вектора градиента на каждом шаге поиска.
Специализированным методом обучения (минимизации целевой функции , широко используемым в практике обучения ИНС, следует считать метод обратного распространения ошибки, описываемый ниже.
Примером эвристического алгоритма, демонстрирующего неплохие результаты при подборе весовых коэффициентов ИНС, служит алгоритм RPROP (Resilent back PROPagation), формула которого имеет следующий вид:

В этом алгоритме используется только знак производной. Коэффициент обучения индивидуален для каждого веса и выбирается следующим образом:



Здесь , ; — эмпирически подобранные константы изменения коэффициента обучения; минимальное и максимальной допустимые значения коэффициента обучения выбраны так: и . Явное достоинтство алгоритма — ускоренное обучение на пологих участках целевой функции (там, где величина градиента мала).
Существует много других эвристических алгоритмов, предложенных для разных типов сетей, классов решаемых задач, предметных областей. Однако, необходимо всегда учитывать, что эвристические методы строгого теоретического обоснования не имеют.
Для задач обучения ИНС, как и для задач параметрической оптимизации в целом, актуальной является проблема полимодальности целевых функций и, следовательно, отыскания глобальных экстремумов.
К сожалению, все упоминавшиеся ранее методы — это методы локального поиска, они способны отыскать только локальный экстремум, в область притяжения которого попадает начальный вектор весов. Среди методов глобального поиска перспективными с точки зрения обучения ИНС считаются метод имитации отжига и генетические алгоритмы.
Многие из упоминавшихся выше методов допускают функционирование в двух режимах: online и offline. В первом режиме ("онлайн") уточнение весов осуществляется после предъявления каждой обучающей выборки при использовании целевой функции вида:
Второй режим ("оффлайн") подразумевает корректировку весов только после обработки всех пар в обучающей последовательности с использование целевой функции в виде:

Многие из методов обучения многослойного персептрона могут быть приспособлены для обучения сетей и других типов.
На эффективность процесса обучения ИНС оказывает влияние не только выбор метода подбора весовых коэффициентов, но и начальные значения этих коэффициентов. Понятно, что в лучшем случае начальные значения должны располагаться в области притяжения глобального минимума целефой функции . К сожалению, в большинстве реальных задач такой выбор значений невозможен. Поэтому в практических реализациях ИНС чаще всего используется случайный выбор весов с равномерным распределением значений в заданном интервале.
Выбор этого диапазона слишком широким может привести к чрезмерно большим значениям что, в свою очередь, вызовет глубокое насыщение сигмоидальной функции нейрона, что скажется либо на продолжительности обучения, либо "умертвит" нейрон.
Предлагаются различные оценки диапазона начальных значений, но все они лежат в пределах (по абсолютной величине) (0, 1). Одна из таких оценок такова: веса всех нейронов должны выбираться в диапазоне — количество входов нейрона; веса поляризации нейронов выходного слоя — нулевые; веса поляризации всех остальных слоев выбираются в диапазоне
До сих пор процесс обучения сети рассматривался как процесс минимизации погрешности обучения , определяемой на множестве эталонных пар Однако, необходимо понимать, что истинная цель обучения — придание сети способности адекватно реагировать на все множество данных , "типичным" подмножеством которого является множество . Такая способность сети называется способностью к обощению.
Для оценки возможности к обобщению используется тестовое подмножество (см. рис. 2) и определенная на нем погрешности обобщения .
Рис. 2.  Множество входных данных R, подмножество обучающих данных L и тестовое подмножество G
Показано, что погрешность обобщения зависит от мощности множества (количества обучающих выборок ) и сложности ИНС. Однако, строго мера сложности сети не определена, и в качестве ее приближения предлагается использовать просто общее количество весовых коэффициентов сети. Разнообразные численные эксперименты показали, что для достижения сетью приемлемого уровня способности к обобщению необходимо, чтобы количество обучающих выборок в несколько раз превышало общее количество весов сети. Действительно, для обретения способности обобщать информацию сеть должна тренероваться на избыточном множестве данных, поскольку тогда веса будут адаптироваться не к уникальным выборкам, а к их усредненным совокупностям.
Метод обратного распространения ошибки
Метод обратного распространения ошибки является версией метода градиента (канонического метода параметрической оптимизации первого порядка), адаптированной для целей обучения многослойных ИНС. Рассмотрим его суть на примере двухслойного персептрона, структурная схема которого дана на рис. 1. Для упрощения ограничимся случаем единичной обучающей выборки (режим обучения "онлайн").
Тогда целевая функция имеет вид:

Уточнение коэффициентов производится формулой метода градиента:

Основную сложность в реализации этой формулы представляет расчет компонентов вектора градиента целевой функции

Получим соотношения для частных производных целевой функции по весам нейронов выходного слоя:

Обозначим тогда соответствующий компонент вектора градиента выглядит следующим образом:

Компоненты градиента для весов предпоследнего слоя определяются более сложно:

Обозначив имеем

Детальный анализ выражений для производных целевой функции по весам различных слоев сети позволяет получить простое правило расчета компонентов вектора градиента :

где — сигнал на "входе" во взвешенную связь, — величина погрешности обучения, перенесенная с выхода сети к "выходу" взвешенной связи. Этот перенос погрешности с выхода сети к ее предыдущим слоям и обусловил название метода "обратного распространения ошибки".
Данное правило иллюстрирует рис. 3.
Рис. 3.  Иллюстрация метода "обратного распространения ошибки"
Пример использования многослойного персептрона
Рассмотрим пример использования простейшей ИНС для решения задачи сжатия данных с потерями. Дано прямоугольное изображение, каждый пиксел которого характеризуется своей яркостью. Изображение разбивается на прямоугольных кадров размером каждый. Кадр сжимается в вектор данных размерностью который затем восстанавливается (например, после хранения или передачи по медленным каналам связи) в кадр того же размера .
Решение этой задачи возможно с использованием простейшего двухслойного персептрона с линейными функциями активации (см. рис. 4).
Рис. 4.  Сруктурная схема двухслойного персептрона с линейными функциями активации
Здесь , , — значение яркости -ого пикселя в -ом кадре,
Сжатие (компрессия) данных осуществляется первым слоем нейронов, а восстановление (декомпрессия) — выходным. Сеть является автоассоциативной, поскольку ее выходной вектор должен совпадать с входным .
Веса первого слоя нейронов в матричной форме обозначаются а выходного слоя — Вследствие линейности функций активации и однонаправленности распространения сигналов имеем:

Обучение сети, состоящее в оптимальном подборе весов, составляющих матрицы и , подразумевает минимизацию целевой функции в виде: