Многослойные нейронные сети сигмоидального типа с математической точки зрения выполняют аппроксимацию функции нескольких переменных во множество выходных переменных . Поскольку сигмоидальная функция, играющая роль функции активации нейронов, имеет ненулевое значение на всем диапазоне входных данных, то в преобразовании сетью входных данных в выходные участвуют многие (если не все) ее нейроны. Вследствие этого аппроксимация сигмоидальными (и, естественно, линейными) нейронами называется глобальной аппроксимацией.
Радиальные сети строятся с использованием радиальных нейронов, функция активации которых имеет ненулевые значения только в окрестностях своего центра. Поэтому аппроксимация с помощью таких сетей называется локальной аппроксимацией.
Радиальная сеть имеет двухслойную структуру, первый слой составляют радиальные нейроны, выходной — один или несколько линейных. На рис. 1 представлена структурная схема радиальной сети с одним выходным нейроном.
Рис. 1.  Cтруктурная схема радиальной сети с одним выходным нейроном
Здесь — функция активации -ого радиального нейрона, называемая также базисной функцией.
Сеть выполняет аппроксимацию входных данных согласно выражению (для упрощения выкладок положим ):

Задача обучения сети состоит в подборе таких значений , и , которые доставляют минимум целевой функции

где — количество обучающих выборок.
Обозначим через матрицу Грина, имеющую следующий вид:

Если положить, что параметры радиальных функций известны, то решение задачи обучения эквивалентна решению системы линейных алгебраических уравнений

где — вектор весов, а — вектор ожидаемых значений выходного сигнала сети.
Вследствие прямоугольности матрицы (как правило, ) вектор весов можно отыскать следующим образом

где — псевдоинверсия прямоугольной матрицы .
Использование в качестве аргумента радиальной функции эвклидовой нормы ставит задачу масштабирования компонентов входного вектора . Эта задача решается путем ввода в определение эвклидовой метрики масштабных коэффициентов в виде матрицы :

где
Масштабирующая матрица в -мерном пространстве имеет следующий вид:

Обозначим произведение матрицей корреляций , тогда имеем

Если масштабирующая матрица имеет диагональный вид (а это наиболее часто встречающийся на практике случай), то

Чаще всего в качестве радиальной функции используется функция Гаусса, ее вариант без масштабирования переменных представлен ниже:

где — параметр, задающий ширину функции.
Вариант функции Гаусса, использующий масштабирование матрицей , связанной с -ой базисной функцией, выглядит следующим образом:

где играет роль скалярного коэффициента .
Обучение радиальной сети
Процесс обучения радиальной сети распадается на два этапа:
  1. подбор параметров радиальной функции для каждого радиального нейрона (в случае функции Гаусса это центр и параметр ширины );
  2. подбор весов выходного слоя нейронов.
При этом второй этап значительно проще первого, поскольку сводится к вычислению выражения , где основные вычислительные затраты — расчет псевдоинверсии матрицы Грина .
Задача отыскания параметров радиальных функций Гаусса для всех нейронов первого слоя в свою очередь распадается на две подзадачи:
  1. определение центров ;
  2. расчет параметров ширины .
Понятно, что основными требованиями к расположению центров в области определения входных данных являются:
Именно этим требованиям отвечает решение по кластеризации данных, даваемое ИНС с самоорганизацией на основе конкуренции. Следовательно, алгоритмы обучения, используемые в этих сетях для отыскания усредненных векторов в кластерах данных, непосредственно применимы и в радиальных сетях для отыскания центров радиальных функций.
После определения местоположения всех центров радиальных функций производится подбор параметров , определяющих величину области охвата, в которой значение радиальной функции превышает пороговое значение . Такой подбор должен обеспечить, с одной стороны, покрытие всего пространства входных данных и, с другой стороны, незначительность перекрытия соседних зон.
Проще всего в качестве значения принять эвклидово расстояние от центра до ближайшего соседа. Можно учитывать более широкое соседство, используя формулу

где — количество ближайших соседей центра (обычно = 3...5).
Гибридный алгоритм обучения
Гибридный алгоритм обучения радиальной сети реализуется чередованием пары шагов:
  1. отыскание коэффициентов выходного (линейного) слоя;
  2. адаптация нелинейных параметров радиальных функций всех нейронов первого слоя сети.
Перед началом обучения выбираются начальные значения центров и параметров ширины радиальных функций всех нейронов входного слоя.
На первом шаге при фиксированных параметрах радиальных функций определяется вектор весов выходного слоя по выражению

где — вектор весов, = — вектор ожидаемых значений, — псевдоинверсия матрицы Грина

Здесь единицы в первом столбце представляют собой значение входа поляризации для выходного нейрона-сумматора.
На втором шаге при фиксированных значениях весов нейронов выходного слоя методом градиента корректируются значения параметров радиальных функций и . Для последующего изложения будем использовать диагональную форму масштабирующей матрицы . Это означает, что радиальная функция имеет вид

где суммарный сигнал нейрона определяется выражением

Подлежащая минимизации целевая функция имеет вид

В результате дифференцирования этой функции по параметрам радиальной функции имеем:


Для корректировки весов используются стандартные выражения:

где — коэффициент обучения.
Уточнением параметров радиальных функций завершается очередной цикл обучения. На практике выделенные шаги имет разную скорость сходимости: градиентное уточнение параметров радиальных функций много медленнее. Для исключения этой диспропорции один расчет весов выходного слоя сопровождается несколькими циклами уточнения параметров радиальных функций.
Основной проблемой при создании аппроксимирующих сетей является выбор количества базисных функций. Малое их количество увеличивает погрешность аппроксимации, а слишком большое — погрешность обощения. Подбор необходимого и достаточного количества нейронов зависит от многих факторов: размерность пространства входных данных, количество обучающих выборок и, самое главное, пространственная структура аппроксимируемой функции.
Для решения задачи определения размерности входного слоя в радиальных сетях разработаны как формальные, так и эвристические методы. Ниже дается описание простого эвристического метода.
После предъявления очередной обучающей выборки определяется эвклидово расстояние от нее до ближайшего центра радиальной функции . Если это расстояние больше установленного порога , в сеть добавляется новый радиальный нейрон с центром в , после чего сеть подвергается обычной процедуре обучения методом градиента. Процесс добавления нейронов завершается при достижении требуемой точности аппроксимации. Величина порога критически влияет на эффективность метода, обычно экспоненциально изменяется с течением циклов обучения от до . Основной недостаток метода — невозможность уменьшения количества радиальных нейронов.