Пусть нестационарная динамическая система описывается системой обыкновенных дифференциальных уравнений (ОДУ)
Здесь -вектор начальных условий, – анализируемый период времени (где величина не обязательно фиксирована!), -вектор фазовых переменных системы, — вектор управления. В той или иной форме могут быть заданы также условия на конце траектории системы, например, в виде . Заметим, что правильнее было бы последние условия задавать в виде , где — момент достижения системой состояния . Однако для простоты записи мы будем использовать первую запись (если не оговорено противное).
Далее будем использовать описание анализируемой динамической системы в векторной форме
 (1)

Напомним, что если время явно не входит в функцию , то динамическая система, описываемая системой ОДУ (1) называется стационарной.
На вектор в общем случае могут быть наложены ограничения вида
 (2)

где множество допустимых значений вектора фазовых переменных системы, – некоторое функциональное пространство, например, пространство непрерывных на интервале функций (см. рис. 1).
На рис. 1 множество DX = {x1(t) | x-1(t) x1(t) x+1(t), t [t0, ]} C(0)[t0, ].
Рис. 1.  Пример области допустимых значений вектора фазовых координат для одномерной системы (n = 1).
На вектор управления также обычно накладываются некоторые ограничения вида
 (3)

где множество допустимых управлений, – некоторое функциональное пространство, например, пространство функций "интегрируемых с квадратом" на интервале (см. рис. 2).
На рис. 2 множество DU = {u1(t) | u-1(t) u1(t) u+1(t), t [t0, ]} L2[t0, ], а пространство допустимых управлений ΩU, полагается, составляют кусочно-постоянные функции, имеющие на интервале [t0, ] конечное число разрывов первого рода.
Рис. 2.  Пример множества допустимых управлений для системы с одномерным управлением (m = 1).
Примечание 1
Используя уравнение (1), формально ограничения на вектор фазовых переменных можно пересчитать в ограничения на вектор управления . Однако, задача такого пересчета сложна и обычно рассматривают и те, и другие ограничения.
В качестве критерия качества управления (критерий оптимальности управления) в задачах оптимального управления обычно используют интегральный функционал вида
 (4)

где – некоторая одномерная функция указанных переменных.
Заметим, что здесь и далее обозначение функционала вида (без указания зависимости вектор-функций от времени ) означает зависимость от этих функций в целом, как элементов функционального пространства. Часто в литературе вместо записи в том же смысле используют запись .
Итого, задача оптимального управления динамической системой обычно формализуется следующим образом: найти такой вектор управления , удовлетворяющий условию (3), который на решениях системы ОДУ (1) обеспечивает минимум критерия оптимальности (4) при выполнении ограничений (2) на вектор фазовых переменных .
Заметим, что возможны и не интегральные формы функционалов качества управления, например:
, где – заданная точка;
Важным частным случаем задачи оптимального управления является задача оптимального быстродействия. Критерий оптимальности управления получается в этом случае из критерия оптимальности (4) при и имеет вид