Рассмотрим задачу Коши для системы ОДУ
 (1)

где , или в векторной форме
 (2)

Здесь - - вектор, - - вектор-функция.
Положим, что для системы (1) выполнены условия существования и единственности решения. Будем полагать также, что решение системы (1) устойчиво. Кроме того, опустим вопросы выбора шага интегрирования.
Если вычислительная система содержит небольшое количество процессоров (несколько штук), то для параллельного решения задачи Коши (2) можно использовать одношаговые блочные методы и блочные методы типа предиктор-корректор, относящиеся к классу неявных методов. Схема распараллеливания при этом тривиальна – значение функции в каждой точке блока вычисляется на своем процессоре.
Рассмотрим практически более значимую ситуацию, когда многопроцессорная вычислительная система содержит значительное количество процессоров и порядок системы (2) кратен количеству процессоров , т.е. величина кратна величине и .
Покроем интервал равномерной сеткой с шагом (см. Рис.1).
Рис. 1.  Используемая сетка.
Для того, чтобы не затенить схему параллельного алгоритма деталями, рассмотрим явный метод интегрирования Эйлера (имеющего первый порядок точности)

Схема параллельного метода Эйлера.
1) Распределяем уравнения системы по процессорам так, как показано на Рис.2.
2) Параллельно на всех процессорах системы вычисляем значения соответствующих функций и компонентов вектора :
3) Каждый из процессоров системы посылает каждому из остальных процессоров вычисленные компоненты вектора .
4) Аналогично пп.2, 3 производится вычисление компонентов вектора .
5) ….
6) Аналогично пп.2, 3 производится вычисление компонентов вектора
Рис. 2.  К схеме параллельного метода Эйлера.
Если вычислительные сложности компонент вектор-функции различны (что является типичной ситуацией), то рассмотренная схема параллельного метода Эйлера может привести к плохой балансировке загрузки процессоров (вычислительной загрузке). Для преодоления несбалансированности следует компоненты вектор-функции объединить в блоки таким образом, чтобы суммарная вычислительная сложность каждого из блоков была примерно одинакова.
Рассмотренная схема распараллеливания влечет за собой высокую загрузку коммуникационной сети вычислительной системы. Действительно, на каждом шаге интегрирования каждый процессор должен передать каждому из остальных процессоров все вычисленные им компоненты вектора . Коммуникационную загрузку процессоров системы можно уменьшить, если при объединении компонент вектор-функции в блоки наряду с вычислительной сложностью этих компонент, учесть информационные связи этих компонент между собой.
Задачу приближенно оптимального объединения компонент вектор-функции в блоки легко сформулировать в виде задачи балансировки загрузки (см. главу 5). Пусть - вычислительная сложность функции . Положим, что (если это не так, то, возможно, необходима динамическая балансировка загрузки). Введем в рассмотрение коммуникационную матрицу системы ОДУ (1) , где , если функция использует компоненту вектора , и в противном случае. Введем в рассмотрение также отображающую матрицу

где , если функция (,) назначена для вычисления процессору , и , если эта функция не назначена процессору .
Тогда вычислительная загрузка процессора равна

а его коммуникационная загрузка равна

где - длина в байтах компонент вектора . В результате задачу балансировки загрузки можно записать в виде

Если система (2) является жесткой, то имеется еще один резерв повышения эффективности параллельного (так же, как и последовательного) интегрирования этой системы – использование многоскоростного метода. Положим, что систему (2) можно разбить на две подсистемы, жесткую и нежесткую

 (3)

где , . Идея многоскоростного метода состоит в интегрировании жесткой части системы (3) с меньшим шагом, чем нежесткой:


Здесь , – шаги интегрирования жесткой и нежесткой подсистем, соответственно, - аппроксимация вектора в точке (поскольку значения этого вектора в точках не вычисляются); – коэффициент изменения величины шага интегрирования, примерно равный отношению модулей наибольшего и наименьшего по модулю собственных значений Якобиана системы (2).
Заметим, что аппроксимация вектора при интегрировании жесткой подсистемы вносит дополнительную погрешность. Поэтому для успешного применения многоскоростного метода требуется тщательный анализ его сходимости.
При использовании многоскоростного метода задача разбиения на блоки усложняется, однако также может быть сведена к задаче балансировки загрузки.
В силу невысокой точности в вычислительной практике метод Эйлера используется редко. Однако рассмотренная схема распараллеливания с небольшими изменениями переносится как на явные методы интегрирования ОДУ более высокого порядка, например, на методы Рунге-Кутта, так и на неявные методы.