Различают системы Grid одно- и двухуровневой архитектуры.

Одноуровневая архитектура Grid – аналог кластерной архитектуры, но с пространственно распределеными и принадлежащими разным владельцам узлами. В одноуровневой Grid системе ресурсы – пространственно распределенные компьютеры (узлы) – интегрируются через управляющий центр (грид-сервер), который является точкой доступа ко всем ресурсам и выполняет функции менеджера ресурсов (МР). В каждом узле устанавливается агент, выполняющий функции запуска заданий на компьютере, мониторинга заданий и ресурсов, защиты и контактов с управляющим центром. Доступ к ресурсам в одноуровневой архитектуре возможен только через интерфейсы грид-сервера, который для каждого поступающего на него запроса находит ресурсы на обрабатывающих узлах и инициирует обработку запроса.

В двухуровневой системе ресурсы отдельного узла находятся в автономном административном домене, связаны локальной сетью и обычно управляются системой пакетной обработки, которая играет роль локального МР. Узел включается в грид через одну одну или несколько машин-шлюзов, на которые устанавливаются грид-службы, и, таким образом ресурсы узла становятся доступны повсеместно.

Функционирование Grid обеспечивается специальными службами. В качестве служб для Grid в настоящее время используют Web-службы (SOAP, WSDL, WS-Inspection и т.д.).

Архитектура Grid определена в спецификациях OGSA (Open Grid Services Architecture). В OGSA задаются основные функции служб — обнаружение; динамическое создание ресурсов, управление ими, авторизация, управление параллельным выполнением и др.