Для инженеров Apple проблема заключалась не в нехватке мощностей как таковой, а в простое ресурсов. До внедрения системы Minions некоторые задачи по инференсу простаивали в очереди более десяти часов из-за ограниченности централизованных GPU-кластеров. Теперь, используя механизм распределения нагрузки по нерабочим устройствам, запуск таких задач сокращается до нескольких минут.

Фото: commons.wikimedia.org by www.Pixel.la Free Stock Photos, https://creativecommons.org/publicdomain/zero/1.0/

Компьютер

Ключевым изменением в системном слое стала агрегация простаивающих графических процессоров на macOS-устройствах для выполнения больших задач машинного обучения. Это не кластер в традиционном понимании, ориентированный на максимальную пропускную способность, а виртуальное GPU-облако, которое превращает разрозненное железо в единый пул инференс-воркеров.

Система Minions состоит из четырех компонентов, каждый из которых выполняет строго определенную функцию в цепочке обработки данных. Minion Server выступает координационным ядром: он принимает запросы пользователей, декомпозирует их на подзадачи и управляет очередью. Minion Executor непосредственно выполняет вычисления на GPU конкретного Mac, отправляет результаты в S3-хранилище и транслирует статус выполнения обратно на сервер.

Метаданные задач хранятся в базе данных PostgreSQL, что обеспечивает прозрачность процессов. Отдельный компонент, Minion Watchdog, отвечает за отказоустойчивость: он мониторит сеть на предмет сбоев (например, неответа одного из Mac) и при необходимости переназначает задачи на другие узлы. Статистика работы системы визуализируется на дашбордах Grafana в реальном времени.

Эффективность такого подхода критически зависит от сетевой пропускной способности между узлами. Новые Mac mini и Mac Studio поддерживают кластеризацию через RDMA (Remote Direct Memory Access) по интерфейсу Thunderbolt 5. Это позволяет объединить вычислительные мощности и память нескольких машин для поддержки одной рабочей нагрузки, например, для загрузки модели, которая не помещается в оперативную память одного устройства.

Важно различать этот подход и построение типичного кластера на базе Nvidia. Последний оптимизирован под высокую скорость и низкую задержку для больших моделей. Минимизация очереди и использование простаивающих ресурсов в экосистеме Apple направлены на повышение доступности GPU для внутренних команд, превращая неиспользуемые устройства в активные вычислительные единицы.