Изображение: NVIDIA.
NVIDIA расширяет возможности платформы DGX Spark для локального запуска ИИ. В сообщении от 21 октября компания назначила начало поставок партнёрских систем с 64 ГБ памяти на 23 октября.
Также заявлена поддержка кластеров до восьми устройств при ручной настройке. Новый Model Launcher для упрощения загрузки и запуска моделей компания планирует предоставить до конца октября.
Для небольшой команды это вариант вынести часть экспериментов и внутренних запросов на собственное оборудование. Но локальная установка не означает, что любой большой ИИ автоматически поместится в память и будет работать быстро.
Экономику такого решения нужно считать по конкретной нагрузке: цена оборудования, электричество, обслуживание и загрузка системы. Сравнение только стоимости одного облачного запроса и отсутствия такой строки в локальном счёте будет неполным.
