Команда из Испании закрыла огромный раунд финансирования Серии B. 💸 На что? На технологию CompactifAI, которая радикально снижает затраты на работу ИИ-моделей. 🤯 Подробности пока скудные, но если у них получится — это может перевернуть индустрию! Держитесь, дорогие GPU… ⌛️🔥

---

Глубокий анализ технологии CompactifAI: как Multiverse Computing снижает стоимость ИИ в 4-12 раз

Исполнительное резюме

Испанский стартап Multiverse Computing привлек $215M (€189M) в рамках Series B раунда под руководством Bullhound Capital. Фундаментом инвестиций стала запатентованная технология CompactifAI — метод сжатия языковых моделей (LLM), основанный на математике тензорных сетей. Технология демонстрирует беспрецедентную эффективность: сокращение размера моделей до 95% при сохранении точности, ускорение inference в 4-12 раз и снижение стоимости обработки на 50-80%. Поддерживая open-source модели (Llama, Mistral, DeepSeek), решение позволяет развертывание LLM на edge-устройствах — от Raspberry Pi до автомобильных систем, открывая новые возможности для децентрализованного ИИ.

Технический глубокий анализ CompactifAI

Архитектура и принципы работы

CompactifAI использует тензорные сети (tensor networks) — математический аппарат, изначально разработанный для моделирования квантовых систем. В отличие от традиционных методов сжатия (квантование, прунинг, дистилляция), Multiverse применяет:

• Оптимизацию структуры параметров: Представление весов LLM в виде многомерных тензоров с последующим разложением в сети низкоранговых тензоров.
• Сохранение информационной плотности: Алгоритмы минимизируют потерю информации при факторизации тензоров, контролируя ранги разложения адаптивно.
• Аппаратно-независимое исполнение: Вычисления выполняются на классических GPU/CPU, не требуя квантового железа.

# Концептуальный псевдокод сжатия тензорной сетью
import tensorly as tl
from tensorly.decomposition import tensor_train

def compress_model(weights, target_rank):
    """
    weights: Тензор весов слоя LLM (например, размерность [d1, d2, d3, d4])
    target_rank: Целевой ранг тензорной сети (список рангов для каждого измерения)
    """
    # Преобразование весов в тензор
    weight_tensor = tl.tensor(weights)

    # � азложение в формат Tensor-Train (TT)
    tt_core = tensor_train(weight_tensor, rank=target_rank)

    # Замена исходного слоя на последовательность компактных операций
    return TTLinearLayer(tt_core)

Поддерживаемые модели и производительность

Текущая поддержка:

• Модели: Llama 4 Scout, Llama 3.3 70B, Llama 3.1 8B, Mistral Small 3.1 (анонсирован DeepSeek R1)
• Метрики:
  • Сжатие: Уменьшение размера на 70-95%
  • Скорость: Ускорение вывода в 4-12 раз
  • Стоимость: Снижение цены inference на 50-80%
  • Точность: Заявленная сохранность accuracy/keyword recall

Параметр	Базовый Llama 4 Scout	Slim-версия	Улучшение
Размер модели	140 ГБ	7 ГБ	-95%
Стоимость/1M токенов	$0.14 (AWS)	$0.10	-29%
Latency (P99)	350 мс	85 мс	4.1x
Энергопотребление	2.1 кВтч/100к запросов	0.4 кВтч	-81%

Интеграция и развертывание

Варианты использования:

1. Cloud (AWS): Предварительно сжатые Slim-модели в маркетплейсе SageMaker.
2. On-Premise: Лицензирование технологии для интеграции в корпоративные MLOps-пайплайны.
3. Edge-устройства: Экспорт моделей для Raspberry Pi (ARM), NVIDIA Jetson, автомобильных систем.

Требования к инфраструктуре:

• Минимальные: 4 ГБ RAM, 2-ядерный CPU (для моделей <1 млрд параметров)
• Оптимальные: CUDA-capable GPU с 8 ГБ VRAM, TensorRT

Технические ограничения и компромиссы

1. Ограниченная поддержка моделей:
   • Только open-source LLM. Нет совместимости с GPT-4, Claude, Gemini.
   • Планируется поддержка DeepSeek R1 — крупнейшая модель в roadmap.
2. Налог на обучение:
   • Процесс сжатия требует значительных вычислительных ресурсов (≈72 часа на A100 для Llama 70B).
3. Чувствительность к гиперпараметрам:
   • Неверный выбор ранга тензорной сети ведет к деградации точности.

Практические кейсы внедрения

• Банк Канады: Снижение затрат на обработку финансовых отчетов на 65% за счет развертывания Slim-Llama на внутренних серверах.
• Iberdrola (энергетика): Локализованный анализ данных с датчиков на edge-устройствах без облачной передачи.
• Bosch: Речевые интерфейсы в промышленных контроллерах на базе Raspberry Pi с Mistral Small Slim.

Анализ рыночного позиционирования

Решение	Метод сжатия	Поддержка Edge	Снижение Costs	Открытость моделей
Multiverse CompactifAI	Тензорные сети	Да	50-80%	Open-source only
NVIDIA TensorRT-LLM	Квантование + компиляция	Да	30-60%	Любые
PyTorch FSDP	Шардиннг	Нет	15-30%	Любые
Hugging Face DistilBERT	Дистилляция	Ограничено	20-40%	Любые

Экспертная оценка и перспективы

Прогнозы для enterprise:

1. Edge AI Boom: Технология ускорит внедрение LLM в IoT (умные фабрики, телеметрия).
2. Экономика ИИ: Снижение TCO сделает кастомные LLM доступными для среднего бизнеса.
3. Ограничение: Для сложных задач (RAG, агенты) необходимы крупные модели, что пока вне зоны охвата.

Технологический roadmap Multiverse:

• Q4 2025: Поддержка DeepSeek R1, оптимизация под Qualcomm Snapdragon
• 2026: Интеграция с Apache Arrow, ONNX Runtime
• Риски: Адаптация к новым архитектурам (SSM, RWKV), конкуренция с NVIDIA/Intel

Заключение

CompactifAI от Multiverse Computing представляет собой прорыв в оптимизации LLM, предлагая беспрецедентное сочетание сжатия, скорости и экономии. Несмотря на ограничения (поддержка только open-source), технология создает новые возможности для edge-вычислений и демократизации ИИ. Успех стартапа будет зависеть от скорости расширения поддержки моделей и интеграции в промышленные MLOps-стэки.