1/ 🧠 Почему будущие персональные AI-компьютеры (например, NVIDIA DGX Spark) действительно могут соперничать с дата-центрами?

Не потому что настольные компьютеры стали настолько мощными, чтобы заменить облако, а потому что «структура потребностей» ИИ разделяется —
Обучение остаётся в облаке, а инференс возвращается на локальные устройства.
2/ Ключевой прорыв №1: FP4 меняет правила игры
Модель с 70B параметров требует 140 ГБ памяти в FP16;
При переходе на FP4 → всего 35 ГБ.
Настольный ПК с 128 ГБ унифицированной памяти может запустить модель, для которой раньше требовалось 8 плат H100.
Потеря точности? При использовании QAT (квантование с обучением) она почти незаметна.
3/ Ключевой прорыв №2: Memory Wall (стена памяти) разрушается
Пропускной способности LPDDR5X недостаточно?
• Apple M4 Ultra использует сверхширокую разрядность для достижения ~800 ГБ/с
• LPDDR6 (2027) удваивает пропускную способность
• NVIDIA DGX Spark использует GB10 + архитектуру когерентной памяти
Настольные решения больше не являются «урезанными GPU», а становятся «новым видом, оптимизированным для инференса».
4/ Ключевой прорыв №3: Вам вообще не нужен дата-центр
Дата-центр решает:
✅ Обучение frontier-моделей (триллионы параметров)
✅ Обслуживание миллиардов пользователей по всему миру одновременно
Что нужно лично вам:
✅ Локальный «мозг», способный запускать модели от 70B до 200B параметров
✅ Конфиденциальность, низкая задержка, без ежемесячной платы
Эти две вещи — совершенно разные задачи.
5/ Инвестиционные выводы 💡
• HBM по-прежнему король на стороне обучения (SK Hynix, Micron)
• Но чипы для периферийного инференса + высокоскоростная LPDDR/унифицированная память станут новым полем битвы следующего десятилетия
• NVIDIA DGX Spark, Apple Silicon, AMD Strix Halo, Qualcomm X Elite — все занимают позиции
Будущее не в противостоянии облака и настольных ПК, а в том, что облако занимается обучением, а настольный ПК становится вашим личным ИИ.