startups-worldОпубликовано: 09 сент. 2026 г., 01:07Уровень доверия: verified

На MacBook Pro запустили модель Kimi K3 на 2,8T параметров с четырех SSD

На MacBook Pro запустили модель Kimi K3 на 2,8T параметров с четырех SSD

Краткий пересказ

Проект Deltafin продемонстрировал запуск модели Kimi K3 (2,8 трлн параметров) на MacBook Pro со скоростью 1 токен в секунду благодаря потоковой передаче с четырех SSD.

Материал подготовлен редакцией с помощью AI, ссылка на оригинал указана

Разработчики проекта Deltafin представили решение, позволяющее запускать сверхбольшие языковые модели на потребительском оборудовании. В ходе эксперимента модель Kimi K3 объемом 2,8 триллиона параметров была запущена на ноутбуке MacBook Pro.

Для обеспечения работы системы веса модели передавались в потоковом режиме одновременно с четырех подключенных SSD-накопителей. Производительность составила около 1 токена в секунду, что демонстрирует возможность локального запуска огромных ИИ-моделей без использования дорогостоящих дата-центров.

Источник: Hacker News

Читать оригинал →

Последние новости