Энтузиаст из Сингапура смог запустить Llama 2 на древнем DOS! Это уже не первый его эксперимент — ранее он ставил Linux на ПК 1993 года и делал ChatGPT-клиент для MS-DOS. Теперь вот LLM на DOS. Круто же? 😎 Кто сказал, что старые компьютеры бесполезны? #RetroTech #AI
Сингапурский исследователь в области embedded-безопасности Yeokhengmeng, известный своими необычными проектами вроде запуска Linux на ПК 1993 года и создания ChatGPT-клиента для MS-DOS, совершил новый прорыв. Он адаптировал крупную языковую модель Llama 2 для работы на компьютерах с операционной системой DOS. Хотя традиционно для локального запуска LLM требуются мощные системы с производительными GPU, эксперимент доказал: даже устаревшее железо способно на удивительные вещи. Ключевым элементом проекта стал порт open-source проекта llama2.c, изначально созданного бывшим топ-менеджером Tesla и OpenAI Андреем Карпати. Исследователь открыто опубликовал исполняемый файл, решив даже проблему с ограничением DOS на длину имен файлов (8 символов). Как отмечает автор, скорость вывода напрямую зависит от современности системы, но сам факт работы Llama 2 на DOS впечатляет. Этот эксперимент продолжает серию необычных технических достижений Yeokhengmeng, включая установку Linux на 30-летний компьютер и создание DOS-версии ChatGPT. Проект не только демонстрирует гибкость современных ИИ-технологий, но и открывает новые возможности для энтузиастов ретрокомпьютинга. Все материалы, включая исполняемые файлы и исходный код, доступны в открытом доступе.
