Эзотерическая LLM: как дообучить модель на Таро, каббале и алхимии за $2
Проект Esoteric LLM показывает необычный, но технически полезный сценарий дообучения языковой модели: взять 9-миллиардную LLM, корпус из 22 эзотерических книг и пройти полный пайплайн fine-tuning на потребительском железе. Итоговый эксперимент занял около 11 часов обучения, а синтетический датасет для instruction …
Эзотерическая LLM: как дообучить модель на Таро, каббале и алхимии за $2 Читать далее »