Проекты
Исследования и инженерные проекты: от идеи и обучения моделей до работающих инструментов.
Tiny LLM Ablation
Обучение малых языковых моделей с нуля: что дали MoE, рекурсия, MoD, UL2 и diffusion при одинаковом бюджете данных.
T5Gemma 2 Speculators
Обучение диффузионных спекуляторов для ускорения T5Gemma 2 и плагин для их запуска в vLLM.