Предложен метод обучения ИИ на основе верифицированных моделей мира в виде кода

В препринте на arXiv представлена концепция «world-time compute», которая решает проблему нехватки размеченных данных для больших языковых моделей. Подход заключается в генерации точных траекторий обучения с помощью верифицируемых моделей мира, описанных программным кодом.

Тестирование показало, что дообучение моделей на синтезированных средах улучшает их способность к обобщению на незнакомых задачах. Наибольший прирост производительности зафиксирован на компактных моделях: версия на 0,5 млрд параметров прибавила 29 пунктов. Эффективность метода подтверждена на тестах ARC-AGI, List Functions и CLRS.

Для создания и развертывания таких сред был разработан фреймворк OpenWorld. Авторы отметили, что исходный код и методики обучения воспроизводятся из единого открытого репозитория.