Зерттеушілер код түріндегі тексерілген әлем үлгілерін пайдалану әдісін ұсынды

Ғалымдар тобы arXiv платформасында жариялаған жаңа препринтінде «world-time compute» атты оқыту әдісін ұсынды. Тәсіл үлкен тілдік модельдерді нақты таңбаланған деректермен қамтамасыз ету үшін бағдарламалық код түрінде жазылған орындалатын әрі тексерілетін әлем үлгілерін қолдануға негізделген.

Авторлардың зерттеуіне сәйкес, синтезделген және тексерілген орталардың траекториялары бойынша оқыту модельдердің бұрын көрмеген жаңа тапсырмаларды шешу қабілетін арттырады. Әсіресе шағын үлгілерде жақсы нәтиже байқалды: 0,5B параметрлік модельдің көрсеткіші 29 тармаққа өсті. Тәсіл ARC-AGI, List Functions және CLRS тестілерінде сыналды.

Жоба аясында символдық орталарды құру және басқару үшін тәуелсіз OpenWorld фреймворкі әзірленді. Зерттеушілер барлық код пен дайындық рецепттері ашық түрде қолжетімді екенін мәлімдеді.