Зерттеушілер үлкен тілдік модельдердің сыртқы деректерді қалай қабылдайтынын анықтады

arXiv платформасында жарияланған жаңа ғылыми препринтте үлкен тілдік модельдердің (LLM) іздеу жүйелері мен сыртқы құралдардан келетін ақпаратты қалай кіріктіретіні зерттелді. Ғалымдар модельдер өздерінің бастапқы ықтималдықтарына және сипатты қателеріне сәйкес келетін дәйектерге көбірек сенетінін анықтаған таралу теориясын ұсынды.

Теория төрт отбасына жататын 12 LLM моделі мен физика, кванттық механика, генетика және молекулалық биологияны қамтитын 8 ғылыми саладағы 10 миллионнан астам сынақ арқылы тексерілді. Нәтижелер бірдей деректің әлсіз модельдердің сапасын арттырып, күшті модельдердің жұмысын нашарлатуы мүмкін екенін көрсетті.

Сонымен бірге, зерттеу авторлары тілдік модельдер ішкі деңгейде қате екенін анықтаған ақпаратты да кейде өз жауаптарына қосып жіберетінін анықтады. Желіні себеп-салдарлық тұрғыдан талдау сыртқы нұсқаларды қабылдау процесі ішкі тексеру механизмдерінен тәуелсіз, желінің соңғы қабаттарында жүзеге асатынын көрсетті.