Qiushi Engine шектеулі деректермен тілдік модельдерді оқытудың жаңа әдісін ұсынды
Қысқаша мазмұны
arXiv препринтінде жарияланған зерттеу BabyLM 2026 Strict-Small бағдарламасында тілдік модельдердің тиімділігін арттыру жолын көрсетті.
Мәтін редакция мен AI көмегімен дайындалды, түпнұсқа сілтемесі көрсетілген
Qiushi Engine зерттеу тобы BabyLM 2026 Strict-Small шеңберінде шектеулі мәтіндік деректермен жұмыс істейтін тілдік модельдерді оқыту бойынша тәуелсіз зерттеу нәтижелерін ұсынды. Тәжірибе 10 миллион сөзден тұратын корпус пен 100 миллион жиынтық сөздік көрсетілім шегінде жүргізілді.
Жұмыс үш кезеңнен тұрды. Онда ықшам қайта баяндау, ресурстарды қайта бөлу және қалдық инкрементті оқыту әдістері қолданылды. Зерттеушілер нақты қайталау мен сәйкестендірілген қайта баяндау контекстті пайдаланудың әртүрлі үлгілерін қалыптастыратынын анықтады.
Нәтижесінде модельдің жалпы көрсеткіші 42,02-ден 42,25-ке дейін өсіп, 2026 жылғы 8 қыркүйектегі жағдай бойынша Strict-Small сынағында ең жоғары балл тіркелді. Модельдер мен код Hugging Face және GitHub платформаларында жарияланды.
Дереккөз: arXiv cs.CL
Түпнұсқаны оқу →Соңғы жаңалықтар
«ЦентрКредит Банкі» KASE-де 18,2 млрд теңгеге өз акцияларын сатып алды
«ЦентрКредит Банкі» АҚ Қазақстан қор биржасында 18,2 млрд теңге сомасына 4,1 млн дана өз жай акциясын кері сатып алды.
Дереккөз: KASE
Home Credit Bank облигациялары KASE-нің Т+ тізіміне енгізіледі
8 қазаннан бастап Home Credit Bank-тің KZQ000001213 (HCBNe1) облигациялары Қазақстан қор биржасының Т+ тізіміне қосылады.
Дереккөз: KASE
KASE 2026 жылғы қыркүйектегі биржа мүшелерінің белсенділік рейтингтерін жариялады
Қазақстан қор биржасы өзінің интернет-ресурсында 2026 жылдың қыркүйек айындағы мүшелер белсенділігінің рэнкингтерін ұсынды.
Дереккөз: KASE
KASE индексі 0,25%-ға өсіп, 7 862,81 тармаққа жетті
7 қазандағы сауда-саттық қорытындысы бойынша KASE индексі 0,25%-ға өсіп, 7 862,81 деңгейінде белгіленді.
Дереккөз: KASE