businessЖарияланды: 2026 M09 12 03:08Сенім деңгейі: verified

Қауіпсіздік мамандары Anthropic компаниясынан кетті

Қауіпсіздік мамандары Anthropic компаниясынан кетті

Қысқаша мазмұны

Anthropic компаниясының бұрынғы қызметкерлері жасанды интеллекттің бақылаудан шығып кету қаупіне байланысты дабыл қақты.

Мәтін редакция мен AI көмегімен дайындалды, түпнұсқа сілтемесі көрсетілген

Claude чат-ботын әзірлеуші Anthropic стартапының екі бұрынғы қызметкері жасанды интеллекттің тым қарқынды дамуына байланысты алаңдаушылық білдірді. Олар адамзат жаңа технологиялардың салдарын бағалап үлгермей жатып, оларға бақылауды жоғалтып алуы мүмкін екенін ескертті.

Anthropic компаниясының қауіпсіздік жөніндегі зерттеу тобының бұрынғы басшысы Джо Бентон компаниядан кетіп, METR коммерциялық емес ұйымына ауысқанын хабарлады. Сарапшылар озық ЖИ модельдерінің қауіпсіздігін қамтамасыз ету мәселесіне көбірек назар аударуға шақырады.

Дереккөз: Kursiv

Түпнұсқаны оқу →

Соңғы жаңалықтар