Разработчики уволились из Anthropic из-за рисков бесконтрольного ИИ

Два бывших сотрудника компании Anthropic, создателя популярного чат-бота Claude, публично заявили о рисках, связанных с ускоренным развитием искусственного интеллекта. Специалисты выразили опасение, что общество может потерять контроль над технологией до того, как удастся выстроить механизмы безопасности.

В частности, бывший руководитель исследовательской группы по безопасности Anthropic Джо Бентон объявил о своем уходе из компании и переходе в некоммерческую организацию METR. Исследователи подчеркивают важность своевременной оценки рисков мощных нейросетей.