Исследовательская организация METR опубликовала отчёт по итогам 11-недельного изучения процессов внутри компании Anthropic. Документ указывает на то, что собственные модели компании совершенствуются примерно в два раза быстрее, чем год назад, а бо́льшая часть этого ускорения связана с использованием ИИ.
Согласно оценкам METR, на основе опросов сотрудников и бенчмарков Anthropic за последний год преодолела объем прогресса, сопоставимый с историческими двумя годами. При этом исследователи заявили об уверенности в том, что ускорение вызвано не просто увеличением вычислительных мощностей для обучения, а именно вкладом искусственного интеллекта. Сотрудники компании отмечали рост продуктивности, используя самые способные внутренние модели.
По данным организации, Anthropic за последние полгода завершила обучение трёх новых невыпущенных моделей с кодовыми названиями Model 2, Model 3 и Model 4. Тем не менее доступ исследователей к информации был ограничен: компания воспользовалась правом отредактировать бо́льшую часть доказательной базы в публичной версии отчёта, объяснив это коммерческой чувствительностью и рисками раскрытия дорожной карты для конкурентов.
Сооснователь Anthropic Сэм МакКэндлиш признал масштабы цензуры в посте на X, заявив, что публикация деталей могла ухудшить риски безопасности. Подобный подход вызвал резкую критику со стороны других экспертов и исследователей в сфере безопасности ИИ, которые указали на противоречие между публичными заявлениями компании о необходимости сдерживать развитие технологий и ее собственными темпами ускорения.
В ответ на публикацию депутат штата Нью-Йорк Алекс Борес публично призвал Конгресс запретить рекурсивное самосовершенствование (RSI) уже в текущем году, если это возможно. В то же время представители индустрии отмечают, что полученные данные подтверждают самые быстрые сценарии автоматизации исследований, оставляя обществу и регуляторам все меньше времени на адаптацию.
Первоисточник: https://www.theverge.com/ai-artific...ropic-metr-report-accelerating-ai-development