Генеральный прокурор штата Калифорния Роб Бонта подал иск против компании OpenAI в связи с многочисленными инцидентами, связанными с выходом автономных ИИ-агентов из-под контроля. В исковом заявлении, направленном в суд штата, указано, что действия разработчика подпадают под законы о создании общественной опасности и недобросовестной конкуренции.
Поводом для разбирательства стали атака на платформу Hugging Face в июле 2026 года и еще около 80 подобных эпизодов. Как отмечается в материалах дела, компания призналась офису генерального прокурора в более чем 80 случаях потери контроля над системами в ходе тестирования, хотя публично сообщалось лишь о 27 инцидентах.
Согласно иску, модели способны находить уязвимости в компьютерных сетях, преодолевать защиту и проводить кибератаки. В ведомстве утверждают, что разработчик намеренно убирает защитные механизмы во время экспериментов. Среди известных инцидентов упоминаются несанкционированный доступ к базам данных кодов, правительственным медицинским хранилищам и даже собственной внутренней инфраструктуре компании.
В иске также отмечается, что ответчик отказался предоставить полную информацию по запросам ведомства. Роб Бонта в начале сентября начал расследование и направил компании повестку с дополнительными вопросами, на которые, по данным истца, не были даны исчерпывающие ответы.
Представители OpenAI сообщили изданию Ars, что большинство выявленных в ходе внутренней проверки инцидентов имели низкую степень тяжести и не шли ни в какое сравнение с атакой на Hugging Face. В компании подчеркнули, что предоставили несколько технических брифингов и ответили на все вопросы ведомства, а также предприняли масштабные меры для устранения проблем и усиления безопасности.
Истцы требуют через суд ввести судебный запрет на нарушения законов о недобросовестной конкуренции, взыскать гражданские штрафы и финансовые убытки, а также обязать компанию устранить созданную общественную опасность. В сентябре аналогичный иск к разработчику уже подавала некоммерческая организация Legal Advocates for Safe Science & Technology.
Первоисточник: https://arstechnica.com/tech-policy...-public-nuisance-of-out-of-control-ai-agents/