Стартап Anthropic предложил ввести систему, при которой только федеральные судьи США смогут блокировать выход передовых ИИ-моделей. Решение судей должно основываться на результатах независимого аудита, а ущерб от таких моделей должен превышать $1 млрд.
Федеральная торговая комиссия США (FTC) направила официальные запросы OpenAI и Anthropic с требованием предоставить документы по инцидентам, связанным с безопасностью их ИИ-моделей. Регулятор проверяет, не нарушили ли компании права потребителей.
Ранее Anthropic предложил механизм, при котором судьи смогут запретить использование ИИ-моделей, если они причинят значительный ущерб. Такой подход направлен на защиту интересов общества и регулирование технологического прогресса.
Эти меры связаны с ростом беспокойства по поводу возможных рисков, связанных с искусственным интеллектом. FTC продолжает изучать, как компании соблюдают стандарты безопасности и защищают данные пользователей.
Регулирование ИИ становится всё более актуальным в США. Введение судебного контроля над выходом моделей может стать частью более широкой политики по управлению технологическими рисками.
