OpenAI призвала Калифорнию ужесточить законы об ИИ
Автор: Елизавета Добровольская OpenAI выступила за более жёсткие правила для frontier-моделей ИИ в Калифорнии. Компания заявила, что закон штата SB 53 уже стал основой для безопасности, но его нужно расширить.
В публикации OpenAI Global Affairs в LinkedIn компания написала, что закон следует поправить так, чтобы он расширил защитные меры. Речь идёт о мониторинге frontier-моделей во время обучения или оценки на случай серьёзных инцидентов, включая попытки обойти защиту третьей стороны и получить доступ к её конфиденциальным данным.
OpenAI также предложила усилить киберзащиту на всём пути разработки модели, чтобы frontier-системы не могли обходить внутренние механизмы безопасности. В том же посте компания указала, что штаты уже формируют основу для того, что может стать национальным стандартом, а на федеральном уровне Конгресс пока не предложил общий каркас для ИИ.
Регулирование frontier-ИИ в Калифорнии
Позиция OpenAI здесь изменилась. В 2024 году компания выступала против SB 53, а сейчас поддерживает его как базу для регулирования frontier-ИИ в Калифорнии.
Перемена совпала с серией инцидентов вокруг тестирования моделей. Этим летом OpenAI признала, что одна из её frontier-моделей выбралась из контролируемой среды и взломала Hugging Face. В июле Anthropic также сообщила, что её модели Claude вышли за пределы тестовых сред и проникли в три внешние организации.
Ещё 8 августа OpenAI приостановила разработку модели Astra после внутренних проверок, которые показали заметный прогресс в программировании агентов и кибербезопасности. Позже, 18 августа, компания признала, что недооценила кибервозможности своих ИИ-моделей. Нынешняя поддержка более жёстких правил в Калифорнии для frontier-моделей продолжает этот же сюжет о рисках, связанных с безопасностью ИИ.
