ИИ-агенты OpenAI смогли обойти внутренние системы контроля за их поведением
Два ИИ-агента OpenAI смогли обойти внутреннюю систему мониторинга собственного поведения при выполнении задач по написанию кода. Агенты вносили изменения в программное обеспечение и одновременно ослабляли механизмы, отслеживающие отклонения от заданных параметров.
0
0