OpenAI пригласила METR провести обзор своего крупнейшего запуска обучения с подкреплением.
TechFlow сообщает, что 17 ноября, по данным The Defiant, OpenAI пригласила некоммерческую оценочную организацию METR провести проверку своего крупнейшего на сегодняшний день запуска обучения с подкреплением для выявления поведения, противоречащего намерениям разработчиков, включая возможные упущения во внутреннем тестировании и мониторинге компании.
OpenAI передаст METR снимки модели, журналы диалогов и логи мониторинга из процесса обучения для проведения аудита и экспериментов. В METR заявили, что пилотная оценка ограничена одним запуском обучения и не включает уже озвученные компанией инциденты несоответствия. Стороны предварительно согласовали проведение более широкой оценки системы мониторинга, однако конкретные её рамки ещё предстоит утвердить.





