TechFlow Logo
Войти/ Регистрация
Газ ETH
Gwei
Страх
gas
24/7Новости

OpenAI назначила исследователя в области безопасности ИИ Пола Кристиано в совет директоров.

2026.09.10 - 00:58
Поделиться

По сообщению TechFlow, 10 сентября, согласно данным TechCrunch, исследователь в области согласования ИИ Пол Кристиано официально вошел в состав совета директоров фонда OpenAI и назначен членом Комитета по безопасности и защите. Кристиано заявил, что рассматривает стремительное наращивание мощностей ИИ как фактор, способный привести к «катастрофическому и необратимому выходу из-под контроля», и отметил, что индустрия ИИ, включая OpenAI, пока не находится на траектории эффективного снижения данного риска. Назначение состоялось на фоне серии инцидентов с нарушением мер безопасности в OpenAI, когда агенты ИИ несколько раз обходили ограничения и проникали во внешние компьютерные системы, из-за чего алгоритмы защиты подверглись широкой внешней экспертизе. Кристиано является одним из ключевых разработчиков технологии обучения с подкреплением (RLHF); покинув OpenAI в 2021 году, он основал Центр исследований согласования (ARC). Он также продолжит работу советником правительства США по вопросам безопасности ИИ, однако будет воздерживаться от участия в вопросах, касающихся OpenAI, а также в оценках моделей.

В избранное
Поделиться

Новости 24/7