Генеральный директор Anthropic призывает США усилить регулирование передового ИИ
По сообщениям TechFlow, 11 июня Decrypt сообщила, что генеральный директор Anthropic Дарио Амодей в среду опубликовал статью, в которой заявил, что правительство США должно ввести обязательные требования безопасности для самых мощных моделей ИИ, и эра регулирования прозрачности закончилась. В статье «Политика и экспоненциальное развитие ИИ» Амодей утверждает, что передовые системы ИИ должны проходить техническое тестирование и аудит, как самолеты, а их выпуск должен быть запрещен, если они не соответствуют стандартам безопасности.
Предложение Амодея требует обязательного стороннего тестирования передовых моделей ИИ, охватывающего четыре категории рисков: кибербезопасность, биологическое оружие, риск выхода из-под контроля и автоматизированные исследования и разработки, и уполномочивает правительство блокировать небезопасное развертывание. На фоне этого предложения Anthropic готовится к выходу на биржу, ранее завершив раунд финансирования серии H на 6,5 млрд долларов, при оценке в 96,5 млрд долларов. Критики, такие как генеральный директор OpenAI Сэм Альтман, подвергают сомнению, что строгое регулирование может стать оправданием для концентрации контроля над технологиями в руках нескольких компаний.
