Манифест Цукерберга об открытом исходном коде ИИ: дистилляция законна, монополия — наибольший риск

Автор: Сяо Бин

10 августа Цукерберг опубликовал на официальном сайте Meta длинную статью объемом 6500 слов под названием《The Future is for Everyone》 («Будущее принадлежит каждому»). В тот же день Meta открыла исходный код Muse Glimmer, модели агентного ИИ с 30 миллиардами параметров, использующей лицензию Apache 2.0.

Интерпретация FT такова: Цукерберг одновременно атакует конкурентов с закрытым исходным кодом и вновь поднимает знамя открытого исходного кода.

Весь текст манифеста не называет ни одну компанию по имени, но каждый раздел указывает на цель. OpenAI, Anthropic и Google — это те лаборатории в тексте, которые «создают ИИ для предприятий и правительств», Цукерберг поднял знамя открытого исходного кода: если сверхинтеллект в конечном итоге окажется под контролем нескольких организаций, проиграет все человечество.

Три принципа, одна основная линия

Каркас манифеста поддерживается тремя принципами.

Расширение возможностей индивида — источник процветания. Цукерберг использовал мысленный эксперимент: если только один человек в мире обладает сверхинтеллектуальным юристом, этот человек всегда выигрывает судебные процессы, даже если он не прав. Но если такой юрист есть у каждого, правосудие станет более справедливым. Он распространил ту же логику на кибербезопасность и бизнес-конкуренцию: когда все имеют доступ к равным возможностям ИИ, баланс нападения и защиты улучшится, и ядро конкуренции сместится от того, у кого есть доступ к хорошим инструментам, к тому, кто лучше исполняет.

Изобретение приоритетнее автоматизации. Он отверг нарратив «ИИ заменит человеческую работу», сославшись на то, что перед промышленной революцией 90% рабочей силы было занято в сельском хозяйстве, механизация сельского хозяйства не привела к массовой безработице, а породила совершенно новые отрасли. Он предсказывает, что ИИ создаст множество новых категорий профессий (студия продуктов одного человека, персональный биолог), размер компаний уменьшится, но количество компаний увеличится.

Баланс сил — основа безопасности. Это самый ключевой аргумент всего текста: безопасность сверхинтеллекта обеспечивается тем, что несколько лабораторий одновременно достигают передовых возможностей и взаимно сдерживают друг друга, а не тем, что одна компания реализует идеальное выравнивание и монополизирует технологию. Он прямо сказал: «Контроль сверхинтеллекта несколькими отдельными лицами, компаниями, правительствами или самим ИИ, естественно, приведет к результатам, неблагоприятным для всех остальных».

Три принципа ведут к одному выводу: чем более централизован ИИ, тем он опаснее, чем более распределен, тем безопаснее. Meta выбирает открытый исходный код, потому что открытый исходный код естественно служит распределению.

Скрытый клинок

По-настоящему острая часть манифеста скрыта в казалось бы мягких формулировках.

«Большинство других лабораторий сосредоточены на создании ИИ для предприятий, правительств или других организаций; если эти лаборатории возглавят отрасль, чаша весов власти склонится в сторону крупных организаций, а не отдельных лиц».

Имена не названы, но направление ясно: корпоративная стратегия API OpenAI, правительственные контракты Anthropic, закрытый контроль Google над Gemini. Цукерберг считает, что эти компании на словах говорят о безопасности, а на деле создают монополию.

Он написал, что некоторые пытаются описать дистилляцию как вредное действие, но защита принципа «вы можете учиться на всем, что можете наблюдать» имеет решающее значение. Эта фраза прямо указывает на практику OpenAI запрещать в коммерческих условиях использование выводов своей модели для обучения моделей конкурентов. Цукерберг определяет получение знаний как основное право, а блокировку дистилляции — как антиконкурентное поведение.

«Любая политика, задерживающая выпуск американских моделей, даже всего на один месяц, может создать значительные риски для лидерства США, одновременно позволяя иностранным моделям ускорить отрыв». Мишенью этой фразы являются сторонники регулирования ИИ внутри США. Логика Цукерберга такова: китайские модели с открытым исходным кодом не остановятся из-за того, что США ограничивают себя, связывание себе рук лишь отдаст трассу открытого исходного кода другим.

Где границы открытого исходного кода

В манифесте скрыт тонкий поворот.

Цукерберг всегда был самым громким сторонником открытого исходного кода для ИИ. Но в этой статье использована оговорка: «Мы верим, что преимущества сверхинтеллекта должны быть максимально широко разделены с миром. Тем не менее, сверхинтеллект вызовет новые проблемы безопасности. Нам нужно строго смягчать эти риски и проявлять осторожность в выборе того, что открывать».

Интерпретация TechCrunch такова: Цукерберг оставляет лазейку для будущего отказа от открытия самых мощных моделей. Серия Llama ранее полностью открывала веса, но если модели Meta действительно приблизятся к уровню сверхинтеллекта, полное открытие исходного кода может больше не быть опцией по умолчанию.

Предложенное им альтернативное решение управления таково: независимый совет директоров Meta получит право утверждать стандарты безопасности выпуска моделей и проверять соответствие каждого выпуска этим стандартам. Это проверяемое институциональное обязательство, если Meta публично опубликует стандарты безопасности и записи проверок. Пока есть только обещание, без деталей.

Режим полной конфиденциальности

Манифест описывает картину будущего: у каждого есть чрезвычайно мощный персональный агент ИИ, понимающий ваши цели, предпочтения и все, что вас беспокоит, работающий непрерывно 7x24 часа, доступный на любом устройстве, «включая ваши очки», это закладывает основу для умных очков Ray-Ban от Meta и AR-гарнитуры Orion.

Сопутствующее обязательство по конфиденциальности — самое смелое единое техническое заявление в тексте: режим полной конфиденциальности, в котором даже Meta не может просматривать или авторизовать доступ к вашей информации, прямая аналогия с сквозным шифрованием WhatsApp.

Компания, зарабатывающая на рекламе, обещает выпустить помощника ИИ, данные пользователей которого не может видеть даже она сама; если это действительно реализовано на архитектуре сквозного шифрования, это будет значительное техническое и бизнес-решение. Но манифест не предоставил никаких инженерных деталей, пока это только заявление о намерениях.

Фонд сообщества на 1 миллиард долларов и политика центров обработки данных

Новым содержанием является общественный договор (Community Compact). Meta обязуется инвестировать в каждое сообщество, где расположен центр обработки данных, включая создание фонда «Будущее принадлежит каждому» на 1 миллиард долларов, предоставление бесплатного технического обучения, достижение положительного вклада в водные ресурсы к 2030 году (восстановление превышает потребление).

Он привел пример прихода Ричленд в штате Луизиана: местные учителя получили премию в 50 000 долларов из-за роста налогов, вызванного близлежащим центром обработки данных Meta. Этот пример отвечает на настроения противодействия в различных частях США по поводу большого потребления воды и электроэнергии центрами обработки данных ИИ.

Для кого это написано?

Этот манифест одновременно обращается к трем аудиториям.

Для регуляторов: не ограничивайте открытый исходный код ИИ в США, ограничения только помогут Китаю; проблемы безопасности решаются через распределение и сдержки и противовесы, централизованный контроль наоборот опаснее.

Для сообщества разработчиков: Meta продолжит заниматься открытым исходным кодом, Muse Glimmer — тому доказательство; выбор экосистемы Meta означает, что вы не будете заперты в API одной компании.

Для конкурентов: путь с закрытым исходным кодом в конечном итоге приводит к монополии, Meta хочет превратить «кто более открыт» в новое измерение конкуренции, в этом измерении OpenAI и Anthropic изначально не имеют преимущества.

В X наиболее распространенный комментарий таков: это конкурентная стратегия, замаскированная под философский манифест.

Meta временно отстает от OpenAI и Anthropic в гонке возможностей передовых моделей, поэтому переносит трассу конкуренции с того, чья модель сильнее, на то, кто более открыт, на последней трассе у Meta есть врожденное преимущество.

Однако, судя по действиям, а не по намерениям, больше моделей с открытым исходным кодом выгодно для экосистемы разработчиков, это не станет недействительным из-за того, что мотивы Meta — бизнес-конкуренция.