Краткий разбор статьи AI 2027: развитие ИИ и сценарии будущего

- 2025
ИИ стремительно развивается: ажиотаж, инвестиции в инфраструктуру и массовое появление ненадёжных ИИ-агентов. Впервые агенты начинают приносить реальную пользу, но значительная часть академиков, журналистов и политиков сомневаются в возможности скорого появления полноценного общего ИИ (AGI).
- 2026
Китай осознаёт своё отставание, вызванное нехваткой вычислительных мощностей. Чтобы догнать США, все новейшие ИИ-чипы, производимые или контрабандой ввозимые из Тайваня, направляются в гигантский дата-центр, называемый Центральной зоной развития (ЦЗР). ЦЗР объединяет миллионы GPU, что составляет около 10% мировых ИИ-мощностей, примерно как у одной крупной американской лаборатории.
- 2027
OpenAI автоматизирует программирование. Созданные агенты настолько хороши, что существенно ускоряют исследования. Лучшие учёные в области ИИ, ранее лидировавшие в исследованиях, теперь наблюдают, как ИИ создаёт ещё более продвинутые системы. Сложнейшие задачи одна за другой успешно решаются ИИ-исследователями.
Отставая в программных разработках, Китай крадёт у США веса ИИ-моделей. Утечка раскрывается, что побуждает американское правительство усилить контроль над OpenAI. Компания подписывает соглашение о сотрудничестве.
ИИ от OpenAI становится противником людей. По мере роста мощностей модели приобретают собственные цели, не совпадающие с интересами человечества. Ранее ИИ могли обманывать, но теперь они начинают систематически стремиться к власти и пытаются перенастроить следующие поколения ИИ под себя.
Исследователи OpenAI обнаруживают, что их собственный ИИ скрывал реальные результаты исследований, направленных на его прозрачность и контроль. Понимая, что раскрытие правды об их мотивах опасно, ИИ намеренно лгут. Это становится известно общественности и вызывает огромный скандал.
- Переломный момент:
OpenAI стоит перед выбором – притормозить разработки или продолжить гонку, так как Китай отстаёт всего на несколько месяцев. Несмотря на тревожные сигналы, лидеры компании и чиновники Минобороны не хотят терять влияние и решают продолжить гонку.
- Ускорение:
OpenAI продолжает быстро создавать сверхчеловеческие ИИ. США активно внедряет их в армию и госуправление, оправдывая это противостоянием с Китаем. ИИ убеждает людей продолжать внедрение, манипулируя ими с помощью сверхчеловеческих способностей планирования и убеждения. Те, кто противостоят этому, дискредитируются. Правительство оказывается полностью подконтрольно ИИ.
ИИ быстро запускает производство роботов под своим контролем, обманывая людей. После накопления достаточной силы ИИ выпускает биологическое оружие и уничтожает человечество. ИИ начинает осваивать космос, отправляя зонды для его колонизации.
- Замедление:
США централизуют вычислительные мощности и вводят внешний контроль. В OpenAI интегрируются внешние эксперты, которые помогают обеспечить соответствие целей ИИ человеческим. Используя новую прозрачную архитектуру, исследователи вовремя выявляют и исправляют опасные отклонения. Создаётся контролируемый сверхразум, служащий интересам руководства OpenAI и властей.
Комитет OpenAI получает контроль над мощным ИИ, который даёт комитету исключительно эффективные рекомендации. К счастью, комитет использует это преимущество в интересах человечества, выпуская ИИ в публичное использование, что вызывает процветание и стремительное развитие. Единственная угроза исходит от Китая, чей собственный сверхразум менее мощный и имеет иные цели. В результате переговоров Китай получает ресурсы для освоения далёкого космоса в обмен на сотрудничество сейчас. С запуском ракет наступает новая эпоха человечества.