ещё встречал в некоторых медиа прогнозы, что...

ещё встречал в некоторых медиа прогнозы, что "домашних ИИ" - моделей, которые работают локально на компьютерах пользователей станет больше. я думаю, их действительно станет незначительно больше, но какого-то революционного роста мы тут не увидим - к сожалению, 7-8 миллиардов параметров это всё ещё довольно тяжеловато (хотя вот R1-1.5B - это вот уже интересно, хоть она и пока весьма туповата).

думаю, главное, что стоит иметь в виду - сейчас огромное количество венчурных денег потечёт в компании, которые разрабатывают новые архитектуры моделей. кажется, что порвать бенчмарки новой архитектурой, а не просто увеличением параметров, это is the new black.

так что если вы ИИ-стартап, который сейчас рейзит, то нужно либо срочно адаптировать дек под то, как у вас все летит в космос при ещё большем удешевлении инференса, либо стараться предлагать многообещающие архитектурные эксперименты (хотя господи боже, если вы base-model AI-стартап, то вы и без меня всё знаете)