ElKornacio логотип
Подписаться
Опубликовано

дорого ли обходится поддержка ИИ-моделей?

Автор
Фотография поста

кажется, вертолётные бабки инвесторов стало рейзить сложнее, и ИИ-компании закручивают гайки.

1. я потыкал Claude 3.7 MAX в Cursor. я не заметил вообще никакой разницы, ну прям совершенно. может если бы я прям с ней чатился 5 часов, то контекст бы протухал меньше, но господибоже, это не то изменение за которую я готов платить такие деньги. у меня итак все rules в Cursor'е выстроены с учетом борьбы с протуханием контекста, и в этом плане MAX вообще не добавил пользы. в общем, не рекомендую никому, очень дорого, смысла мало.

2. продолжая тему "пиздец как дорого" - OpenAI решили, что неподъёмная цена за GPT-4.5, из-за которой я не знаю ни одного проекта, кто её бы интегрировал - это мало. сегодня они выкатили API-доступ к o1-pro - и это кек, $150 за 1M инупта, $600 - output. простите за клишированное сравнение, у моделей разный перформанс, но всё же - R1 стоит в 300 (!) раз дешевле. жесть.

возможно, сквозь такие прайсы можно рассмотреть реальную стоимость инференса с амортизацией трейнинга, без субсидирования венчурным кешем.

хочется верить, что 2025 будет годом не только сочных рекордов в бенчах, но и сочных рекордов в удешевлении.

11113 подписчиков
369 постов

Свежие посты