из интересного в мире AI, ато давно не...

из интересного в мире AI, ато давно не писал. за релизом gpt-5 незаметно прошёл очень крутой релиз в мире RAG: новая embedding модель voyager-context-3.

ни много, ни мало - она в 200 раз эффективнее openai-v3-large, бинарный 512-компонентный вектор выдаёт качество такое же, как openai'ный дефолтный 3072-компонентный float.

отдельные чанки содержат в себе контекст всего документа, да и в целом хорошо держат контекст long-range dependencies по тексту. правда, splitting-методы явно теперь придется тюнить, т.к. на вход идут не чанки, а весь док.

но в целом - оптимизация БД в 200 раз и на 14% лучший retrieval - это прям ух