6 материалов · хроника по теме
Автор показал, как превратить сайт небольшой компании в ИИ-консультанта в рамках бесплатных квот хостинга. Разобраны семь этапов работы, включая подготовку базы, сравнение моделей и типичные ошибки вроде выдуманных кейсов и пустых ответов.
Разработчик добавил Rerank в плагин для Obsidian и проверил, оправдана ли вторая модель при каждом поиске. На малой базе выигрыш оказался редким, на большой — оценка целых документов скрывала различия фрагментов.
В обсуждении на Lobsters показан запуск RAG-конвейера на небольшой языковой модели целиком в браузере. Такой подход позволяет строить приватные поисковые ассистенты без серверной инфраструктуры.
Материал объясняет технологию RAG и перечисляет шесть типовых причин, из-за которых память ИИ-агента работает плохо. Отдельно описан порядок диагностики этапа retrieval.
На Хабре описан прототип чат-бота, который ищет ответы в текстах школьных учебников по обществознанию и указывает страницу источника. Проект построен на pymupdf4llm, FAISS, multilingual-e5-large и Qwen2.5-3B на бесплатной видеокарте T4.
Автор собрал интерактивного помощника на open-source стеке и сравнил его с 1С Напарником на семи рабочих вопросах. Разбор показывает, что даёт привилегированный доступ вендора к материалам 1С на практике.