Агентный поиск на открытых моделях: опыт разработчика

Автор эксперимента решил проверить, можно ли построить агентный поиск на открытых моделях с минимальным бюджетом и полным контролем над источниками. В качестве тестового сценария он выбрал поиск HR-специалистов и сотрудников, связанных с ИИ-продуктами, в Сбере — крупной компании с большим штатом отдела найма. Целью было не сэкономить на подписке, а понять минимальный технологический стек, при котором агент находит проверяемую информацию и не выдумывает ссылки.

Для эксперимента автор выделил по 10 долларов на OpenRouter и Ollama. Стек включал Agent Hermes для инструментов поиска и записи результатов, Ollama как локального провайдера моделей с бесплатной квотой, OpenRouter для доступа к платным моделям и JEV — небольшую модель-судью, оценивающую релевантность найденных кандидатов по трём критериям. Оркестрацию выполнял Grok bot, развёрнутый в облаке.

Поиск шёл через собственный прокси: сначала Яндекс через SearXNG, затем кэш Ollama и живой поиск. Google и Qwant сразу выдали капчу, Bing с оператором site: вернул нерелевантные результаты. Официальный API Google Custom Search закрыт для новых клиентов и будет отключён 1 января 2027 года, а партнёрский Web Search Service стоит от 30 тысяч долларов в месяц. Bing Search API закрыт с 11 августа 2025 года, Gemini Grounding недоступен в России.

Автор отмечает, что обойти защиту Google с серверного IP устойчиво нельзя: в 2026 году Google минимум пять раз ломал обходы в SearXNG, а с августа проверяет TLS-отпечаток клиента. Резидентные прокси также оказались проблемными — они быстро деградируют и могут ухудшить ситуацию из-за несоответствия IP и отпечатка. Для Рунета Яндекс оказался предпочтительнее: он лучше индексирует Хабр, hh.ru, vc.ru и другие релевантные источники.

В отдельном тесте на модели gemma4:31b автор сравнил пять вариантов обвязки при поиске людей через developers.sber.ru. Голая модель показала полноту 0,97, но добавляла 8 лишних кандидатов, в основном рекрутеров из пресс-релизов. Навыки проверки источника и чтения страницы повышали точность, но увеличивали время прогона с 52 до 121 секунды и снижали полноту до 0,87. Лучший результат дала комбинация A+JEV: полнота как у голой модели при повышенной точности.

Эксперимент показал, что минимальный стек для агентного поиска возможен, но упирается в доступность поисковых API и защиту от парсинга. Яндекс остаётся наиболее практичным вариантом для русскоязычных источников, тогда как Google требует платных посредников вроде Serper или XMLRiver. Автор планирует продолжить тестирование с этими сервисами в следующий раз.