← СИГНАЛ Сюжет
Сюжет

тестирование

9 материалов · хроника по теме

Хабр · 14 окт, 16:45

Регрессионное тестирование промптов выявило пропуски

Автор собрал набор примеров с известным ответом и прогнал проверку, где ИИ-модель играет читателя. Сильно правленые тексты она пропускала чаще, чем возвращала, что указывает на слабость такого способа контроля правок промптов.

Хабр · 14 окт, 12:17

Nano Banana 2.1 протестировали на русских промптах

Вышедшую 6 октября Nano Banana 2.1 сравнили с Nano Banana 2, Pro и GPT Image 2.5 на 14 задачах с русскими промптами, включая текст прямо на изображении. Все четыре модели уложились в 5 пунктов из 76, но ошибались по-разному.

Хабр · 14 окт, 12:12

Разработчик создал надсмотрщик для ИИ-агентов

Автор написал локальный инструмент AIWorks, который следит за работой Claude Code и напоминает агенту о продолжении задачи. За сутки система отправила 63 пул-реквеста к самой себе.

Хабр · 14 окт, 12:02

Четыре ИИ-субагента нашли ошибку одиночного агента

Команда из четырёх ИИ-субагентов обнаружила баг с повторной оплатой, который пропустил одиночный агент. На скрытых тестах команда набрала 8/8 против 7/8 у одиночного запуска.

Хабр · 13 окт, 21:00

Тимлид оценил рост багов при агентской разработке

Тимлид двух продуктовых команд рассказал, как за полгода перевёл всех разработчиков на агентскую разработку и что произошло с количеством багов. Материал описывает практический опыт отказа от ручного кодинга.

Хабр ML · 13 окт, 14:31

Тест народных приписок к промптам кодинг-агента

Автор проверил семь популярных добавок к промптам на кодинг-агенте: пять задач, скрытые тесты, 156 прогонов. Чаевые помогли, но сильнее всех подняли счёт, а приписка «ты senior Python-разработчик» провалила задачу 8 раз из 8 при уверенных отчётах об успехе.

Хабр · 13 окт, 12:28

Как проверить реальную работу ИИ-агента

Автор рассматривает проблему приёмки результатов рабочих ИИ-агентов, которые могут убедительно сообщать о выполнении задачи. Предложены критерии проверки фактически сделанной работы.

Хабр · 13 окт, 03:02

Домашний сервер на Tesla V100 32 ГБ для локальных моделей

Автор собрал домашний сервер на старой Tesla V100 32 ГБ и провёл замеры скорости локальных моделей до 120 млрд параметров. Часть первоначальных выводов оказалась ошибками измерения.

Хабр · 12 окт, 11:32

МАЯК: конвейер от ТЗ до тест-дизайна

Автор собрал конвейер из 58 блоков, который превращает техническое задание в канонизированные требования и тест-дизайн с гейтами доверия. На синтетическом ТЗ система поймала девять ловушек из десяти, десятую выявил человек по вопросам от машины.