Бюджет как способ контроля непослушных ИИ-агентов

Исследователи Прафул Чандра, Суджит Гуджар и Ганеш Гхалме из Индии опубликовали в августе 2026 года работу «Resourced Authority: A Mechanism-Design Model for Participatory Governance of Deployed AI Agents». Она посвящена не внутреннему устройству моделей, а внешнему контуру управления: кто и на каких основаниях решает, что конкретный ИИ-агент может продолжать работу и какой объём вычислительных ресурсов ему выделяется.

Авторы опираются на теорию механизмов дизайна — дисциплину, которая занимается аукционами, голосованиями и распределением бюджетов так, чтобы участники не могли выигрышно искажать свои предпочтения. В основе модели лежит концепция квадратичного финансирования (Quadratic Funding), разработанная экономистом Гленом Вейлом. Идея QF — компромисс между принципом «один человек — один голос», игнорирующим силу предпочтения, и голосованием деньгами, которое ведёт к плутократии.

В работе используются термины coupling map и breadth-weighted effective supports, но за ними стоит знакомая задача: распределить ограниченный ресурс между заинтересованными сторонами с противоречивыми интересами. Чандра, Гуджар и Гхалме переносят инструмент с человеческих выборов на бюджет вычислительных мощностей ИИ-агента. По их замыслу, решение о работе агента должно приниматься не разработчиком и не регулятором в одиночку, а через механизм, учитывающий интенсивность предпочтений участников.

Авторы разграничивают два контура управления ИИ. Внутренний связан с alignment: как обучить модель, чтобы она не выдавала ложь и не халтурила. Внешний — это распределение ресурсов между людьми. Даже идеально выровненная модель не решает вопроса, кто имеет право включить агента, на какой срок, за чей счёт и перед кем он отчитывается. Именно второй контур, по мнению исследователей, остаётся недооценённым.

В статье приводится исторический контекст: ещё Полибий и Платон описывали цикл деградации демократии в охлократию и тиранию, когда голос некомпетентного избирателя захватывается демагогами. Взвешивание голоса деньгами лишь смещает перекос в сторону богатых. QF предлагается как третий путь, а его применение к ИИ-агентам — попытка распространить этот компромисс на управление вычислительными ресурсами.

Практический пример, близкий к модели, — московская платформа «Активный гражданин», где миллионы верифицированных пользователей голосуют по городским решениям. Авторы не предлагают готового рецепта, но ставят вопрос, который звучал ещё на греческой агоре: кто и как решает судьбу того, что действует от имени всех, а последствия каждый ощущает по-своему.