Бюджет как поводок: как механизм распределения ресурсов может обуздать ИИ-агентов

Индийские исследователи Прафул Чандра, Суджит Гуджар и Ганеш Гхалме из области теории игр и механизма дизайна опубликовали статью «Resourced Authority» — подход к управлению развернутыми ИИ-агентами. Суть: не пытаться контролировать агента моралью или правилами, а выдавать ему бюджет ресурсов на действия. Кто и как решает, сколько и на что агент может потратить, становится механизмом социального влияния.

Авторы используют термины вроде coupling map и breadth-weighted effective supports, но за ними — старая идея из практики распределения денег на общественные проекты, известная более века. А прообраз споров о таком подходе нашли еще в Афинах две с половиной тысячи лет назад. Работа сухая на вид, но отвечает на практический вопрос: кто конкретно решает, может ли этот агент продолжать действовать и какой объем ресурсов ему положен.