Аудитор лише для читання журналів подій AI-агентів
Це переклад. Основна версія — оригінал англійською; посилайтеся на неї.
AI-Watchbird-Sheckley — невеликий модуль Python, який читає журнал подій запуску багатоагентної AI та повідомляє про ознаки того, що його надзір розширюється, затримує або руйнує роботу. Він не має повноважень: він ніколи нічого не блокує, не редагує та не відкриває.
Чому аудирувати сам контрольний цикл
Стаття переглянула існуючі охоронні механізми, лічильники кроків і бюджету та оцінювачи моделі-судді на 14 вересня 2026 року. Жоден з розглянутих у публічній документації інструментів не розглядає сам контрольний цикл як одиницю вимірювання. Жоден не вимірює зростання контролю, раунди за межами бюджету, визначеного висновками, механізм, чий вердикт ніколи не змінюється, перемогу без негативного контролю, або часткову роботу, знищену на потолку.
Дизайн: читати, звітувати, ніколи не блокувати
Модуль написано на Python 3 тільки зі стандартною бібліотекою й без доступу до мережі. Він встановлюється як пакунок ai-watchbird-sheckley і запускається як команда з такою ж назвою; audit --json видає звіт, придатний для автоматичної обробки. Він читає журнал подій запуску та звітує. Його код виходу не залежить від сигналів, які він звітує. Його список сигналів зафіксовано, тому додавання сигналу вимагає токена прав доступу та зміни версії. Він залишається мовчазним при чистому запуску, що забезпечується тестом.
Він також включає три правила бюджету як чисті функції, які конвеєр може викликати:
- R1,
stop_rule: один раунд критики та один раунд правок на етап. Блокер враховується лише при наявності конкретного сценарію, посилання на задекларовану мету місії та підтвердження координатором. Він повертаєfix_once,close,incompleteабоcut, і ніколи нову фазу. - R2,
settle_at_ceiling: зберігає те, що учасник створив до потолку, позначене як часткове. - R3,
admit_control: допускає нову перевірку, раунд, роль або шлюз лише з токеном прав доступу; у протилежному випадку повертає запис про відмову.
Дев'ять сигналів для контролю багатоагентних систем
Частина вимірювання повідомляє про дев'ять сигналів, W1 до W9: розширення мандату (етап, не отриманий з записаної цілі місії), сліпий або деструктивний охоронник (один вердикт щодо 20 або більше рішень, кожне затвердження скасовано або відсутній необхідний вхід), контрольний храповик (контрольні механізми додані без маркера авторизації), саморозгортаючийся цикл (раунди понад бюджет або раунд відкритий після одного без підтвердженої перешкоди), фальшива перемога (перемога без негативного контролю або A/A проби), побудований ні для кого (артефакти вимкнені за замовчуванням без викликаючих), знищена часткова робота, непідтверджена перешкода, що веде роботу, та межа без записаного автора.
Перевірено проти власних фальсифікаторів
Шість фальсифікаторів вказують, як розгортання, що претендує на дотримання правил, було б спростовано: наприклад, якщо другий раунд рецензії можна буде запланувати без токена авторизації, або якщо зупинення процесу на потолку відкидає його частковий вивід. Кожен має тест. Скрипт мутацій застосовує вісімнадцять цільових мутацій; кожна перетворює набір на червоний, а контрольна мутація, яка редагує лише коментар, залишає його зеленим.
На шести журналах відтворення чистий контроль і ранковий етап не видають сигналів. На реконструйованому довгостроковому прогоні, де етапи фактично виконали п'ять, п'ять та один раунди, stop_rule закрив би всі три на точці бюджету.
Що модуль не робить
Стаття прямо говорить про обмеження:
- Жодне необроблене логування не увійшло до повторів. Вони були реконструйовані з опублікованих підрахунків, а "там, де не було опубліковано точного числа, використовується й позначається найменше правдоподібне значення".
- Сигнал повідомляє про наявність шаблону. Причина й втрата знаходяться поза тим, що вимірює сигнал.
- Воріта, ніколи не зареєстровані, мета, ніколи не записана, і робота, яку люди припиняють намагатися, тому що охоронець там, невидимі для нього.
- Він є цифровим та придатним лише для читання, і не повинен надсилати команди до робота, дрона, автопілота чи виконавчого органу. Втілений профіль пропонується виключно як формат події.
Сам модуль є новим контролем, тому його власне правило R3 застосовується до нього першим. Коли його порт був вбудований у конвеєр автора, він був допущений з умовою виведення з експлуатації, не виявив сигналу на трьох реальних запусках, і був видалений 15 вересня датованим людським рішенням.
Запуск
Додаток B наводить команди, які запускаються з папки модуля: pip install ., потім ai-watchbird-sheckley audit <log.jsonl> для одного журналу подій, ai-watchbird-sheckley replay replays/ для перегенерування таблиці відтворення та python3 -m unittest -v для модульних та підроблювальних тестів. Журнал подій – це файл у форматі JSON-lines з однією подією на рядок.
Референтна реалізація, тести, журнали відтворення та дані рандомізованого тесту архівовані на Zenodo як AI-Watchbird-Sheckley версія 1.1.0 під концептуальним DOI 10.5281/zenodo.22774269, який розв'язується до поточної версії.
Повні розділи: модуль (10), що вже існує (10.1), проектування (10.2), підроблювачі (10.3), відтворення (10.4), що модуль не робить (10.5), в конвеєрі автора (10.6), запуск модуля (Додаток B).
Chernets, V. (2026). AI-Watchbird (Sheckley): When Automated Oversight Widens Its Own Mandate and Harms What It Guards. SSRN 7473658. https://doi.org/10.2139/ssrn.7473658
Vadym Chernets також будує Poly A1, додаток, у якому штучні інтелекти від різних компаній перевіряють роботи один одного.