Дослідження
Це переклад. Основна версія — оригінал англійською; посилайтеся на неї.
Як моделі ШІ перевіряють одна одну, коли автоматизований нагляд допомагає, а коли заважає, й що змінюється, коли люди передають роботу ШІ-агентам замість спілкування з ними. Статті Вадима Чернеця, незалежного дослідника, що будує багатоагентні системи ШІ, з короткими нотатками, кожна з яких розглядає одне питання. Усі матеріали тут можна читати повністю безкоштовно, і кожна стаття має версію PDF.
Останнє
Після розділу програмістів: одна міра для людей, які будують через ШІ-агентів
Міра замість назви посади для людей, які будують через ШІ-агентів: перевірений горизонт делегування, коефіцієнт посилення та 41 прогноз, зареєстрований на OSF та оцінюваний щорічно до 2031 року.
-
Чому критики багатоагентної системи постійно рецензують замість випуску
Коли запропоновано обидва варіанти в одному реченні, ШІ-критики просили додати контроль 68 разів та видалити один раз. Що це означає для циклів рецензування та бюджетів токенів.
-
Коли захисні механізми блокують захисника, а атакуючий їх не мав
У липні 2026 року захисні механізми хостованої моделі запретили аналіз журналів при реагуванні на інциденти. Атакуючи агенти діяли в системі, де цей клас захисту видалено за дизайном.
Статті
-
Після розділу програмістів: одна міра для людей, які будують через ШІ-агентів
Міра замість назви посади для людей, які будують через ШІ-агентів: перевірений горизонт делегування, коефіцієнт посилення та 41 прогноз, зареєстрований на OSF та оцінюваний щорічно до 2031 року.
-
Театр верифікації: виміряні режими відмов панелей верифікаторів ШІ
Коли узгодженість серед верифікаторів ШІ перестає означати правильність: чотири виміряні режими відмов панелей верифікаторів на основі передзареєстрованої сліпої колекції з шістнадцяти моделей.
-
Слабо дискримінативна, не виправлена впровадженням профілю та маніпульована: самовпевненість в оцінюванні LLM
Чи можна довіряти власній заявленій впевненості LLM при оцінюванні? Передзареєстрований тест на шістнадцяти моделях: слабо дискримінативний, не виправлений впровадженням профілю та маніпульований.
-
Захисти, що додають захисти: автоматизований нагляд у багатоагентному ШІ
Цикли нагляду додають захисти й не припиняють їх. Польовий запис з багатоагентного ШІ, публічні інциденти та 144-кратний рандомізований тест, що визначає вартість кожного засобу.
-
Після чату: три переходи між непрограмістами та агентним ШІ
Чому так мало непрограмістів перейшло з чату на ШІ-агентів, чотирирівнева модель переходу та передзареєстрована програма, що його вимірює.
-
AI-Watchbird (Sheckley): коли автоматизований нагляд розширює власний мандат та шкодить тому, що він захищає
Коли ШІ-охоронці переходять межі: захисні механізми та критики, що розширюють те, що вважається шкодою, блокують роботу, яку вони захищають, й отримують відповідь з більшою кількістю захистів.
-
Узгодженість не є незалежним доказом: аудиторний багатомодельний синтез без API
Чому десять погоджуючихся ШІ-чатботів можуть мати цінність двох незалежних думок та як безплатно об'єднати їхні відповіді, що показує, хто що сказав і де вони не погоджуються.
-
Що означає 7 завантажень? Сліпота щодо метрик і холодний старт наукової уваги після закриття рейтингів SSRN
Ваша стаття має 7 завантажень. Це нормально? Порівняйте її зі статтями тієї ж галузі та часу, тому що середній показник платформи не характеризує жодну окрему статтю.
-
Архітектурна довіра: Чому в агентній комерції довіра споживачів переходить від моделей ШІ до перевіреної архітектури
Коли агент ШІ купує за вас, довіра повинна спиратися на перевірки, які ви можете виконати, наприклад коли незалежні моделі ШІ узгоджуються одна з одною, а не на те, наскільки впевнено звучить одна модель.
-
Відсутня змінна у судових справах, допоміжних ШІ: архітектура та якість доступу до правосуддя при самопредставництві
Чи має значення те, як людина без адвоката використовує ШІ в суді? Дослідження федерального судового процесу: один чатбот проти кількох моделей, які перевіряють одна одну перед поданням.
Замітки
Короткі матеріали, кожен присвячений одному питанню, кожен пов'язаний з повною статтею, з якої він взятий.
-
Чому багатоагентні критики продовжують переглядати замість випуску
Коли обидва варіанти запропоновано в одному реченні, критики ШІ просили додати контроль 68 разів і видалити один раз. Що це означає для циклів перевірки та бюджетів токенів.
-
Коли охоронні механізми блокують захисника, а атакуючий їх не мав
У липні 2026 року охоронні механізми хостованих моделей відмовилися від аналізу журналів фахівців реагування на інциденти. Атакуючі агенти діяли з цим класом охорони, навмисне видаленим.
-
"У нас є охорона" — це не гарантія безпеки
Перелік охоронних механізмів показує, що система захищена, але не гарантує, що охорона залишиться обмеженою. Обмежена претензія, яку розгортувач може довести, та одинадцять запитань для перевірки.
-
Аудитор лише для читання для журналів подій ШІ-агентів
AI-Watchbird-Sheckley читає журнал подій багатоагентного запуску та звітує про дев'ять сигналів наглядання. Вона ніколи не блокує. Що вона вимірює, а що ні.
-
Один детектор зброї, два види помилок
Система виявлення зброї у школі пропустила пістолет під час стрілянини і кілька місяців потім визначила неозброєного учня. Що говорять публічні записи про помилки обох видів.
-
Що відкликання шкільного автобуса розповідає про віддалене наглядання
Два окремих записи про шкільні автобуси, відкликання 3,067 машин та «Ні» віддаленого агента в Austin — і що вони розповідають про місце, де мав бути людський контроль.
Інструменти
Інструменти з відкритим кодом, кожен пояснений простими словами, з кодом на GitHub. Усі інструменти
Запитайте кількох ШІ одночасно та побачте, де вони розходяться
Запитайте Claude Code, Codex, Gemini та Grok те саме питання одночасно, порівняйте їхні відповіді твердження за твердженням і побачте, на що варта угода. Безплатно, без ключів API.
Скільки ШІ коштує вашій компанії? Підрахуйте перш ніж купувати
Підрахуйте, скільки коштуватимуть Claude, ChatGPT, Gemini та Copilot вашій команді, порівняйте Claude Team з Enterprise та стежте за витратами Claude Code. Безплатно, з відкритим кодом.
ChatGPT та Claude разом на iPhone: один відповідає, інший перевіряє
Перевірте факти ChatGPT за допомогою Claude одним дотиком: безплатне скорочення на iPhone, де ChatGPT відповідає, а Claude перевіряє. Ваші власні безплатні облікові записи, без сервера, з відкритим кодом.
Claude Code для священиків, медсестер, учителів, художників та агентів з нерухомості: Безплатні набори
Безплатні набори Claude Code для священиків, медсестер, учителів, художників та агентів з нерухомості: вони вивчають ваші правила й перевіряють три рядки кожного результату за вашим паперовим варіантом.
Компанія не відповідає на вашу заявку про повернення? Дозвольте ІІ займатися подальшим контактом, поки справа не буде завершена
Компанія не відповідає на вашу заявку про повернення? Chasecall для Claude Code запам'ятовує завдання, складає кожне подальше повідомлення, рахує спроби й говорить, коли телефонувати. Безплатно.
Як зменшити витрати на ІІ: платіть моделі тільки за рішення, які їх потребують
Зменшіть витрати на ІІ при сортуванні квитків та затвердженнях: кеш, правила й локальна модель вирішують спочатку, платна модель або людина — лише решту. Безплатно, відкритий вихідний код.
Як вимірювати продуктивність ІІ за перевіреною роботою, не за токенами
Перетворіть журнал роботи, яку ви доручаєте ІІ-агентам, на один датований рядок для резюме або огляду: як великий обсяг роботи ви делегуєте й перевіряєте. Безплатно, відкритий вихідний код.
ІІ для судових документів: виявіть фальшиві цитування перед подачею
ІІ для позивачів без адвоката: ІІ від конкуруючих компаній складають вашу справу незалежно, один об'єднує, два перевіряють кожне цитування. Безплатно, відкритий вихідний код, ключ API не потрібен.
Чи можна довіряти відповідям ІІ? Запитайте другу ІІ від іншої компанії
Перш ніж діяти на основі відповіді ІІ, запитайте ІІ від іншої компанії. Duocall наводить обох там, де вони згідні, і називає кожну різницю. Безплатно, ключ API не потрібен.
Claude для вашої компанії: ваш власний плагін і однакові правила на кожному ноутбуку
Перетворіть часті завдання вашої команди у власний плагін Claude й впровадьте однакові правила на кожен ноутбук через Jamf, Intune або адмін-консоль. Відкритий вихідний код.
Зупиніть витік ІІ ключів API, номерів карток і файлів клієнтів
Безплатний плагін Claude Code, який зупиняє витік ключів API, номерів карток, IBAN, номерів ID і списків клієнтів через повідомлення ІІ, та визначає маршрут для кожного типу даних.
Ранковий звіт ІІ про ваш електронний лист: хто чекає на вашу відповідь
Безплатний плагін Claude Code, який читає вашу поштову скриньку в режимі читання й складає ранковий звіт: що важливо, хто чекає на вашу відповідь, Google Alerts, розсилки.
Запустіть Claude Code на ніч і прокиньтесь із звітом
Залиште Claude Code запущеним на ніч на одному завданні: він не дозволяє комп'ютеру заснути, перевіряє власну роботу, переключається на іншу ІІ при досягненні ліміту, й залишає ранковий звіт.
Керуйте Claude Code з вашого телефону й залишайте комп'ютер працювати
Залиште Claude Code запущеним вдома й користуйтеся телефоном. Перевіряє, чому віддалені сеанси мовчки виходять із ладу, показує всі завдання на одному екрані й дзвонить вам за необхідності.
Безплатний ринок плагінів Claude Code: 12 відкритих плагінів, додається однією командою
Безплатний ринок плагінів Claude Code з 12 відкритими плагінами: копіювання файлів, друга думка, робота на ніч, резюме поштової скрині, контроль вартості ІІ. Одна команда його додає.
Запитайте ChatGPT, Gemini, Grok і DeepSeek одне питання одночасно
Безплатний плагін Claude Code, який запитує кілька ІІ-чатів ваше питання у вашому власному Chrome й дає один звіт: де вони згодні, не згодні й хто що сказав.
Запустіть Claude Code на дешевшій моделі, не втрачаючи мобільне керування
Використовуйте DeepSeek, GLM, Kimi або локальну модель у Claude Code для рутинної роботи в його власному вікні та збережіть своє місце в Claude, дистанційне керування та помічника. Безплатний плагін.
Кнопка скасування для Claude Code: резервне копіювання файлів перед змінами ШІ
Безплатний плагін Claude Code для непрограмістів: він копіює файл перед змінами ШІ, повертає його за запитом та повідомляє, що було та не було перевірено.
Отримайте другу думку щодо відповіді Claude Code від Codex, Grok та інших ШІ
Безплатний плагін Claude Code, який ставить Codex, Antigravity, Grok або Kimi одне й те саме питання через ваші власні передплати та показує, де вони згідні та де різняться.
Чи гарна моя кількість завантажень SSRN? Безплатний еталон за віком статті та галуззю
Перевірте, чи нормальна ваша кількість завантажень SSRN. Безплатний інструмент, створений на основі 1 360 архівованих статей SSRN, з процентилями за віком статті та предметною галуззю.
Як залучити вашу команду до використання ШІ-агентів: 30-денний пілотний план
Залучіть колег від вікна чату ШІ до робочих агентів за 30 днів: пілотний план, 20-хвилинна перша сесія, щоденна карта в Telegram, звіт із цифрами.
Нові папери та нотатки за RSS.