Nadzór człowieka i autonomia agentów: HITL, HOTL, HOOTL

To trzy punkty na spektrum tego, jak bardzo człowiek jest zaangażowany w działania agenta. Human-in-the-loop (HITL) znaczy, że człowiek zatwierdza każdą krytyczną akcję, zanim nastąpi, więc nic brzemiennego nie wykona się bez wyraźnego ludzkiego tak; daje maksymalną kontrolę kosztem przepustowości. Human-on-the-loop (HOTL) znaczy, że człowiek nadzoruje agenta w pracy i może interweniować lub go zatrzymać, ale nie akceptuje każdego pojedynczego kroku; pasuje do pracy średniego ryzyka, gdzie ciągła akceptacja byłaby niepraktyczna, lecz działanie bez nadzoru nierozsądne. Human-out-of-the-loop (HOOTL) znaczy, że agent działa w pełni autonomicznie, jedynie z przeglądem po fakcie, co maksymalizuje naraz przepustowość i ryzyko. Kluczowe jest to, że nie są one własnością całego systemu, lecz każdej akcji: dobrze zaprojektowany agent wykonuje różne akcje na różnych poziomach, autonomicznie szkicując odpowiedź, a do przelewu wymagając akceptacji. Traktuj te trzy jak pokrętło ustawiane per akcja, nie jeden wybór raz dla agenta.

Dopasuj autonomię do ryzyka i odwracalności każdej akcji, nie do agenta jako całości. Dwa pytania, które o tym przesądzają, to jak zły jest najgorszy skutek i czy da się go cofnąć: akcja nieodwracalna lub o dużym skutku — usunięcie danych, przelew, komunikacja na zewnątrz, cokolwiek, czego nie odkręcisz — powinna zostać w human-in-the-loop, niezależnie od tego, jak zdolny wydaje się agent. Akcje o niskiej stawce, odwracalne i dobrze ograniczone to kandydaci do większej autonomii, a i wtedy zarabiasz na ten ruch dowodami, nie deklaracją: evals pokazującymi niezawodność na zadaniu i monitoringiem, który złapałby regresję. Pomocny test to spytać, co dzieje się w najgorszy dzień agenta, nie przeciętny, i ustawić poziom tak, by najgorszy dzień był do przeżycia. Zacznij zachowawczo, podnoś autonomię akcja po akcji, gdy dane na to pozwalają, i trzymaj akcje nieodwracalne za bramką znacznie dłużej, niż wydaje się konieczne, bo to dokładnie tam pomyłka bez nadzoru staje się incydentem.

To wdrażanie autonomii etapami, tak by realne konsekwencje dochodziły dopiero po tym, jak poprzedni etap okazał się bezpieczny, zamiast przełączać agenta na pełną autonomię w dniu startu. Typowa progresja biegnie przez dry-run, gdzie agent proponuje działania, lecz nie wykonuje nic; read-only, gdzie dotyka realnych systemów, ale nie może ich zmieniać; symulację, gdzie działania idą na piaskownicę; staging, gdzie podejmuje ograniczone realne akcje pod intensywnym monitoringiem; i wreszcie produkcję, z autonomią zawężoną dokładnie do tego, co popierają dowody. Sens sekwencji jest taki, że każdy etap zarabia na następny: luzujesz kontrolę dopiero, gdy dane z evals i obserwowalności pokazują, że bieżący etap się sprawuje, więc podnosisz autonomię na dowodach, nie na optymizmie. Daje to też naturalny rollback — jeśli etap zawodzi, cofasz się o poziom, zamiast wyrywać agenta z produkcji. Stopniowy deployment to operacyjny odpowiednik pokrętła nadzoru: tak przesuwasz się po spektrum rozmyślnie, zamiast obstawiać pojedynczy start.

Dla systemów AI wysokiego ryzyka AI Act wymaga realnego nadzoru człowieka — środków pozwalających wyznaczonym osobom rozumieć system, monitorować jego działanie oraz interweniować lub go zatrzymać — a nacisk pada na słowo realny. Poprzeczka to faktyczny nadzór, nie pozorna możliwość: stwierdzenie, że człowiek teoretycznie mógłby zareagować, go nie spełnia, jeśli nie ma faktycznego, zaprojektowanego punktu kontroli, nikogo, czyim zadaniem jest patrzeć, ani praktycznego sposobu, by zatrzymać system na czas. W języku agentów przekłada się to na kontrole, które ta dyscyplina już opisuje: bramki akceptacji przy brzemiennych akcjach, osobę naprawdę zdolną nadzorować i zatrzymać agenta oraz działający wyłącznik bezpieczeństwa. Oczekuje też, byś wiedział i zapisał, która osoba lub zespół odpowiada za każdy system. Praktyczny ruch to odwzorować poziom autonomii każdego agenta na jego klasę ryzyka, postawić realny punkt kontroli człowieka tam, gdzie ryzyko tego wymaga, i prowadzić ślad audytowy pokazujący, że nadzór faktycznie się odbył. Traktuj wymóg prawny i inżynierską dobrą praktykę jako jedno, bo tu się zbiegają.