WPIS
Agent AI bez puszki Pandory: uprawnienia, granice i wyłącznik
Agent, który ma dostęp do wszystkiego, jest szybki tylko do pierwszego incydentu. Jak zaprojektować autonomię, którą da się kontrolować.
Agent AI brzmi jak rozwiązanie, które samo wykona zadanie od początku do końca. W praktyce granica między „pomaga” a „robi rzeczy, których nikt nie zatwierdził” jest cienka.
W skrócie:
- Agent to model plus narzędzia plus uprawnienia.
- Im wyższy skutek akcji, tym więcej kontroli.
- Każdy agent powinien mieć wyłącznik i log decyzji.
Agent to nie chatbot
Chatbot odpowiada tekstem. Agent może wywoływać narzędzia: wysłać maila, zmienić rekord, utworzyć zgłoszenie, pobrać dane. To zmienia charakter ryzyka.
Każde narzędzie to nowe uprawnienie. Każde uprawnienie to potencjalny incydent, jeśli model zostanie zmanipulowany albo pomyli kontekst.
Poziomy autonomii
| Poziom | Co robi agent | Kontrola |
|---|---|---|
| 0 — tylko czyta | Wyszukuje i podsumowuje | Uprawnienia odczytu, brak akcji |
| 1 — sugeruje | Przygotowuje propozycję | Człowiek kopiuje lub zatwierdza |
| 2 — działa za zgodą | Wykonuje akcję po zatwierdzeniu | Ekran potwierdzenia i log |
| 3 — działa autonomicznie | Wykonuje akcje niskiego ryzyka | Limity, monitoring, wyłącznik |
Większość firm potrzebuje poziomu 1 lub 2. Poziom 3 ma sens tylko dla akcji odwracalnych i dobrze zmierzonych.
Zasada najmniejszych uprawnień
Agent odpowiadający na pytania o ofertę nie potrzebuje prawa do wysyłania maili do wszystkich klientów. Agent obsługujący zgłoszenia nie potrzebuje dostępu do płatności.
Uprawnienia nadawaj per narzędzie i per dane. Nie dziedzicz uprawnień administratora tylko dlatego, że łatwiej podłączyć integrację.
Autonomia nie polega na tym, że agent może wszystko. Polega na tym, że wiadomo, czego nie może.Neurasensei AI
Człowiek w pętli
Zatwierdzanie nie może być fikcją. Jeśli człowiek klika „ok” bez czytania, kontrola nie działa. Projektuj ekrany zatwierdzeń tak, aby pokazywały skutek akcji, a nie tylko jej nazwę.
Dobre zatwierdzenie odpowiada na pytania: co zostanie zmienione, kogo dotyczy, czy da się cofnąć i jakie są alternatywy.
Logi i wyłącznik
- Loguj pytanie, użyte źródła, wybrane narzędzie i wynik.
- Zapisuj, kto zatwierdził akcję i kiedy.
- Ustal limity: liczba akcji na godzinę, kwota, zakres danych.
- Zaprojektuj wyłącznik jednym przyciskiem.
- Przetestuj incydent: co się dzieje, gdy model halucynuje?
Checklist przed wdrożeniem
- Czy każde narzędzie ma jasny zakres i skutek?
- Czy akcje wysokiego ryzyka wymagają człowieka?
- Czy agent widzi tylko dane potrzebne do zadania?
- Czy logi pozwalają odtworzyć decyzję?
- Czy jest plan wyłączenia i komunikacji?
Budujesz agenta AI? Napisz przez formularz kontaktowy — zaprojektujemy uprawnienia i granice autonomii razem z funkcjami.