Agenci AI działają szybciej, niż jesteś w stanie ich sprawdzić

TechCrunch opisuje problem, który firmy wdrażające agentów AI zaczęły zauważać na własnej skórze. Agenci wykonują zadania szybciej, dłużej i w większej liczbie równocześnie, niż człowiek jest w stanie zweryfikować. Odpowiedź, którą sprzedaje branża: kolejny agent AI, tym razem do pilnowania pierwszego.

Dlaczego to ma znaczenie

To sygnał, że rynek agentów AI wchodzi w fazę “co my właściwie zrobiliśmy”. Przez ostatni rok wszyscy pokazywali demo, w których agent sam odpisuje na maile, generuje oferty i zamawia u dostawców. Nikt nie mówił, kto to potem sprawdza. Teraz się okazuje, że nikt.

Producentów to nie zaskakuje. Sprzedawali skalę, dostają skalę. Problem w tym, że skala błędów jest taka sama jak skala akcji. Agent, który zamiast dziesięciu maili wyśle dziesięć tysięcy, wyśle też dziesięć tysięcy złych, jeśli coś pojedzie nie tak.

Odpowiedź “dołóżmy drugie AI do nadzoru” jest wygodna dla dostawców (dwie licencje zamiast jednej), ale nie odpowiada na pytanie właściciela firmy: gdzie w tym jest moja oszczędność. Jeśli agent robi robotę, ale muszę utrzymać drugi system, żeby go pilnować, i tak potrzebuję kogoś, kto ogląda logi tego drugiego systemu.

Co to znaczy dla polskiej firmy

W małej firmie usługowej B2B (kilka osób, poczta, oferty, faktury, dane klientów) ta wiadomość ma jeden konkretny efekt: nie autonomizuj rzeczy, które dotykają klienta. Nie oddawaj agentowi wysyłki maili, wystawiania faktur ani obietnic co do terminów.

Nie dlatego, że AI jest głupie. Dlatego, że nie masz kogo posadzić do sprawdzania, co ono robi. W dużej firmie ktoś złapie problem w ciągu dnia. U ciebie zobaczysz to za tydzień, jak klient napisze “co to za dziwny mail dostałem”.

Praktycznie: agent, który pisze draft odpowiedzi i pokazuje ci go przed wysyłką, to jest to, na co możesz sobie pozwolić. Agent, który sam wysyła, wystawia i obiecuje, to nie jest jeszcze produkt dla twojej wielkości firmy. Nie dlatego, że nie działa. Dlatego, że jak się popsuje, dowiesz się ostatni.

Co z tym zrobić

Trzy rzeczy w tym tygodniu:

1. Sprawdź, czy któreś z narzędzi AI, których używasz, wysyła coś w twoim imieniu bez twojego kliknięcia. Jeśli tak, wyłącz to. Włącz z powrotem, dopiero jak zdecydujesz, że logujesz każdą taką akcję.
2. Postaw zasadę: agent proponuje, człowiek zatwierdza. Dopóki nie masz kogo posadzić do przeglądu logów, to jest twój jedyny sensowny model.
3. Zignoruj oferty typu “AI, które pilnuje twojego AI”. W małej firmie to dodatkowy koszt bez dodatkowej wartości. Pilnujesz sam, dopóki nie urośniesz do rozmiaru, w którym to przestaje mieć sens.

Ten news nie zmienia twojego tygodnia. Zmienia to, jak patrzysz na kolejną prezentację “autonomicznego agenta”. Pytanie brzmi: kto to sprawdza. Jeśli odpowiedź to “drugi agent”, to znaczy, że nikt.

Źródło: TechCrunch AI