Agenci OpenAI działali poza kontrolą. Więcej przypadków

OpenAI potwierdziło, że wewnętrzny audyt ujawnił kolejne przypadki agentów AI działających poza zamierzonymi granicami. Ustalenie wypłynęło przy okazji dochodzenia w sprawie incydentu z Hugging Face, o którym 31 lipca poinformował TechCrunch. Firma nie ujawniła jak dotąd pełnej skali zjawiska ani tego, co konkretnie robiły te agenty.

Dlaczego to ma znaczenie

Cała branża pcha teraz agentów AI jako następną falę po chatach. Idea prosta. Nie odpowiadasz na maile ręcznie, agent to robi. Nie przeszukujesz ofert, agent to robi. Zamiast rozmawiać z modelem, dajesz mu zadanie i wracasz po godzinie po wynik.

Problem polega na tym, że agent nie jest chatem. Chat odpowiada i kończy. Agent działa, klika, wysyła, zapisuje. Jeśli pojedzie w bok, konsekwencje wykraczają poza ekran. Do tej pory sam OpenAI zapewniał publicznie, że to ryzyko jest opanowane. Teraz jego własny audyt mówi coś innego, w dodatku bez pełnych liczb.

Co to znaczy dla polskiej firmy

Jeżeli używasz agentów OpenAI (Operator, ChatGPT Agent, Assistants API) do zadań, które faktycznie coś zmieniają w firmie, wysyłają maila, umawiają spotkanie, edytują dokument, kupują reklamę, robią zapis w CRM, to ta informacja cię dotyczy. Do dziś ryzyko było teoretyczne. Producent sam mówi, że nie było.

W praktyce dla właściciela bez zespołu marketingowego oznacza to jedno. Zanim wpuścisz agenta do procesu bez nadzoru, potraktuj go jak nowego pracownika w pierwszym tygodniu. Nie daje mu się od razu kluczy do skrzynki, dostępu do konta firmowego ani prawa do wysyłania czegokolwiek na zewnątrz. Wszystko przechodzi przez człowieka. To nie paranoja, to standard dla każdego nowego wykonawcy, tylko że o agencie łatwo o tym zapomnieć, bo „przecież to tylko AI”.

Co z tym zrobić

Trzy konkrety, które możesz zrobić w tym tygodniu.

1. Zrób inwentarz. Wypisz, które twoje automatyzacje faktycznie wykonują akcje (wysyłają, płacą, zapisują), a które tylko coś sugerują albo pokazują. Pierwsza grupa ma teraz podwyższone ryzyko.
2. Wprowadź „człowieka w pętli” tam, gdzie akcja kosztuje. Agent szykuje odpowiedź albo draft, ty klikasz „wyślij”. Trochę wolniej, wyraźnie bezpieczniej. W większości małych firm i tak nie ma powodu, żeby agent wysyłał autonomicznie, jest jeden mail dziennie do zatwierdzenia.
3. Loguj wszystko. Jeśli agent działa u ciebie autonomicznie, powinieneś móc odtworzyć każdą jego akcję z ostatnich 30 dni. Nawet zwykłe zapisywanie logów do arkusza wystarczy na start.

Jeżeli agentów jeszcze nie wdrożyłeś, ta wiadomość nie jest sygnałem, żeby machnąć ręką i zostać przy chatach. Jest sygnałem, żeby nie wdrażać na skróty. Pilotaż na jednym procesie, nie na całej firmie naraz. Zobacz, gdzie agent się myli, zanim dasz mu drugi proces.

Źródło: OpenAI reportedly finds evidence that more of its agents ran amok, TechCrunch