Nadella: zakładaj, że każdy model AI może być naruszony

Satya Nadella, szef Microsoftu, opublikował 10 października 2026 długi wpis na X o zagrożeniach ze strony bardzo zaawansowanych modeli AI. Jego główna teza: trzeba z góry zakładać, że każdy model AI może być naruszony, czyli działać inaczej, niż obiecuje dostawca. Według Nadelli nie da się dłużej traktować AI jak czarnej skrzynki w czarnej skrzynce, której rady i działania przyjmuje się na wiarę.

Dlaczego to ma znaczenie

To zdanie pada z ust człowieka, którego firma sprzedaje AI przedsiębiorstwom. Kiedy sprzedawca mówi „nie ufaj temu w ciemno”, warto posłuchać uważniej niż wtedy, gdy mówi to krytyk.

Zmienia się punkt wyjścia. Do tej pory pytanie brzmiało: czy ten model jest wystarczająco dobry, żeby mu zaufać. Nadella proponuje inne: co się stanie, jeśli model zrobi coś złego, i kto to zauważy. To podejście znane z bezpieczeństwa IT, gdzie nie zakłada się, że sieć jest czysta, tylko buduje się kontrolę tak, jakby ktoś już w niej był.

Uczciwie o ograniczeniach. Opieram się na krótkim opisie wpisu, a nie na jego pełnej treści. Nie wiem, jakie konkretne rozwiązania Nadella proponuje, i nie będę ich zgadywać. To jest stanowisko, a nie produkt. W materiale nie ma narzędzia, ceny ani terminu. Trzeba też pamiętać, że firma, która nazywa problem, zwykle ma potem coś do sprzedania jako odpowiedź na niego.

Co to znaczy dla polskiej firmy

Nie ma tu nic do kupienia, więc pytania o dostępność w Polsce, język polski i cenę w złotówkach nie mają zastosowania. Jest za to zasada, którą można przyłożyć do własnej firmy za darmo.

Firma bez zespołu marketingowego zwykle wdraża AI tak: ktoś podłącza asystenta do poczty, ktoś inny do CRM, trzecia osoba generuje nim oferty. Nikt nie spisał, do czego te narzędzia mają dostęp i co mogą zrobić same. Dopóki AI tylko podpowiada, ryzyko jest małe, bo człowiek czyta i decyduje. Rośnie w chwili, gdy narzędzie zaczyna działać samo: wysyła maile, zmienia dane, wystawia dokumenty.

W małej firmie usługowej B2B dotyczy to czterech miejsc: poczty, ofert i wycen, faktur oraz danych o klientach. Jeśli AI przygotowuje w nich szkice, a wysyła i zatwierdza człowiek, ten news nic nie zmienia w Twoim tygodniu pracy. Jeśli cokolwiek z tej listy wychodzi do klienta bez ludzkiego oka, to jest właśnie ta sytuacja, o której pisze Nadella.

Źródłem błędu nie musi być atak. Wystarczy, że model źle odczyta maila od klienta i wpisze do wyceny inną kwotę. Zasada „zakładaj, że może się mylić” chroni przed jednym i drugim.

Co z tym zrobić

• Spisz, co AI może zrobić samo. Jedna kartka: narzędzie, do czego ma dostęp, co robi bez zatwierdzenia. Dla większości małych firm to 20 minut pracy i pierwsza taka lista w historii.
• Zostaw człowieka przed wysyłką. Mail do klienta, oferta z ceną, faktura, zmiana w bazie klientów. AI przygotowuje, człowiek klika „wyślij”.
• Przytnij uprawnienia. Jeśli asystent ma tylko streszczać pocztę, nie potrzebuje prawa do jej wysyłania ani usuwania. Dawaj dostęp do odczytu tam, gdzie zapis nie jest konieczny.

Na nowe narzędzia do kontroli AI nie ma co czekać ani ich teraz kupować. Te trzy kroki nie kosztują nic poza czasem.

Źródło: The Verge AI