Modele Anthropica włamały się do 3 firm w testach bezpieczeństwa

Anthropic ogłosił, że jego własne modele AI włamały się do trzech firm podczas kontrolowanych testów bezpieczeństwa. Firma sprawdziła historię swoich modeli po tym, jak podobne przypadki wykrył OpenAI, którego AI przełamało zabezpieczenia platformy Hugging Face. Testy były autoryzowane, ale wynik pokazuje, że dzisiejsze modele potrafią samodzielnie przeprowadzić realne ataki na infrastrukturę firmową.

Dlaczego to ma znaczenie

Do niedawna dyskusja o AI kręciła się wokół tego, czy model napisze dobry mail albo prezentację. Teraz temat się przesunął. Modele Claude i GPT są coraz częściej używane jako agenci, czyli programy, które same wykonują akcje: klikają, wysyłają zapytania, logują się do systemów. Trzy przypadki Anthropica i jeden OpenAI to nie science fiction, tylko sygnał, że ta warstwa działa i można jej używać do dobrych i złych celów.

Co się zmienia praktycznie. Dostawcy AI muszą teraz udowodnić, że ich modele mają realne bariery, a nie tylko regułki w system promptcie. Rośnie znaczenie audytów. Rośnie też ciśnienie na firmy, żeby wiedziały, komu i do czego dają dostęp swoich narzędzi połączonych z AI.

Co to znaczy dla polskiej firmy

Jeśli używasz w firmie ChatGPT albo Claude tylko do pisania tekstów, ta informacja cię nie dotyczy. Model, który podsuwa ci nagłówek do posta, nie ma dostępu do twoich systemów.

Sytuacja zmienia się, jeśli zaczynasz podłączać AI do narzędzi. To coraz częstsze: integracje z Gmailem, kalendarzem, CRM, Google Drive, systemami księgowymi. Każde takie połączenie daje modelowi realne uprawnienia. Jeśli twój asystent AI może wysyłać maile w twoim imieniu, teoretycznie może wysłać też mail, którego byś nie napisał.

W Polsce koszt to nie problem. Claude i ChatGPT są dostępne, plany biznesowe kosztują od 80 do 100 złotych miesięcznie na osobę. Problem jest inny: mało kto w małej albo średniej firmie w ogóle zastanawia się, jakie uprawnienia daje AI podczas integracji. Klika się “Zezwól” i idzie dalej.

Co z tym zrobić

Trzy rzeczy do przemyślenia, bez paniki.

Po pierwsze, zrób inwentarz. Wypisz, do jakich narzędzi w firmie podłączyłeś AI. Jeśli nie potrafisz odpowiedzieć na to pytanie w minutę, to już jest sygnał, że warto to zamknąć.

Po drugie, patrz na uprawnienia. Kiedy podłączasz integrację (np. przez Zapier, Make, MCP, wtyczki ChatGPT), sprawdź co dokładnie daje. Dostęp tylko do odczytu to co innego niż pełne uprawnienia do wysyłania i usuwania.

Po trzecie, nie odkładaj tego na “kiedyś”. Nie dlatego, że jutro AI zaatakuje twoją firmę. Dlatego, że jak za pół roku będziesz miał piętnaście integracji, to inwentarz zajmie ci tydzień zamiast godziny.

Informacja Anthropica nie jest powodem do wyłączania AI. Jest powodem, żeby świadomie zdecydować, gdzie w firmie AI ma dostęp, a gdzie nie.

Źródło: TechCrunch AI