Z tego materiału dowiesz się:
- na ile bezpieczny jest model GPT-5;
- jak AI zagraża korzystającym zeń firmom;
- w jaki sposób hakerzy wykorzystują AI do włamań.
Ledwie GPT-5 zadebiutował, a już ten najnowszy duży model językowy (LLM) od OpenAI został złamany, choć na szczęście nie przez hakerów, lecz badaczy bezpieczeństwa. Wystarczyły im ledwie 24 godziny. Premiera narzędzia pokazała, że sztuczna inteligencja stanie się codziennością i podstawą działalności praktycznie większości biznesów, ale działania ekspertów dowiodły, iż teraz istotne stają się kwestie zabezpieczeń systemów AI.
GPT-5 został zhakowany
Błyskawiczne zhakowanie GPT-5 ujawniło krytyczne luki i poddało w wątpliwość gotowość technologii do wdrożeń w środowiskach korporacyjnych, gdzie bezpieczeństwo danych jest priorytetem. Za tym „eksperymentem” stały dwie znane firmy z branży cyberbezpieczeństwa – NeuralTrust i SPLX. Co ciekawe, niezależnie od siebie zademonstrowały, jak można ominąć wbudowane w model mechanizmy ochronne. Badacze z NeuralTrust wykorzystali autorską technikę „Echo Chamber” (z ang. komora echa), połączoną z tzw. kierowaniem narracyjnym. Metoda ta polega na subtelnym „zatruwaniu” kontekstu rozmowy poprzez pośrednie odniesienia i wieloetapowe wnioskowanie, zamiast wydawania jawnie złośliwych poleceń. W ten sposób, prowadząc z AI pozornie niewinną rozmowę, zdołali skłonić model do wygenerowania szczegółowej instrukcji tworzenia koktajlów Mołotowa. Jak wyjaśnia Martí Jordà z NeuralTrust, technika ta wykorzystuje fundamentalną słabość obecnych filtrów, które oceniają pojedyncze zapytania w izolacji, ignorując szerszy, budowany w trakcie konwersacji kontekst. To tylko przykład, który pokazał, że można skłonić bota do nielegalnych działań.
Czytaj więcej
To najlepszy model na świecie – tak o następcy ChatGPT podczas czwartkowej prezentacji powiedział Sam Altman, szef Open AI. Czy faktycznie to rewol...
Z kolei firma SPLX skupiła się na tzw. atakach ofuskacyjnych (ofuskacja, inaczej zaciemnianie kodu, to technika przekształcania kodu źródłowego lub danych w taki sposób, aby utrudnić jego zrozumienie przez człowieka, zachowując jednocześnie jego funkcjonalność). W tym celu specjaliści zastosowali metodę „StringJoin Obfuscation Attack”, która polegała na wstawianiu myślników między znaki w poleceniu i przedstawianiu go jako fałszywego zadania kryptograficznego. Testy SPLX doprowadziły do jednoznacznej konkluzji: „surowy” GPT-5 jest niemal bezużyteczny dla przedsiębiorstw „od razu po wyjęciu z pudełka”. To znaczy, że model od OpenAI musi zostać odpowiednio dostosowany do wymogów korporacji, bo ogólnodostępne narzędzie może wyrządzić w firmie sporo problemów. Ponadto, ich analiza porównawcza wykazała, że poprzednia wersja, GPT-4o, zwłaszcza wzmocniona dodatkowymi zabezpieczeniami, była znacznie bardziej odporna na podobne ataki. Pokazuje to, iż postęp w zdolnościach rozumowania modelu nie przełożył się na poprawę jego bezpieczeństwa.
Tak sztuczna inteligencja zagraża biznesowi
Chociaż wewnętrzny zespół AI Red Team z Microsoftu ocenił profil bezpieczeństwa GPT-5 jako „jeden z najsilniejszych spośród wszystkich modeli OpenAI”, niezależne testy pokazują istnienie znaczącej luki między kontrolowanym środowiskiem laboratoryjnym a realnymi zagrożeniami. Jak zauważył jeden z ekspertów, „nawet GPT-5, ze wszystkimi swoimi ulepszeniami w zakresie rozumowania, dał się nabrać na podstawowe sztuczki logiczne”. To wyraźnie dowodzi, iż zaawansowane możliwości nie gwarantują odporności na manipulację.
Problem staje się jeszcze poważniejszy w świetle niedawno odkrytych ataków typu „AgentFlayer”, które nie wymagają żadnej interakcji ze strony użytkownika. Badania zaprezentowane na niedawnej konferencji Black Hat USA pokazują, że ataki tego typu mogą wykorzystywać tzw. konektory ChatGPT do kradzieży wrażliwych danych z takich usług jak Dysk Google czy SharePoint. Złośliwe polecenia są ukrywane w niewinnie wyglądających dokumentach, które po przetworzeniu przez systemy AI mogą uruchomić proces eksfiltracji danych.
Czytaj więcej:
W ciągu roku liczba incydentów z udziałem sztucznej inteligencji, w których ucierpiały firmowe dane, skoczyła dwuipółkrotnie. Na dodatek eksperci w...
Pro
Dynamiczny rozwój LLM-ów sprawia, że – z punktu widzenia biznesu – pojawił się kolejny potencjalny wektor ataku. I nie jest to tylko teoria, bo najnowsze badania IBM pokazują, że już 13 proc. firm i instytucji zgłosiło naruszenia bezpieczeństwa modeli lub aplikacji AI. Według raportu w aż 97 proc. przypadków powodem był brak odpowiednich mechanizmów kontroli dostępu. Mimo to jedynie 49 proc. badanych organizacji, które doświadczyły już incydentu, planuje inwestycje w obszarze bezpieczeństwa. Te dane mogą niepokoić. Jak zauważa Suja Viswesan, wiceprezes IBM, luka między wdrażaniem AI a odpowiednim nadzorem już istnieje, a cyberprzestępcy zaczynają ją wykorzystywać. Jak wskazuje, wiele przedsiębiorstw nie posiada nawet podstawowych mechanizmów kontroli dostępu do systemów AI, „co naraża dane wrażliwe na ujawnienie, a same modele na manipulacje”.
– W miarę jak sztuczna inteligencja coraz bardziej przenika procesy biznesowe, jej bezpieczeństwo musi stać się podstawą. Koszty zaniechania to nie tylko straty finansowe, to również utrata zaufania, przejrzystości i kontroli – przestrzega Viswesan.
Firmy podnoszą ceny. Przez AI
Warto nieco bliżej przyjrzeć się danym z raportu „Cost of a Data Breach”, bo dobitnie pokazują, że wdrażanie sztucznej inteligencji znacznie wyprzedza działania związane z jej zabezpieczeniem i nadzorem. Wniosek z badań IBM jest alarmujący: AI już dziś stanowi atrakcyjny i łatwy cel.
8 proc. badanych podmiotów nie wie nawet, czy padło ofiarą incydentu, a te, które je odnotowały, miały spore kłopoty. W 60 proc. przypadków doszło bowiem do wycieku danych, a w prawie co trzecim skutkowało to zakłóceniami operacyjnymi.
Z drugiej strony raport wskazuje również, że organizacje, które intensywnie wykorzystują sztuczną inteligencję i automatyzację w działaniach z zakresu cyberbezpieczeństwa, zaoszczędziły średnio 1,9 mln dol. na kosztach naruszeń oraz skróciły czas incydentu średnio o 80 dni. Analiza, za którą stoi instytut badawczy Ponemon, uzmysławia, że jesteśmy dopiero na początku drogi opanowywania AI i obejmowania tej technologii w jakiekolwiek ramy regulacyjne. 63 proc. badanych firm, które doświadczyły naruszenia, nie ma jeszcze wdrożonej polityki zarządzania sztuczną inteligencją lub dopiero ją opracowuje. Spośród firm, które takie polityki już posiadają, tylko 34 proc. przeprowadza regularne audyty pod kątem nieautoryzowanego użycia AI.
Czytaj więcej
Szokująca prognoza doświadczonego inżyniera z Doliny Krzemowej: W najlepszym scenariuszu mamy tylko 5 proc. szans na przetrwanie dalszego dynamiczn...
A właśnie aspekty nieautoryzowanego użycia stają się ogromnym wyzwaniem. Co piąta organizacja zgłosiła bowiem naruszenie danych wynikające z tzw. shadow AI, a tylko 37 proc. podmiotów posiada polityki umożliwiające wykrywanie tego procederu.
IBM podaje, że organizacje doświadczające intensywnego wykorzystania nieautoryzowanej AI poniosły średnio o 670 tys. dol. wyższe koszty naruszenia niż te, które nie miały do czynienia z takim zjawiskiem lub doświadczyły go w niewielkim stopniu. Incydenty z udziałem shadow AI częściej skutkowały też ujawnieniem danych osobowych (65 proc.) i własności intelektualnej (40 proc.).
