Powszechność korzystania przez pracowników z narzędzi AI jest w obecnym czasie bezdyskusyjna. Wraz z rosnącą świadomością technologiczną, której sprzyja także wymiana pokoleniowa na rynku pracy, zwiększa się także chęć korzystania z narzędzi ułatwiających codzienną pracę. Dodatkową motywacją do poszukiwania ułatwień wśród dostępnych narzędzi informatycznych jest wszechobecna presja na produktywność i maksymalizację wydajności czasu spędzanego na wykonywaniu danego zadania oraz automatyzację procesów.

Wiele firm wprowadza i z powodzeniem stosuje narzędzia oparte na sztucznej inteligencji. Takie wdrożenie jednak nie zawsze przebiega w sposób bezbłędny. Nierzadko już na długo przed tym pracownicy korzystają z wybranych przez siebie narzędzi i często robią to nieświadomi zagrożeń z tym związanych. Takie zjawisko określa się jako Shadow IT – czyli korzystanie przez personel danej organizacji z narzędzi, które nie zostały przez tę organizację zatwierdzone. Zjawisko to niesie ze sobą szereg pozornie niegroźnych ryzyk dla organizacji. Często mamy do czynienia ze zjawiskiem Shadow IT przy korzystaniu z oprogramowania rozwiązującego bardzo podstawowe potrzeby, jak np. aplikacja do robienia notatek, obsługi e-mail, przesyłania dokumentów, „czyszczenia” pamięci komputera czy segregowania plików. Kwalifikowaną i obecnie najpopularniejszą formą Shadow IT jest Shadow AI, czyli korzystanie z nieautoryzowanych narzędzi informatycznych wykorzystujących tzw. sztuczną inteligencję lub pracujących na modelach na niej opartych. W praktyce Shadow AI to nowy wymiar ryzyka związanego z używaniem nieautoryzowanych narzędzi.

Takie działania niosą za sobą liczne ryzyka technologiczne. Skupimy się jednak na mniej oczywistych, a również występujących w takich sytuacjach – ryzykach prawnych.

Ryzyka prawne

Pracownik, wybierając oprogramowanie, które ma mu ułatwić wykonywanie danych czynności, kieruje się najczęściej funkcjonalnościami danego oprogramowania oraz jego dostępnością. Drugorzędne (lub w ogóle nie brane pod uwagę) okazują się cechy tego oprogramowania w zakresie szyfrowania danych czy sposobu i miejsca ich przechowywania. W ten sposób zwykłe oprogramowanie z rodzaju „notatnik”, wybrane przez pracownika z uwagi na miły dla oka interfejs oraz możliwość synchronizacji na wielu urządzeniach, może stać się źródłem poważnych zagrożeń. Przykładowo może się okazać, że dostawca tego narzędzia upublicznia wszelkie zapisane tam treści, które w skrajnych przypadkach będzie można przysłowiowo „wygooglować”. Idąc za innym przykładem – narzędzie do udostępniania dokumentów online wydaje się użytecznym wsparciem, które pozwoli ominąć limity rozmiaru załączników w wiadomościach e-mail. Program prosi o dostęp do folderu z dokumentami, które potem lądują w bazie danych twórcy programu. Użycie danego narzędzia wymaga logowania. Na szczęście można się zalogować za pomocą konta e-mail znanego dostawcy – przy czym czyniąc to, dochodzi do udostępnienia wszystkich dokumentów znajdujących się w folderze w chmurze u tego dostawcy. Liczba oświadczeń, które się składa w trakcie rejestracji, uniemożliwia pracownikowi racjonalne zapoznanie się z pełną treścią warunków, na które się zgadza, decydując się na korzystanie z danego narzędzia.

To tylko pojedyncze przykłady sytuacji, w których Shadow IT może doprowadzić do negatywnych skutków, szkodliwych w sposób nieproporcjonalny do ułatwień, które dane narzędzie miało przynieść.

RODO

W odniesieniu do powyższych przykładów należy rozważać w pierwszej kolejności ryzyka naruszeń przepisów rozporządzenia RODO. Wprowadzenie przez pracownika danych osobowych do nieautoryzowanego oprogramowania może stanowić niekontrolowaną czynność powierzenia danych osobowych, która jest dokonywana bez odpowiedniej umowy powierzenia (art. 28 ust. 3 RODO). Organizacja nie ma wiedzy o tym, z jakiego narzędzia oraz w jaki sposób pracownik korzysta. Nie ma więc żadnej kontroli nad prawidłowością przetwarzania danych osobowych, nie dochodzi do pozyskiwania zgód na ich przetwarzanie czy powierzanie. Nie są zachowane procedury obowiązujące w organizacji. Pracownik rozporządza danymi wprowadzanymi do nieautoryzowanego oprogramowania, działając niejako w imieniu pracodawcy, który za jego działania odpowiada. Pracodawcy za naruszenia pracowników w zakresie RODO grożą surowe kary finansowe, które mogą zostać nałożone przez prezesa UODO zgodnie z kompetencją przyznaną mu w art. 83 rozporządzenia RODO. Kary pieniężne mogą sięgać nawet równowartości 4 proc. rocznego obrotu za poprzedni rok obrotowy przedsiębiorstwa (maksymalnie do 20 mln euro). Ponadto organizacja będzie odpowiedzialna z tytułu szkody, która mogła powstać w wyniku naruszenia przepisów RODO (art. 82 ust. 1 RODO). Warto też mieć na uwadze, że może dojść w ten sposób do ujawnienia tajemnicy przedsiębiorstwa – nie tylko pracodawcy, ale także jego kontrahentów, co może stanowić czyn nieuczciwej konkurencji w rozumieniu art. 11 ust. 1 ustawy o zwalczaniu nieuczciwej konkurencji. W tym wypadku należy się liczyć w szczególności z odpowiedzialnością za wyrządzone tym czynem szkody (art. 18 ustawy o zwalczaniu nieuczciwej konkurencji), a także z odpowiedzialnością karną (art. 23 tej ustawy).

Prompt injection

Szczególne ryzyko w tym zakresie towarzyszy nieautoryzowanemu korzystaniu z generatywnych modeli językowych, czyli obecnie najpopularniejszego z perspektywy użytkownika – laika narzędzia wykorzystującego tzw. sztuczną inteligencję. Dane wprowadzane do takiego modelu językowego mogą być później wykradane między innymi poprzez tzw. prompt injection – czyli technikę cyberataku polegającą na zmuszeniu modelu opartego na sztucznej inteligencji, np. tzw. LLM, do wykonania określonych poleceń zamiast funkcjonowania zgodnie z własną instrukcją i wytycznymi programistów.

Ryzyka kontraktowe

W przypadku wycieku danych należy się także liczyć z ryzykiem kontraktowym, czyli wynikającym z zobowiązań, które firma zaciągnęła, zawierając umowy z kontrahentami. Takie umowy prawie zawsze, obok tzw. klauzul RODO, zawierają także postanowienia o obowiązku zachowania poufności. Niekiedy umowa o zachowaniu poufności (tzw. NDA) jest zawierana jeszcze przed zawarciem umowy głównej z kontrahentem. Powszechną praktyką jest zastrzeganie w NDA wysokich kar za każdorazowy przypadek naruszenia obowiązków w zakresie zachowania poufności informacji, co ma na celu zmotywowanie stron takiej umowy do jej rygorystycznego przestrzegania. W większości przypadków samo zastrzeżenie takiej kary jest skuteczne i nie dochodzi do sytuacji, w których okazuje się konieczne faktyczne zastosowanie tej kary. W razie jednak naruszenia tych postanowień może dojść do sytuacji, w której taka kara mogłaby zostać naliczona, czasami nawet wielokrotnie.

Prawo własności intelektualnej

Zupełnie odrębną, podlegającą szerokiej debacie problematyką jest kwestia praw własności intelektualnej do utworów, które zostały wytworzone w jakiejś części z wykorzystaniem narzędzi opartych na sztucznej inteligencji. Nie zgłębiając tego tematu, warto jednak zaznaczyć, że problem nabiera zupełnie nowych barw, kiedy kolejnym etapem jego rozwiązania okazuje się konieczność ustalenia, w jaki sposób doszło do powstania utworu i w jakiej części za to odpowiada człowiek. Pojawiają się wówczas pytania, czy w trakcie jego tworzenia doszło do naruszeń i czy do nich wciąż dochodzi. Nie ułatwia sprawy fakt, że proces jego wytworzenia pozostawał poza kontrolą i nikt nie ma pełnej wiedzy o tym, w jaki sposób do tego doszło. Z tego względu branża kreatywna mierzy się dziś z dodatkowymi, rozmaitymi wyzwaniami, które wykraczają poza same skutki faktu upowszechnienia narzędzi AI.

Ryzyka sektorowe

Nie sposób nie wspomnieć o ryzykach sektorowych branż regulowanych, takich jak np. branża telekomunikacyjna, która jest dodatkowo obwarowana reżimem dyrektywy NIS2 i wynikającymi z niej oraz z ustawy o Krajowym Systemie Cyberbezpieczeństwa wymogami w zakresie bezpieczeństwa cyfrowego. Brak kontroli nad przepływem danych wprowadzanych do oprogramowania, które nie zostało uprzednio autoryzowane przez organizację, prowadzi do dalszych naruszeń (incydentów) w związku z brakiem możliwości zapewnienia integralności, poufności i dostępności danych wprowadzanych do takich narzędzi.

Odpowiedzialność pracodawcy

Wskazane zagrożenia należy identyfikować z uwzględnieniem faktu, że jak wynika wprost z przepisów kodeksu pracy – to pracodawca, a więc organizacja ponosi odpowiedzialność za szkody wyrządzone przez pracownika osobom trzecim podczas wykonywania obowiązków służbowych. Pracodawcy oczywiście przysługuje roszczenie względem pracownika, który wyrządził mu szkodę, jednak sprawa nie jest w takim wypadku prosta ani oczywista. Przede wszystkim odpowiedzialność pracownika jest co do zasady ograniczona do wysokości jego trzymiesięcznego wynagrodzenia. Ponadto to na pracodawcy spoczywa obowiązek udowodnienia okoliczności uzasadniających odpowiedzialność pracownika. W przypadku jej spowodowania z użyciem nieznanych narzędzi, które niekoniecznie pozostawiają wystarczająco wyraźne ślady, może to być szczególnie utrudnione. Działania zmierzające do ustalenia sposobu spowodowania szkody mogą okazać się nieproporcjonalne do kwoty, która będzie możliwa do uzyskania w postępowaniu przeciwko takiemu pracownikowi. Jeśli pracodawca nie wdrożył w organizacji odpowiednich narzędzi i procedur w zakresie autoryzacji oprogramowania, to pozostaje również do rozważenia stopień przyczynienia się pracodawcy w ten sposób do powstania rzeczonej szkody.

Ponadto powyższe to nie wszystkie ryzyka związane z korzystaniem z nieautoryzowanego oprogramowania. Ich katalog na tym etapie, mając na uwadze niesamowite tempo rozwoju narzędzi wykorzystujących sztuczną inteligencję, należy uznać za szeroko otwarty.

Jak się zabezpieczyć?

Potrzeba sięgania przez pracowników po dostępne narzędzia informatyczne jest uzasadniona oraz stosunkowo łatwa do zaspokojenia z uwagi na szeroki wachlarz dostępności nieodpłatnych rozwiązań. Zadaniem firmy w tym obszarze jest właściwa identyfikacja potrzeb pracowników w zakresie korzystania z tych narzędzi, a także wybór i wdrożenie narzędzi adekwatnych do wykonywanych przez nich zadań. Niewątpliwie powinno się to odbywać w ramach wdrożenia systemowego, we współpracy z wykwalifikowanymi ekspertami. To zadanie może się okazać szczególnie trudne z uwagi na rozmaitość dostępnych rozwiązań, często oferowanych przez zagraniczne korporacje, co do których problemem może się okazać uzyskanie odpowiedniego poziomu wsparcia albo możliwość dostosowania danego rozwiązania do możliwości i potrzeb firmy (np. dostrojenie modelu językowego lub podłączenie go do wewnętrznej bazy danych). Niezbędny w takiej procedurze jest szczególnie dobór narzędzi z uwzględnieniem ryzyk prawnych, właściwe określenie zasad korzystania z takich narzędzi oraz przygotowanie i wdrożenie procedur reagowania na wypadek sytuacji awaryjnej. Warto zadbać także o właściwe informowanie personelu o ryzykach związanych z Shadow IT i Shadow AI oraz zasadach korzystania z narzędzi informatycznych. Dokumenty regulujące te zasady powinny być więc precyzyjne i wszechstronne, ale jednocześnie na tyle proste i jednoznaczne, aby nie pozostawiać pola do szerokich interpretacji. Ważne jest także, aby regularnie szkolić personel w zakresie korzystania z narzędzi informatycznych, szczególnie tych opartych na AI, monitorować wykorzystywanie tych narzędzi w organizacji oraz na bieżąco badać potrzeby personelu w tym zakresie.

Samo wdrożenie w firmie rozwiązań opartych na AI rodzi zobowiązanie, na gruncie art. 4 tzw. AI Act, do podejmowania środków w celu zapewnienia wśród personelu kompetencji w zakresie AI w sposób uwzględniający ich wiedzę techniczną, doświadczenie, wykształcenie, wyszkolenie oraz kontekst, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby, wobec których systemy AI mają być wykorzystywane.

Najlepszym sposobem na przeciwdziałanie zagrożeniom płynącym z Shadow IT czy Shadow AI – a więc z korzystania z nieautoryzowanych narzędzi informatycznych przez personel firmy – jest więc paradoksalnie ich wdrożenie bez zbędnej zwłoki. Takiemu wdrożeniu powinno towarzyszyć jednak solidne badanie potrzeb personelu, rzetelne szkolenie i wdrożenie właściwych regulacji wewnętrznych, a następnie stałe dbanie o prawidłowość korzystania z narzędzi przez pracowników oraz doskonalenie ich kompetencji. Mając na uwadze aktualną dostępność tych narzędzi, można w tym dostrzec szansę na optymalizację procesów wewnątrz firmy i zwiększenie produktywności personelu, z której warto skorzystać, zanim przerodzi się w realne zagrożenie.

autor: David Kukułka,  radca prawny, Kancelaria  Brightspot Legal Katarzyna Orzeł, Maciej Jojczyk sp.k.