Shadow AI – jak nieautoryzowane użycie AI zagraża danym osobowym

Najważniejsze wnioski z artykułu

Rozwój sztucznej inteligencji i jej wykorzystywanie w codziennej pracy systematycznie się zwiększają, jednak w praktyce nie zawsze idzie to w parze z odpowiednim rozpoznaniem i kontrolą tego obszaru przez organizacje. Do ujawniania informacji może dochodzić z dużą łatwością, np. przez prompty czy wklejenie tekstu (copy-paste). W konsekwencji w narzędziach AI znajduje się wiele danych osobowych lub innych informacji prawnie chronionych (np. tajemnic przedsiębiorstwa), które trafiły tam bez podstawy prawnej i bez możliwości zarządzania nimi lub ich usunięcia – i nad którymi organizacja utraciła kontrolę, choć w dalszym ciągu pozostaje za nie odpowiedzialna.

Kluczowe jest zatem, by organizacje identyfikowały obszary shadow AI i podejmowały działania zapobiegające utracie kontroli nad przetwarzanymi informacjami. Blokowanie dostępu do narzędzi wspieranych sztuczną inteligencją może nie być właściwym rozwiązaniem. W sytuacji gdy narzędzia AI realnie ułatwiają pracę pracownikom, pokusa dalszego korzystania z nich może być na tyle silna, że doprowadzi do prób obchodzenia zakazu. W efekcie korzystanie z AI będzie jeszcze bardziej ukrywane.

Punktem wyjścia do uporządkowania tego obszaru wydaje się identyfikacja narzędzi AI, po które sięgają pracownicy, oraz informacji, które mogą być do tych narzędzi wprowadzane. Znaczenie ma również kontekst, w jakim to następuje (np. zredagowanie tekstu, sprawdzenie dokumentu). Dzięki temu organizacja może podjąć proporcjonalne działania, by wychwycić zagrożenia, np. przez zablokowanie możliwości wgrania dokumentu zawierającego dane osobowe. Pozwala to także na stworzenie odpowiedniej procedury, wskazującej bezpieczniejsze rozwiązania alternatywne. Kluczowa jest tu spójna i egzekwowana polityka dopasowana do realiów organizacji.

W poniższym artykule przedstawiamy najważniejsze zalecenia europejskich organów nadzorczych dotyczące tego, jak ograniczać ryzyka związane z shadow AI i zabezpieczać organizację przed niekontrolowanym wykorzystaniem sztucznej inteligencji.

Shadow AI a RODO

Problem shadow AI jest realny i powszechny. Dostrzegają go też organy nadzorcze – zarówno Prezes UODO, jak i organy zagraniczne. Główny wniosek, jaki można wywieść z ich stanowisk, jest taki, że wprowadzane przez organizacje rozwiązania powinny bazować na zgodności z przepisami chroniącymi dane osobowe. Pracownicy muszą wiedzieć, z jakich narzędzi mogą korzystać, w jakim zakresie jest to dopuszczalne, jakie dane mogą do nich wprowadzać oraz jakie zagrożenia się z tym wiążą i jak im przeciwdziałać. Jeśli dojdzie do naruszenia – odpowiedzialność ponosi przede wszystkim administrator.

Zgodnie z art. 29 RODO podmiot przetwarzający oraz każda osoba działająca z upoważnienia administratora lub podmiotu przetwarzającego i mająca dostęp do danych osobowych przetwarzają je wyłącznie na polecenie administratora, chyba że wymaga tego prawo Unii lub prawo państwa członkowskiego.

Pracownik wprowadzający dane osobowe na własną rękę do nieautoryzowanego narzędzia AI działa poza poleceniem administratora, co może powodować konsekwencje zarówno dla niego – za działanie poza upoważnieniem, jak i dla pracodawcy – za brak skutecznych mechanizmów kontroli nad przetwarzaniem danych osobowych. Finalnie konsekwencje może też ponieść osoba, której dane zostały bezprawnie wprowadzone do narzędzia AI – w związku z utratą kontroli nad swoimi danymi i mogącym stąd wynikać poczuciem krzywdy.

Organizacja ma obowiązek wdrożenia odpowiednich środków technicznych i organizacyjnych zapewniających bezpieczne przetwarzanie danych i ochronę praw osób, których dane dotyczą. Jednym z ryzyk, które organizacja musi ograniczyć, jest właśnie ryzyko związane z niekontrolowanym korzystaniem z narzędzi AI.

Prezes UODO poświęca tematyce AI wiele uwagi i dostrzega związane z nią znaczące zagrożenia dla danych osobowych. Wszędzie tam, gdzie pojawiają się systemy oparte na sztucznej inteligencji, tematyka ochrony danych osobowych musi być więc brana pod uwagę. A tam, gdzie występują dane osobowe, zawsze aktualne pozostają obowiązki wynikające przede wszystkim z RODO.

Tematyka AI jest przedmiotem wzmożonego zainteresowania organów nadzorczych. Poniżej przedstawiamy wybrane stanowiska odnoszące się bezpośrednio lub pośrednio do problematyki shadow AI.

Zalecenia organów brytyjskich (ICO, NPSA, NCSC)

Sztuczna inteligencja to priorytetowy obszar zainteresowania brytyjskiego organu ochrony danych (ICO) z uwagi na mogące się z tym wiązać wysokie ryzyko dla osób, których dane dotyczą, oraz ich praw. ICO zwraca uwagę, że informacje osobowe napędzają wiele technologii AI, a ich stosowanie wymaga z tego powodu szczególnej ostrożności.

W jednym z opracowań poświęconych agentic AI (autonomicznym narzędziom AI działającym bez bezpośredniego nadzoru człowieka) ICO wskazał, że używanie takich narzędzi przez pracowników pozostaje problemem – osoby korzystające z narzędzi widzą bowiem zalety tych rozwiązań, lecz nie identyfikują ryzyk z nimi związanych. To prowadzi do naruszeń w obszarach wysokiego ryzyka. Nawet najbardziej rozwinięte systemy AI nie zdejmą z administratorów odpowiedzialności za zgodność z przepisami.

ICO odnosi się do problematyki shadow AI w kontekście agentic AI, wskazując jako przykład pracowników testujących w swojej codziennej pracy nowe zastosowania bardziej autonomicznych agentów, dzięki którym mogą szybko przetwarzać dane osobowe w różny, nieprzewidziany sposób. Działanie tych agentów w ukryciu lub w krótkich cyklach komplikuje kwestie nadzoru. Wyzwania stają się poważniejsze, jeśli agenci AI mają swobodny dostęp do różnorodnych danych osobowych przechowywanych przez organizację lub mogą korzystać ze źródeł zewnętrznych, wykraczających poza źródła danych i systemy kontrolowane przez organizację. ICO wskazuje, że te ryzyka mogą być ograniczone dzięki opracowaniu skutecznych struktur zarządzania i jasno zdefiniowanym parametrom dla pracowników korzystających z agentów. Oczywiście w proces powinien być włączany inspektor ochrony danych, ponieważ tematyka ta dotyczy danych osobowych.

Przez wspomniane struktury zarządzania i parametry należy rozumieć stosowne procedury oraz ustalone przez organizację granice i warunki korzystania z agentic AI przez pracowników. Choć ICO odnosi się tu do technologii agentic AI, za uprawnione należy uznać, że analogiczne wymogi dotyczą również innych rozwiązań sztucznej inteligencji. Sam ICO wskazuje bowiem w swoich publikacjach, że wiele obowiązków związanych z ochroną danych w kontekście korzystania z systemów agentowych nie różni się od obowiązków odnoszących się do innych aplikacji AI.

Warto przywołać również stanowisko National Protective Security Authority (NPSA) – brytyjskiego organu rządowego ds. bezpieczeństwa fizycznego i ochrony personelu:

„Tam, gdzie narzędzia AI działają dobrze, organizacje powinny być świadome potencjalnej utraty umiejętności i kompetencji wśród personelu do spraw bezpieczeństwa. Nadmierne poleganie na zaawansowanych narzędziach powinno stanowić ryzyko, które należy stale monitorować”.

Instytucja ta wskazuje również, że korzystanie z rozwiązań typu shadow AI stwarza dla organizacji ryzyko podobne do ryzyka związanego z korzystaniem z rozwiązań typu shadow IT.

Z kolei National Cyber Security Centre (NCSC) – krajowy organ ds. cyberzagrożeń i bezpieczeństwa informacji Wielkiej Brytanii – wskazuje:

„Co najważniejsze, zawsze należy podchodzić do osób, które zostały zmuszone do wdrożenia shadow IT, z pozytywnym nastawieniem i bez obwiniania. Jeśli obwiniasz lub karzesz pracowników, ich koledzy niechętnie powiedzą ci o swoich niedozwolonych praktykach, a ty będziesz miał jeszcze mniejszy wgląd w potencjalne zagrożenia”.

Zalecenia francuskiego organu nadzorczego (CNIL)

Francuski organ nadzorczy ds. ochrony danych osobowych (CNIL) w praktycznym przewodniku dotyczącym bezpieczeństwa danych osobowych z 2024 r. odniósł się do shadow IT, wskazując m.in., że występowanie tego zjawiska w organizacji może ujawniać istotne, niezaspokajane przez organizację potrzeby personelu lub strukturalne nieprawidłowości. Powodem sięgania po shadow IT jest nieuwzględnianie przez organizację rzeczywistych praktyk, oczekiwań i potrzeb użytkowników podczas definiowania zasad korzystania z zasobów IT.

Na zasadzie analogii tożsame wnioski można odnieść do shadow AI, tym bardziej że narzędzia oparte na sztucznej inteligencji również mieszczą się w kategorii produktów IT.

CNIL na swojej stronie internetowej podkreśla, że stosowanie sztucznej inteligencji wymaga przestrzegania określonych środków ostrożności. Systemy AI są podatne na niepowodzenia i ataki, a ich wpływ na jednostki i społeczeństwo może być nieoczekiwany. Dlatego tak ważne jest, by znać ryzyka, jakie się z tym wiążą. Za identyfikację tych zagrożeń i przeciwdziałanie im odpowiada oczywiście administrator danych.

Zalecenia niemieckich organów nadzorczych

Krajowy pełnomocnik ds. ochrony danych Dolnej Saksonii w sekcji FAQ dotyczącej sztucznej inteligencji odniósł się do powracającego pytania o zagrożenia związane z korzystaniem z chatbotów opartych na AI, polegające na tym, że pracownicy, którym zabroniono korzystania z nich na komputerach służbowych, sięgają po urządzenia prywatne do wykonywania zadań służbowych. W odpowiedzi na to pytanie organ wskazał (wszystkie dalsze tłumaczenia zostały wykonane automatycznie przy użyciu narzędzi translatorskich i mogą nie oddawać w pełni znaczenia oryginalnego tekstu):

„To nieautoryzowane korzystanie z systemów AI w kontekście zawodowym jest również rozumiane jako shadow AI. Ma to miejsce, gdy pracownicy korzystają z dostępnych w Internecie systemów AI, takich jak ChatGPT, Gemini lub Claude, bez ich integracji z infrastrukturą IT urzędu lub przedsiębiorstwa i bez uzyskania zgody na ich użytkowanie. Niesie to ze sobą przede wszystkim ryzyko naruszenia przepisów zarówno rozporządzenia w sprawie sztucznej inteligencji, jak i ogólnego rozporządzenia o ochronie danych. Ryzyko naruszenia przepisów różni się w zależności od poziomu ryzyka, do którego można zaklasyfikować sztuczną inteligencję działającą w tle. Zawsze istnieje ryzyko naruszenia obowiązku zapewnienia kompetencji w zakresie sztucznej inteligencji. Z punktu widzenia prawa o ochronie danych istnieje przede wszystkim ryzyko, że dane osobowe będą przetwarzane w sposób niekontrolowany i bez podstawy prawnej. Aby uniknąć takich naruszeń RODO, osoby odpowiedzialne nie powinny tolerować stosowania shadow AI. Wykorzystanie shadow AI można na przykład ująć w instrukcji służbowej i go zakazać. Ponadto organy i przedsiębiorstwa powinny świadomie decydować, które systemy AI mają być stosowane w organizacji i na jakich warunkach”.

Organ odniósł się także do tego, jakie wymogi dotyczące ochrony danych obowiązują przy stosowaniu systemów AI. Wskazał, że podczas korzystania z systemów AI należy:

• przestrzegać wszystkich przepisów RODO,
• w zależności od zakresu zastosowania – uwzględnić dodatkowe, szczegółowe przepisy dotyczące ochrony danych (np. federalną ustawę o ochronie danych oraz ustawę o ochronie danych w telekomunikacji i usługach cyfrowych), a w szczególności przestrzegać zasad ochrony danych (art. 5 RODO), w tym legalności, przetwarzania w dobrej wierze, przejrzystości, ograniczenia celu, minimalizacji danych i rzetelności,
• zapewnić realizację praw osób, których dane dotyczą (np. prawa do informacji, sprostowania, usunięcia danych, wniesienia sprzeciwu).

Organ przedstawił również katalog środków wymaganych przed wdrożeniem modeli językowych w pracy biurowej:

„Przed wdrożeniem modeli językowych o dużej skali w codziennej pracy biurowej należy zapewnić następujące środki techniczne i organizacyjne:

1. Przeprowadzenie oceny ryzyka zgodnie z rozporządzeniem w sprawie sztucznej inteligencji oraz wdrożenie wynikających z niej wymogów prawnych.
2. Jasne zdefiniowanie dopuszczalnych obszarów zastosowania, celów oraz konkretnych warunków użytkowania systemu sztucznej inteligencji.
3. Środki ochrony danych przy przetwarzaniu danych osobowych:

• upewnienie się, że stosowany model sztucznej inteligencji nie został wytrenowany w sposób niezgodny z prawem,
• sprawdzenie, czy istnieje odpowiednia podstawa prawna do przetwarzania danych osobowych,
• określenie i wdrożenie odpowiednich środków technicznych i organizacyjnych,
• zapewnienie zgodności z zasadami ochrony danych (np. minimalizacja danych, ograniczenie celu),
• zapewnienie możliwości realizacji praw osób, których dane dotyczą (np. prawa do informacji, prawa do usunięcia danych),
• sprawdzenie progu, od którego wymagane jest przeprowadzenie oceny skutków dla ochrony danych (DPIA), i jeśli to konieczne – przeprowadzenie DPIA.

4. W razie potrzeby – przeprowadzenie oceny skutków dla praw podstawowych.
5. Zapewnienie kompetencji pracowników w zakresie sztucznej inteligencji (np. przez szkolenia).
6. Opracowanie instrukcji służbowej lub instrukcji obsługi, która reguluje warunki i wytyczne dotyczące stosowania systemu sztucznej inteligencji”.

Hamburski pełnomocnik ds. ochrony danych i wolności informacji w liście kontrolnej dotyczącej stosowania chatbotów opartych na modelach LLM także zidentyfikował problem polegający na tym, że w wielu instytucjach modele językowe, takie jak ChatGPT, weszły już do codziennej pracy, choć często brakuje wiążących wytycznych dotyczących ich stosowania:

„Fakt, że modele językowe są zazwyczaj obsługiwane w chmurze, wiąże się z różnymi zagrożeniami dla ochrony danych. Z jednej strony zagrożona jest ochrona danych poufnych, ponieważ wiele firm korzysta z tego samego modelu LLM w chmurze, a wprowadzane dane są wykorzystywane do dalszego szkolenia modeli, co może prowadzić do przekazywania im tajemnic handlowych i danych osobowych. Z drugiej strony istnieje ryzyko niedozwolonego przetwarzania danych osobowych wskutek nieprawidłowych wyników, zwłaszcza w przypadku kategorii danych wymagających szczególnej ochrony”.

Organ opublikował checklistę mającą służyć przedsiębiorstwom i organom jako przewodnik po korzystaniu z chatbotów zgodnie z przepisami o ochronie danych. Składa się ona z następujących punktów:

1. Określenie zasad zgodności – jasne i udokumentowane wytyczne wewnętrzne określające, czy oraz na jakich warunkach można korzystać z poszczególnych narzędzi: „Kto nie określa wewnętrznych zasad dotyczących tego, czy i w jaki sposób generatywna sztuczna inteligencja może być wykorzystywana w codziennej pracy, może założyć, że pracownicy i inni członkowie organizacji będą korzystać z tych nowatorskich narzędzi na własną rękę i w sposób niekontrolowany. W pewnych okolicznościach odpowiedzialność za te działania ponosi pracodawca”.
2. Zaangażowanie inspektorów ochrony danych: „Zawsze angażuj swojego wewnętrznego inspektora ochrony danych, gdy tworzysz wewnętrzne wytyczne lub po raz pierwszy wdrażasz konkretne zastosowanie. W zależności od zastosowania należy w tym kontekście przeprowadzić ocenę skutków dla ochrony danych”.
3. Udostępnienie konta służbowego: „Należy udostępnić służbowe konta chatbotów. Pracownicy nie powinni samodzielnie zakładać kont z wykorzystaniem danych prywatnych, ponieważ w ten sposób profil zostałby powiązany z konkretnym pracownikiem. Jeśli korzystanie z chatbota w kontekście służbowym jest pożądane, należy udostępnić również konta służbowe. W miarę możliwości konta służbowe nie powinny zawierać nazwisk poszczególnych pracowników. Jeśli wymagany jest adres e-mail, zaleca się podanie adresu utworzonego specjalnie w tym celu. Czasami podczas rejestracji wymagany jest również numer telefonu komórkowego – również w tym przypadku zaleca się korzystanie z telefonu służbowego. Odradzamy zezwalanie na korzystanie z kont służbowych do celów prywatnych”.
4. Bezpieczne uwierzytelnianie: „Konta wykorzystywane w celach służbowych do obsługi chatbotów opartych na sztucznej inteligencji stwarzają znaczne ryzyko nadużyć. Jeśli osoby atakujące uzyskają nieuprawniony dostęp do interfejsu aplikacji, będą mogły przeglądać dotychczasową aktywność, o ile historia czatu nie została wyłączona. Ponadto dzięki własnym zapytaniom będą mogły wejść w posiadanie danych osobowych i tajemnic handlowych. Z tego powodu należy położyć szczególny nacisk na uwierzytelnianie. Należy stosować silne hasła i wdrażać dodatkowe czynniki uwierzytelniające”.
5. Niewprowadzanie danych osobowych: „Zasadniczo obowiązuje zasada: jeśli dostawca chatbota zastrzega w warunkach handlowych prawo do wykorzystania danych do własnych celów, nie wolno przekazywać danych osobowych do sztucznej inteligencji. Dotyczy to wszelkich informacji, które pozwalają na identyfikację klientów, partnerów biznesowych lub innych osób trzecich, a także danych własnych pracowników. Z reguły nie ma podstawy prawnej, która by to umożliwiała”.
6. Brak przekazywania danych osobowych: „Należy zadbać o to, aby wyniki działania aplikacji opartej na sztucznej inteligencji w miarę możliwości nie zawierały danych osobowych. Nawet jeśli polecenie wejściowe nie wymienia żadnej osoby, sztuczna inteligencja może w pewnych okolicznościach uwzględnić wcześniejsze dane wejściowe lub informacje z Internetu. Dlatego dane wejściowe powinny być ograniczone do przypadków, które nie nawiązują do konkretnych osób”.

Przykład polecenia niebudzącego zastrzeżeń: „Napisz tekst reklamowy dotyczący produktu X”.

Przykład wpisu budzącego wątpliwości: „Które osoby mogą być zainteresowane produktem X?”.

7. Ostrożność w przypadku danych umożliwiających identyfikację osób: „Należy unikać wprowadzania danych, które w pewnych okolicznościach mogą odnosić się do konkretnych osób. Nie wystarczy usunąć z tekstu nazwiska i adresy. Również na podstawie kontekstu można czasem wywnioskować tożsamość autorów i osób, których dane dotyczą. W przypadku aplikacji opartych na sztucznej inteligencji, których zadaniem jest tworzenie powiązań nawet na podstawie danych nieustrukturyzowanych, ryzyko to jest szczególnie wysokie”.

Przykład: „Opracuj świadectwo pracy z oceną zadowalającą dla doradcy klienta w salonie samochodowym X”. Dane mogą odnosić się do konkretnej osoby, jeśli można rozpoznać, z jakiej firmy i w jakim momencie zostały wprowadzone.

8. Rezygnacja z udziału w uczeniu AI: „Skorzystaj z opcji odmowy wykorzystania twoich danych do celów szkoleniowych. Producenci modeli AI często wykorzystują wszystkie wprowadzone dane do dalszego szkolenia swojej sztucznej inteligencji. Osoby prywatne i pracownicy innych firm mogą następnie wypytać o te treści. W zależności od używanej usługi możliwe jest jednak wyrażenie sprzeciwu wobec wykorzystania danych do celów szkoleniowych. Czasami wymaga to wykupienia specjalnego modelu umowy, który różni się od bezpłatnej aplikacji standardowej”.

Przykład: w przypadku ChatGPT rezygnację można obecnie wykonać przez ustawienia w sekcji ••• → Ustawienia → Kontrola danych → Historia czatu i szkolenie.

9. Rezygnacja z zapisywania historii: „Usługi oparte na czacie często oferują zapisywanie dotychczasowych wpisów, aby umożliwić wznowienie dialogu na dany temat w późniejszym terminie. Wiąże się to nieuchronnie z tworzeniem łańcucha wpisów danej osoby. Szczególnie przy wspólnym korzystaniu z usługi przez kilku pracowników należy wyłączyć historię, ponieważ w przeciwnym razie treści będą widoczne dla wszystkich współpracowników” (informacje na temat ustawień, np. w ChatGPT, znajdują się w pkt 8).
10. Sprawdzanie poprawności wyników: „Do wyników zapytania skierowanego do chatbota należy podchodzić z rezerwą. Duże modele językowe generują teksty, które z matematycznym prawdopodobieństwem zbliżają się do pożądanego wyniku. Nie oznacza to bynajmniej, że wszystkie podane informacje są poprawne. Wręcz przeciwnie: znane modele LLM uwzględniają zazwyczaj stosunkowo stare dane. Modele te są ponadto znane ze zjawiska halucynacji, w ramach którego sztuczna inteligencja wymyśla stwierdzenia, które wydają się poprawne i logiczne, ale w rzeczywistości są błędne. To na użytkownikach spoczywa odpowiedzialność za sprawdzenie poprawności wyników”.
11. Sprawdzanie wyników pod kątem dyskryminacji: „Nawet jeśli wyniki są merytorycznie poprawne, mogą być nieodpowiednie, np. jeśli mają charakter dyskryminujący. Przetwarzanie danych oparte na takich wynikach może być zatem niedopuszczalne, ponieważ narusza na przykład przepisy o równym traktowaniu lub nie spełnia wymogów wyważenia interesów określonych w art. 6 ust. 1 lit. f RODO. Również w tym przypadku to na użytkownikach spoczywa odpowiedzialność za sprawdzenie, czy odpowiedzi są dopuszczalne w ramach prawnych do dalszego wykorzystania”.

Przykład: nawet bez bezpośredniego odniesienia do konkretnej osoby informacje mogą mieć charakter dyskryminujący. Sztuczna inteligencja mogłaby, bez podawania nazwisk, wydać następującą rekomendację: „Na wolne stanowisko należy preferować mężczyzn noszących okulary”. Taki wynik mógłby opierać się na niedopuszczalnej analizie danych dotyczących zdrowia i płci.

12. Brak automatycznej decyzji końcowej: „Decyzje mające skutki prawne powinny zasadniczo być podejmowane wyłącznie przez ludzi. W przeciwnym razie należy przestrzegać warunków określonych w art. 22 RODO. Jeśli chatbot oparty na modelu LLM generuje propozycje, które są przyjmowane przez pracowników, muszą oni zadbać o rzeczywistą swobodę decyzyjną. Należy unikać sytuacji, w której z powodu braku przejrzystości prac przygotowawczych opartych na sztucznej inteligencji pracownicy są faktycznie związani tymi propozycjami, ponieważ nie są w stanie prześledzić procesu decyzyjnego. Również niewystarczające zasoby i presja czasu mogą prowadzić do przyjmowania wyników bez ich weryfikacji”.
13. Podnoszenie świadomości pracowników: „Należy uwrażliwić pracowników przez szkolenia, wytyczne i rozmowy na temat tego, czy i w jaki sposób mogą korzystać z narzędzi opartych na sztucznej inteligencji”.
14. Ochrona danych to nie wszystko: „Korzystanie z usług opartych na sztucznej inteligencji nie może naruszać ochrony danych osobowych. Zaleca się ponadto uregulowanie innych aspektów, takich jak ochrona praw autorskich lub tajemnic handlowych. W przypadku zastosowań administracyjnych należy uwzględnić zakazy przekazywania danych zgodnie z niemiecką ustawą o kontroli bezpieczeństwa (SÜG) i innymi przepisami”.
15. Śledzenie dalszego rozwoju: „Na poziomie UE trwają obecnie prace nad regulacjami dotyczącymi sztucznej inteligencji. Przyszłe rozporządzenie w sprawie sztucznej inteligencji prawdopodobnie będzie dotyczyło nie tylko dostawców takich usług, lecz także niektórych użytkowników. Ze względu na postępujące rozwiązania techniczne oraz bieżące aktualizacje nowych systemów i modeli językowych należy regularnie sprawdzać, czy konieczne jest dostosowanie wewnętrznych wytycznych. Ponadto organy ochrony danych prowadzą obecnie postępowania wzorcowe w celu ustalenia, czy modele językowe dostępne na rynku są zasadniczo zgodne z prawem”.

Natomiast w wytycznych z konferencji niezależnych niemieckich organów nadzorujących ochronę danych na szczeblu federalnym i krajowym z 6 maja 2024 r. wskazano:

„Bez jasnych zasad określających, czy i w jaki sposób aplikacje oparte na sztucznej inteligencji mogą być wykorzystywane w codziennej pracy, istnieje ryzyko, że pracownicy będą korzystać z aplikacji AI na własną rękę i w sposób niekontrolowany. Należy założyć, że jest to obecnie rzeczywistością w wielu przedsiębiorstwach i urzędach. Może to prowadzić do naruszeń ochrony danych, a także do innych szkód dla danej organizacji. Dlatego należy wydać i udokumentować jasne wytyczne wewnętrzne określające, czy, na jakich warunkach i w jakich konkretnych celach można stosować poszczególne aplikacje oparte na sztucznej inteligencji. Konkretne przykłady dozwolonych i zabronionych scenariuszy zastosowań mogą być pomocne w wyjaśnieniu tej kwestii i dlatego są zalecane. Niezależnie od tego, czy aplikacja AI przetwarza dane osobowe (w tym dane dotyczące użytkowania przez pracowników), wskazane jest wydanie instrukcji służbowej lub zawarcie porozumienia służbowego/zakładowego między kierownictwem a radą pracowniczą/zakładową. W każdym przypadku należy określić jasne ramy stosowania aplikacji opartych na sztucznej inteligencji. Dotyczy to w szczególności sytuacji, w których przetwarzane są dane osobowe. W niektórych przypadkach wdrożenie aplikacji opartej na sztucznej inteligencji będzie również stanowiło podstawę do współdecydowania w przedsiębiorstwie”.

W tych samych wytycznych wskazano również na obowiązki pracodawcy związane z udostępnianiem kont służbowych:

„W celu zawodowego wykorzystania aplikacji opartych na sztucznej inteligencji przez pracowników pracodawcy powinni udostępnić urządzenia i konta. Pracownicy nie powinni samodzielnie pracować z wykorzystaniem prywatnych kont i urządzeń z aplikacjami AI, ponieważ w ten sposób mogą powstawać profile poszczególnych pracowników. Konta nie powinny zawierać nazwisk poszczególnych pracowników, o ile aplikacja AI nie jest obsługiwana na własnych serwerach. Jeśli wymagane jest podanie adresu e-mail, należy podać funkcyjny adres e-mail przedsiębiorstwa lub urzędu. W niektórych przypadkach podczas rejestracji wymagane jest podanie numeru telefonu komórkowego – wtedy pracodawca ma obowiązek zapewnić również telefon”.

Zalecenia tureckiego organu nadzorczego (KVKK)

W kwestii problematyki shadow AI warto wykroczyć poza EOG i zwrócić uwagę na stanowisko tureckiego organu ochrony danych osobowych (KVKK), który w lutym 2026 r. wydał dokument „Wykorzystanie narzędzi generatywnej sztucznej inteligencji w miejscach pracy”. Przedstawia on ogólne ramy dotyczące korzystania w miejscu pracy z narzędzi generatywnej AI oferowanych przez strony trzecie i dostępnych publicznie. KVKK podkreślił, że celem tego opracowania jest „budowanie świadomości wśród firm, instytucji i organizacji, zwracanie uwagi na potencjalne zagrożenia oraz promowanie świadomego korzystania z tych narzędzi”.

KVKK wskazuje w tym dokumencie na ryzyka związane z nieformalnym korzystaniem z narzędzi AI przez pracowników:

„Rosnące wykorzystanie narzędzi generatywnej sztucznej inteligencji w miejscach pracy, choć oferuje możliwości wspierające wydajność i procesy biznesowe, wiąże się również z pewnymi kwestiami, które należy wziąć pod uwagę z powodu charakteru i zakresu tego wykorzystania. W szczególności fakt, że korzystanie z tych narzędzi nie zawsze odbywa się w ramach jasno zdefiniowanej strategii, polityki lub wytycznych organizacyjnych, a w większości przypadków wynika z indywidualnych preferencji pracowników, które mają na celu ułatwienie codziennej pracy, może utrudniać monitorowanie narzędzi generatywnej AI na poziomie organizacyjnym oraz zarządzanie nimi”.

KVKK zwraca również uwagę, że z generatywnej AI czerpie się korzyści w różnych obszarach, takich jak obsługa klienta, marketing i reklama, edukacja, opieka zdrowotna, prawo oraz tworzenie oprogramowania:

„Zdolność tych narzędzi do przetwarzania różnego rodzaju treści i generowania wyników w krótkim czasie umożliwia włączenie ich na różne sposoby do codziennych procesów roboczych. W tym kontekście można wymienić takie przykłady zastosowań, jak przygotowywanie wiadomości e-mail i szkiców tekstów, streszczanie dokumentów i ocena ich treści, wspieranie prac nad rozwijaniem pomysłów, tworzenie notatek ze spotkań oraz wkład w działania badawcze. (…) Wykorzystanie narzędzi AI w miejscach pracy odbywa się w większości przypadków za pośrednictwem tego typu narzędzi, które są oferowane przez strony trzecie i dostępne publicznie. Aplikacje AI oparte na czacie, asystenci kodowania wspierający procesy tworzenia oprogramowania oraz narzędzia AI służące do tłumaczenia i generowania tekstu należą do aplikacji powszechnie wykorzystywanych przez pracowników w celu wsparcia procesów biznesowych”.

Turecki organ bezpośrednio porusza kwestię shadow AI, zwracając uwagę, że termin ten odnosi się do sytuacji, w której pracownicy wykorzystują narzędzia sztucznej inteligencji w procesach biznesowych w ramach danej instytucji lub organizacji bez jej wiedzy, zgody lub kontroli:

„Tego typu zastosowania wynikają często z indywidualnej inicjatywy pracowników i mają miejsce w formach, które nie są przewidziane w ramach istniejących korporacyjnych infrastruktur informatycznych, ram zarządzania i mechanizmów kontroli lub nie są przez te mechanizmy wystarczająco monitorowane. W związku z tym możliwości zapewnienia przez uprawnione jednostki wglądu i kontroli w zakresie tego, jakie narzędzia są wykorzystywane do jakich celów, jakie rodzaje danych są wprowadzane do tych narzędzi oraz w jaki sposób uzyskane wyniki są wykorzystywane w procesach biznesowych, mogą być ograniczone”.

Wraz z upowszechnianiem się narzędzi AI rośnie ich wykorzystanie w codziennych procesach biznesowych. Sprzyja temu fakt, że narzędzia te spełniają oczekiwania pracowników związane z oszczędnością czasu, ograniczeniem zaangażowania w rutynowe zadania oraz poprawą jakości wyników. Jak zaznacza KVKK, do wzrostu indywidualnego wykorzystania narzędzi AI przyczynia się również to, że są one bezpłatne lub niedrogie, łatwo dostępne oraz udostępniane w prostym interfejsie niewymagającym zaawansowanej wiedzy technicznej. Dodatkowo tendencję tę może wzmacniać brak polityki i wytycznych dotyczących wykorzystania AI na poziomie korporacyjnym lub niewystarczająca jasność tych ram.

We wcześniejszej części artykułu odwoływano się do zbieżności shadow AI z shadow IT. KVKK potwierdza tę analogię:

„Zjawisko shadow AI wykazuje pewne wspólne cechy z praktykami shadow IT, z którymi organizacje borykają się od dawna. Ogólnie rzecz biorąc, shadow IT odnosi się do zasobów i usług informatycznych wykorzystywanych w celach służbowych w ramach organizacji, ale nieznanych jej, niemonitorowanych ani nieobjętych procesami zarządzania ryzykiem korporacyjnym. Pojęcie to nie ogranicza się do urządzeń używanych przez pracowników, lecz obejmuje również zewnętrzne rozwiązania informatyczne, takie jak osobiste usługi przechowywania danych w chmurze. Na przykład przechowywanie przez pracowników informacji o znaczeniu wrażliwym dla organizacji na osobistych kontach w chmurze w celu uzyskania dostępu do danych firmowych z innego miejsca jest uznawane za shadow IT, ponieważ usługi te pozostają poza procesami bezpieczeństwa i zarządzania ryzykiem w organizacji. Aplikacje shadow IT mogą powstawać również z tego powodu, że pracownicy uważają zatwierdzone narzędzia i procesy za niewystarczające lub niepraktyczne, co może prowadzić do wybierania nieoficjalnych alternatyw w celu ułatwienia realizacji zadań. Podobna dynamika występuje również w przypadku wykorzystania shadow AI. Jednak ze względu na zdolność narzędzi generatywnej AI do bezpośredniego oddziaływania na mechanizmy decyzyjne kierujące przetwarzaniem danych, tworzeniem treści i procesami biznesowymi shadow AI wiąże się z ryzykiem, które należy rozpatrywać w różnych wymiarach. W tym kontekście shadow AI nie polega wyłącznie na wykorzystaniu narzędzia technologicznego pozostającego poza kontrolą, ale powoduje dodatkowe ryzyko w odniesieniu do charakteru wykorzystywanych danych, generowanych wyników oraz wykorzystania tych wyników w procesach biznesowych”.

KVKK podsumowuje, jakie konsekwencje dla zarządzania ryzykiem niesie rozpowszechnienie shadow AI:

„Powszechne stosowanie sztucznej inteligencji typu shadow AI znacznie utrudnia organizacjom zarządzanie ryzykiem. W sytuacji gdy nie ma wystarczającej przejrzystości co do tego, jakie narzędzia sztucznej inteligencji są wykorzystywane, w jakich celach, jakie rodzaje danych są za ich pośrednictwem udostępniane oraz w jakim kontekście to się odbywa, trudno jest ocenić zgodność z obowiązkami prawnymi i skutecznie interweniować w przypadku ewentualnych naruszeń”.

Turecki organ identyfikuje niektóre ryzyka związane z shadow AI:

• Ryzyka związane z kontrolowalnością i rozliczalnością – pojawia się trudność w ustaleniu, jakie dane zostały wykorzystane, w jakim celu i zakresie oraz na jakiej podstawie powstały określone wyniki.
• Ryzyko związane z jakością i poprawnością decyzji – narzędzia, które nie zostały poddane ocenie organizacji, mogą generować błędne lub niespójne wyniki i prowadzić do stronniczych wniosków. Działanie na podstawie takich wyników może rodzić dalsze negatywne konsekwencje dla organizacji.
• Ryzyko związane z ochroną własności intelektualnej i tajemnic handlowych – brak regulacji może prowadzić do wprowadzania do narzędzi danych poufnych i skutkować naruszeniem ich tajemnicy. Dane te mogą być wykorzystywane do tworzenia lub ulepszania modeli i stać się dostępne dla osób nieuprawnionych.
• Ryzyko utraty reputacji i zaufania do organizacji – korzystanie z niezweryfikowanych wyników generowanych przez niesprawdzony system AI może odbić się na wizerunku organizacji i podważać jej wiarygodność.
• Ryzyko związane z bezpieczeństwem informacji i cyberbezpieczeństwem – brak kontroli nad systemami wykorzystywanymi w ramach organizacji daje większe pole do potencjalnych ataków, np. przez urządzenia osobiste lub interfejsy programowania aplikacji.
• Ryzyko związane z ochroną danych osobowych – udostępnianie danych w narzędziach AI może skutkować naruszeniem ochrony danych i przepisów w tym obszarze. Ponadto dane osobowe udostępniane za pomocą promptów mogą znaleźć odzwierciedlenie w wynikach generowanych przez te narzędzia i stać się za ich pośrednictwem dostępne dla osób nieuprawnionych.

Jak zatem działać? Z wytycznych KVKK wynika kilka praktycznych wskazówek dla organizacji:

1. Należy dokonać przeglądu podejścia organizacyjnego i praktyk związanych z korzystaniem z narzędzi AI: „Podejścia oparte na całkowitym zakazie korzystania z tych narzędzi nie przyniosą realistycznych rezultatów w praktyce. Podejścia restrykcyjne mogą bowiem sprzyjać formom korzystania z narzędzi AI poza kontrolą i widocznością organizacji, zachęcając pracowników do korzystania z nich w sposób niekontrolowany”.
2. Organizacja powinna opierać się na kierowaniu, równowadze i świadomości, a nie na zakazach: „Takie podejście, wspierające bezpieczne i odpowiedzialne korzystanie z narzędzi AI, mające na celu budowanie świadomości wśród pracowników oraz uwzględniające ryzyko korporacyjne, przyczyni się do ograniczenia form użytkowania pozostających poza kontrolą”.
3. Należy stworzyć jasną politykę korporacyjną lub wytyczne określające granice prawidłowego stosowania narzędzi AI: „W tym kontekście należy określić: narzędzia AI, które mogą być wykorzystywane w ramach działalności korporacyjnej, działania, w których można je stosować, możliwe cele oraz warunki użytkowania, rodzaje informacji, które mogą być wprowadzane do narzędzi AI, zasady korzystania z generowanych wyników, kwestie dotyczące poufności i bezpieczeństwa danych, przyjęte podejścia do zarządzania ryzykiem oraz działania szkoleniowe i uświadamiające skierowane do pracowników”.
4. Należy zwrócić szczególną uwagę na kwestie związane z ochroną danych osobowych w poleceniach przekazywanych do narzędzi AI: „W tym kontekście warto mieć wystarczające informacje na temat tego, jakie rodzaje danych są gromadzone, w jakich celach te dane są przetwarzane, komu są udostępniane i jak długo są przechowywane, a także dokładnie zapoznać się z odpowiednimi informacjami i polityką prywatności”.
5. Należy korzystać przede wszystkim ze sformułowań anonimowych, ogólnych i abstrakcyjnych, zachowując ostrożność wobec narzędzi AI szczególnie w przypadku danych wrażliwych.
6. Należy zachować ostrożność w poleganiu na wynikach AI: „Ważne jest, aby nie traktować wyników generowanych przez narzędzia AI jako podstawy ostatecznych decyzji, lecz traktować je jako elementy wspierające, podlegające kontroli i ocenie człowieka. Z drugiej strony, należy przyjąć podejście oparte na weryfikacji wyników AI pod kątem dokładności, adekwatności i kontekstu oraz zachować ostrożność wobec treści, które w tym zakresie mogą prowadzić do wyników opartych na uprzedzeniach lub dyskryminacji”.
7. Konieczne jest zarządzanie ryzykiem – należy przeprowadzić ocenę stosowanych środków bezpieczeństwa i kontroli dostępu oraz określić dopuszczone do stosowania narzędzia, ich ramy, zakres korzystania i rodzaje informacji, które mogą być do nich wprowadzane.
8. Należy dbać o podnoszenie świadomości pracowników – polityki i wytyczne dotyczące korzystania z narzędzi AI oraz ich aktualizacje powinny być komunikowane pracownikom i łatwo dostępne. Konieczne są również działania szkoleniowe i informacyjne, podnoszące świadomość w zakresie zagrożeń i kwestii, na które należy zwracać uwagę przy korzystaniu ze sztucznej inteligencji.

Co istotne, turecki organ zwrócił również uwagę na rolę mechanizmów informacji zwrotnej. Pracownicy powinni mieć możliwość dzielenia się swoimi doświadczeniami i problemami związanymi z korzystaniem z narzędzi AI. Umożliwi to organizacji identyfikację ryzyka i obszarów wymagających poprawy. Takie podejście może przyczynić się do przeglądu polityk i praktyk, a także wspierać rozwój kultury organizacyjnej opartej na etycznym i odpowiedzialnym wykorzystaniu AI.

Zalecenia holenderskiego organu nadzorczego (Autoriteit Persoonsgegevens)

Holenderski organ ochrony danych osobowych w artykule na swojej stronie internetowej wskazuje, jak ważna jest AI literacy, czyli obowiązek zapewnienia osobom pracującym z systemami AI odpowiedniej wiedzy i zrozumienia nie tylko technicznego funkcjonowania tych systemów, lecz także ich aspektów etycznych oraz innych praktycznych zagadnień. Zakres wiedzy i umiejętności, jakie organizacja powinna przekazać swoim pracownikom, zależy m.in. od kontekstu wykorzystania danego systemu oraz związanych z nim ryzyk. Oznacza to, że skuteczne przekazanie wiedzy wymaga znajomości narzędzi wykorzystywanych w organizacji. Zjawisko shadow AI odbiera możliwość należytego zadośćuczynienia wymogowi AI literacy.

Holenderski organ zaleca, aby organizacje uczyniły z AI literacy priorytet i podeszły do tego strategicznie. Pomocny w tym może być wieloletni plan działania mający na celu osiągnięcie dojrzałego poziomu kompetencji w tym zakresie.

Holenderski organ zwraca także uwagę, że wprowadzanie danych do chatbotów może skutkować naruszeniem ochrony danych osobowych. Dostrzega również problem polegający na tym, że pracownicy wykorzystują takie narzędzia w środowisku pracy, np. w celu udzielania odpowiedzi na pytania klientów czy podsumowywania dużych plików tekstowych. Chociaż przyspiesza to pracę, wiąże się z wysokim ryzykiem. Organ sygnalizuje, że pracownicy często korzystają ze sztucznej inteligencji na własną rękę i wbrew umowom zawartym z pracodawcą:

„Jeśli w procesie wprowadzono dane osobowe, oznacza to naruszenie bezpieczeństwa danych. Czasami korzystanie z chatbotów opartych na sztucznej inteligencji jest częścią polityki organizacji. W takim przypadku nie jest to naruszenie bezpieczeństwa danych, ale często jest niedozwolone przez prawo. Organizacje muszą zapobiegać obu tym sytuacjom. (...) Większość firm stojących za chatbotami przechowuje wszystkie wprowadzone dane. W rezultacie trafiają one na serwery tych firm technologicznych, często bez wiedzy osoby, która je wprowadziła, i bez dokładnego zrozumienia, co firma z nimi zrobi. Co więcej, osoba, której dane dotyczą, również nie będzie tego wiedzieć”.

Zalecenia irlandzkiego organu nadzorczego (Data Protection Commision)

W stanowisku dotyczącym AI i dużych modeli językowych irlandzki organ nadzorczy podkreślił, że ocena, czy korzystanie z danego produktu lub systemu AI jest dla organizacji odpowiednie, wymaga najpierw rozpoznania ryzyka związanego z przetwarzaniem danych osobowych przez ten system – tak aby organizacja mogła zapewnić zgodność tego przetwarzania z RODO. Produkty AI oparte na danych osobowych lub takie, w których dane osobowe są wprowadzane przez personel, mogą stwarzać nowe zagrożenia dla organizacji i osób, których dane dotyczą – wcześniej nierozpoznawane lub niebrane pod uwagę. Zagrożenia te mogą różnić się w zależności od tego, czy organizacja korzysta z samodzielnego produktu, czy z usługi w chmurze lub usługi połączonej z Internetem.

Organ zwraca przy tym uwagę na obowiązki, jakie mogą wynikać z roli administratora danych:

 „Jako użytkownik produktu AI wykorzystującego dane osobowe, twoja organizacja może być administratorem danych i w takim przypadku należy rozważyć przeprowadzenie formalnej oceny ryzyka. Zanim zaczniesz korzystać z systemu AI, powinieneś najpierw zrozumieć, jakie dane osobowe są przez niego wykorzystywane, w jaki sposób, gdzie dane trafiają w sytuacjach, gdy w przetwarzanie zaangażowany jest podmiot zewnętrzny, czy są przechowywane przez dostawcę produktu AI, czy też są ponownie wykorzystywane w jakikolwiek sposób, a także w jaki sposób produkt pozwala ci spełnić obowiązki wynikające z RODO. Dokumentacja dostawcy powinna jasno i w zrozumiały sposób przekazywać ci te informacje”.

Irlandzki organ przedstawił następujące ryzyka związane z korzystaniem z systemów AI:

• Ryzyko niechcianego, niepotrzebnego lub nieprzewidzianego przetwarzania danych osobowych – dane wprowadzone do modelu AI mogą zostać wykorzystane do jego trenowania lub dostrajania, co może naruszać RODO, w szczególności zasadę legalności, rzetelności, przejrzystości i ograniczenia celu.
• Ryzyko związane z realizacją praw osób, których dane dotyczą – organizacja powinna posiadać procedurę umożliwiającą realizację tych praw w kontekście korzystania z produktów AI. Jeśli do narzędzia wprowadza się dane osobowe, organizacja powinna wiedzieć, gdzie trafiają i jak są przetwarzane, aby w razie żądania dostępu do danych lub ich usunięcia mogła zadziałać zgodnie z wymogami RODO.
• Ryzyko związane z korzystaniem z narzędzi AI dostarczanych przez strony trzecie – wiąże się to z dodatkowymi zagrożeniami, dlatego organizacja powinna mieć wiedzę o tym, jak dane są chronione zarówno wewnątrz organizacji, jak i na zewnątrz przez podmioty działające w jej imieniu.
• Ryzyko związane z zapamiętywaniem danych przez model – niektóre modele mogą zapamiętywać wprowadzone dane wejściowe i powtarzać te fragmenty w wynikach wyjściowych. W takiej sytuacji organizacja może nieoczekiwanie lub niepotrzebnie dodatkowo przetwarzać dane dotyczące osób możliwych do zidentyfikowania. Podobnie jak w przypadku trenowania modeli AI należy wziąć pod uwagę obowiązki wynikające z RODO i sposób, w jaki organizacja wspiera prawa użytkowników wynikające z RODO.
• Ryzyko związane z atakami na filtry danych – filtry, które w modelu AI mają zapobiegać udostępnianiu użytkownikom określonych danych (np. danych osobowych lub objętych prawami autorskimi), mogą być atakowane i obchodzone. W ten sposób może dojść do przetwarzania danych w sposób niezamierzony. Organizacja powinna ocenić, czy wystąpienie takiego ryzyka jest możliwe, w jakim stopniu oraz jak można je skutecznie zminimalizować.
• Ryzyko zautomatyzowanego podejmowania decyzji – brak nadzoru człowieka nad systemem AI może powodować ryzyko zautomatyzowanego podejmowania decyzji. System może być podatny na generowanie błędów lub stronniczych informacji, co może skutkować potencjalnie szkodliwymi decyzjami, godzącymi w prawa i interesy osób, których dane dotyczą.
• Ryzyko związane z brakiem ustalonego okresu przechowywania danych – brak takiego okresu, możliwego do faktycznego wyegzekwowania, utrudnia zgodność z zasadą ograniczenia przechowywania.
• Ryzyko związane z wykorzystaniem danych publikowanych przez organizację –dane osobowe zamieszczone na stronie internetowej organizacji mogą zostać wykorzystane do trenowania modeli AI. Może być wówczas konieczne zapewnienie ochrony tych danych przed gromadzeniem i wykorzystywaniem do trenowania modelu AI lub innego przetwarzania, zwłaszcza jeśli organizacja nie uzgodniła takiego celu z pracownikami lub użytkownikami lub jeśli nie mają oni uzasadnionych podstaw, by oczekiwać, że ich dane posłużą do trenowania AI.

Zalecenia hiszpańskiego organu nadzorczego (Agencia Española de Protección de Datos)

W dokumencie „Agentowa sztuczna inteligencja z perspektywy ochrony danych”, wydanym w lutym 2026 r., hiszpański organ nadzorczy wskazał:

„Istnieją usługi agentowej sztucznej inteligencji (AI), które są łatwe do wdrożenia, intuicyjne i wyposażone w narzędzia umożliwiające bardzo szybkie projektowanie zadań i łączność między komponentami, nawet dla użytkowników końcowych. Tego typu środowiska są powszechne w prototypowaniu oprogramowania w innych kontekstach i ułatwiają wdrażanie systemów takich jak agenci AI. Prowadzi to do pokusy, by niewykwalifikowani użytkownicy, oczarowani możliwościami tych rozwiązań, przeprowadzali wdrożenia poza polityką zarządzania i polityką informacyjną organizacji. Łatwość posiadania rozwiązania, które pozornie działa przy niewielkim wysiłku, może wywoływać wrażenie, że implikacje i wpływ na ochronę danych (oraz na organizację w ogóle) są trywialne, a jednocześnie przesłaniać nieodłączną złożoność, jaką w wielu aspektach mają te narzędzia.

Wprowadzenie systemu agentowej sztucznej inteligencji do przetwarzania danych przez administratora wiąże się z przeprojektowaniem procesu organizacyjnego, w którym powinni uczestniczyć co najmniej menedżerowie funkcjonalni, IT i jakości, a w stosownych przypadkach także inspektor ochrony danych (IOD).

Skutki błędów we wdrażaniu systemu AI opartego na agentach w procesie przetwarzania mogą mieć wpływ na wiele aspektów: od faktycznej skuteczności po zgodność z przepisami, niezawodność, wyjaśnialność, stabilność i solidność procesów, ich skalowalność i dostępność, luki w zabezpieczeniach powstające podczas przetwarzania, brak kontroli nad przepływem danych oraz ich zakresem i przechowywaniem, konsekwencje naruszeń czy brak przygotowania do zarządzania incydentami.

Jeśli w przypadku urządzeń mobilnych w miejscu pracy pojawił się problem BYOD (Bring Your Own Device), a w przypadku czatów AI – problem BYOAI (Bring Your Own Artificial Intelligence), to w przypadku agentowej AI pojawia się problem BYOAgentic (Build Your Own Agentic) – wynikający z braku polityk organizacyjnych, wykwalifikowanych specjalistów w zakresie zarządzania i aspektów technicznych oraz z braku dojrzałych metodologii projektowania procesów i aplikacji”.

Łatwość i dostępność narzędzi AI sprzyja ich niekontrolowanym wdrożeniom, zwłaszcza że sam proces jest zasadniczo łatwy do samodzielnego przeprowadzenia. Prowadzi to do omijania polityk bezpieczeństwa organizacji i działania poza jej wiedzą i kontrolą. Jak zwrócił uwagę hiszpański organ, przystępność tych narzędzi i prostota ich użytkowania często umacniają przekonanie, że korzystanie z nich nie może wiązać się z większym ryzykiem – co jest oczywiście błędnym założeniem.

Zgodne z prawem użycie IT nie może być wyłącznie decyzją techniczną, lecz musi być poprzedzone procesem, decyzją organizacyjną wymagającą zaangażowania właściwych merytorycznie osób, a także oceną narzędzia. Zaniechanie należytego przeprowadzenia tego procesu przez organizację rodzi szereg ryzyk, w tym niezgodność z przepisami, zagrożenia bezpieczeństwa i utratę kontroli nad danymi.

Próżnia organizacyjna, obejmująca m.in. brak odpowiednich polityk, jasno określonych ról zarządczych i decyzyjnych oraz ram dopuszczalnego korzystania z narzędzi AI, sprzyja rozwojowi shadow AI. Brak reakcji organizacji prowadzi do tego, że nieformalne praktyki stają się normą, a niewłaściwe i ryzykowne sposoby działania – standardem. Odpowiedzialność za to ponosi zaś niezmiennie przede wszystkim organizacja.

Podsumowanie

• Występowanie shadow AI w organizacji może ujawniać istotne, niezaspokajane potrzeby pracowników oraz systemowe problemy w zarządzaniu procesami.
• Brak polityki i wytycznych dotyczących wykorzystania AI na poziomie korporacyjnym lub niewystarczająca jasność ustalonych ram mogą wzmacniać praktyki shadow AI.
• Odpowiedzialność za zgodność stosowanych systemów z przepisami spoczywa na administratorze danych.
• Działanie narzędzi AI w ukryciu utrudnia nadzór i generuje ryzyka dla bezpieczeństwa danych.
• Shadow AI niesie ryzyko naruszenia przepisów – zarówno AI Act, jak i RODO, naruszeń ochrony danych osobowych oraz innych szkód dla organizacji.
• Ryzyko naruszenia przepisów różni się w zależności od poziomu ryzyka, do którego można zaklasyfikować shadow AI.
• Aby uniknąć naruszeń, osoby odpowiedzialne nie powinny tolerować stosowania shadow AI.
• Stosowanie rozwiązań AI, które są napędzane danymi osobowymi, wymaga szczególnej ostrożności z uwagi na zwiększone w tym obszarze ryzyko.
• Z punktu widzenia prawa o ochronie danych istnieje przede wszystkim ryzyko, że dane osobowe będą przetwarzane w sposób niekontrolowany i bez podstawy prawnej.
• Czynnikiem ograniczającym ryzyko są jasne procedury i skuteczne struktury zarządzania.
• W procedurach należy określić m.in.:
  • narzędzia AI, które mogą być wykorzystywane w ramach działalności korporacyjnej,
  • działania, w których można je stosować,
  • możliwe cele oraz warunki użytkowania,
  • rodzaje informacji, które mogą być wprowadzane do narzędzi AI,
  • zasady korzystania z generowanych wyników,
  • kwestie dotyczące poufności i bezpieczeństwa danych,
  • sposób zarządzania ryzykiem,
  • działania szkoleniowe i uświadamiające skierowane do pracowników.
• Przed wdrożeniem modeli AI w organizacji konieczne jest m.in.:
  • przeprowadzenie oceny ryzyka i wdrożenie wynikających z niej odpowiednich środków bezpieczeństwa,
  • zdefiniowanie dopuszczalnych zakresów, celów i warunków stosowania systemu AI,
  • w niektórych przypadkach – przeprowadzenie DPIA lub FRIA.
• Pracodawcy powinni udostępnić pracownikom służbowe urządzenia i konta do wykorzystywania aplikacji opartych na sztucznej inteligencji w celach służbowych. Pracownicy nie powinni pracować samodzielnie z wykorzystaniem prywatnych kont i urządzeń.
• Całkowity zakaz korzystania z narzędzi AI nie przyniesie w praktyce pożądanych rezultatów. Tak restrykcyjne podejście sprzyja korzystaniu z narzędzi AI poza kontrolą i widocznością organizacji.

FAQ – najczęściej zadawane pytania

Czym jest shadow AI?

Shadow AI to wykorzystywanie przez pracowników narzędzi sztucznej inteligencji bez wiedzy, zgody lub kontroli organizacji. Najczęściej dotyczy korzystania z chatbotów, generatorów treści, asystentów kodowania lub narzędzi do analizy dokumentów poza oficjalnie zatwierdzonym środowiskiem pracy.

Dlaczego shadow AI stanowi zagrożenie dla organizacji?

Największym ryzykiem jest utrata kontroli nad danymi. Pracownicy mogą nieświadomie przekazywać do narzędzi AI dane osobowe, informacje poufne lub tajemnice przedsiębiorstwa, co może prowadzić do naruszenia przepisów oraz wycieku informacji.

Czy korzystanie z ChatGPT przez pracownika może naruszać RODO?

Tak. Jeżeli pracownik wprowadza do narzędzia dane osobowe bez odpowiedniej podstawy prawnej, zgody organizacji lub wymaganych zabezpieczeń, może dojść do naruszenia zasad wynikających z RODO.

Jakie dane nie powinny trafiać do narzędzi AI?

Nie należy przekazywać danych osobowych, danych szczególnych kategorii, informacji objętych tajemnicą przedsiębiorstwa, danych klientów, dokumentacji wewnętrznej oraz innych informacji poufnych, jeśli organizacja nie dopuściła takiego sposobu przetwarzania.

Czy całkowity zakaz korzystania z AI rozwiązuje problem shadow AI?

Nie. Organy nadzorcze wskazują, że całkowite zakazy często prowadzą do jeszcze większego ukrywania korzystania z AI przez pracowników. Skuteczniejsze jest wdrożenie jasnych zasad, procedur oraz bezpiecznych, zatwierdzonych narzędzi.

Jak ograniczyć ryzyko związane z shadow AI?

Podstawą jest stworzenie polityki korzystania z AI, przeprowadzenie oceny ryzyka, określenie dopuszczalnych zastosowań narzędzi, szkolenie pracowników oraz wdrożenie odpowiednich środków technicznych i organizacyjnych.

Kto odpowiada za zgodność korzystania z AI z przepisami?

Odpowiedzialność spoczywa przede wszystkim na administratorze danych osobowych. Organizacja powinna zapewnić odpowiednie procedury, nadzór i środki bezpieczeństwa związane z wykorzystaniem sztucznej inteligencji.

Czy korzystanie z prywatnych kont AI do celów służbowych jest bezpieczne?

Co do zasady nie. Korzystanie z prywatnych kont utrudnia organizacji kontrolę nad przetwarzaniem danych, zwiększa ryzyko wycieku informacji i może prowadzić do naruszenia obowiązujących procedur bezpieczeństwa.

Czy przed wdrożeniem AI należy przeprowadzić ocenę ryzyka?

Tak. Przed wdrożeniem systemów AI organizacja powinna ocenić ryzyka związane z ochroną danych, cyberbezpieczeństwem oraz zgodnością z przepisami. W niektórych przypadkach konieczne może być również przeprowadzenie DPIA.

Jakie elementy powinna zawierać polityka korzystania z AI?

Polityka powinna określać dopuszczone narzędzia AI, cele ich wykorzystania, rodzaje danych, które mogą być przetwarzane, zasady korzystania z wyników, wymagania dotyczące bezpieczeństwa oraz obowiązki pracowników.

Jak shadow AI wpływa na cyberbezpieczeństwo?

Nieautoryzowane narzędzia AI zwiększają powierzchnię ataku, utrudniają monitorowanie przepływu danych i mogą prowadzić do niekontrolowanego udostępniania informacji poza organizację.

Czy AI Act ma znaczenie dla problemu shadow AI?

Tak. Wykorzystywanie narzędzi AI poza kontrolą organizacji może utrudniać spełnienie obowiązków wynikających z AI Act, w tym wymogów dotyczących zarządzania ryzykiem, nadzoru człowieka oraz kompetencji personelu w zakresie AI.