Shadow AI – jak nieautoryzowane użycie AI zagraża danym osobowym

Najważniejsze wnioski z artykułu

• Fakt występowania w organizacji shadow AI może ujawniać istotne, niezaspokajane przez organizację potrzeby personelu i systemowe problemy w zarządzaniu procesami.
• Brak polityki i wytycznych dotyczących wykorzystania AI na poziomie korporacyjnym lub niewystarczająca jasność ustalonych ram może wzmacniać praktyki shadow AI.
• Odpowiedzialność za zgodność stosowanych systemów z przepisami spoczywa na administratorze danych osobowych.
• Działanie narzędzi AI w ukryciu komplikuje kwestie nadzoru i generuje ryzyka dla bezpieczeństwa danych.

• shadow AI niesie ryzyko naruszenia przepisów zarówno AI Act, jak i RODO, naruszeń ochrony danych osobowych i innych szkód dla organizacji.
• Ryzyko naruszenia przepisów różni się w zależności od poziomu ryzyka, do którego można zaklasyfikować sztuczną inteligencję działającą w tle.
• Aby uniknąć naruszeń, osoby odpowiedzialne nie powinny tolerować stosowania shadow AI.
• Stosowanie rozwiązań AI, które napędzane są danymi osobowymi, wymaga szczególnej ostrożności z uwagi na zwiększone w tym obszarze ryzyko.
• Z punktu widzenia prawa o ochronie danych istnieje przede wszystkim ryzyko, że dane osobowe będą przetwarzane w sposób niekontrolowany i bez podstawy prawnej.
• Czynnikiem mitygującym ryzyko są jasne procedury i skuteczne struktury zarządzania.
• W procedurach należy określić m.in.:
  • narzędzia AI, które mogą być wykorzystywane w ramach działalności korporacyjnej,
  • działania, w których można je stosować,
  • możliwe cele oraz warunki użytkowania,
  • rodzaje informacji, które mogą być wprowadzane do narzędzi AI,
  • zasady korzystania z generowanych wyników,
  • kwestie dotyczące poufności i bezpieczeństwa danych,
  • sposób zarządzania ryzykiem,
  • działania szkoleniowe i uświadamiające skierowane do pracowników.
• Przed wdrożeniem modeli AI w organizacji konieczne jest m.in.:
  • uprzednie przeprowadzenie oceny ryzyka i wdrożenie wynikających z niej odpowiednich środków bezpieczeństwa,
  • zdefiniowanie dopuszczalnych zakresów, celów i warunków stosowania systemu AI,
  • konieczne może być przeprowadzenie DPIA/FRIA.
• W celu służbowego wykorzystania aplikacji opartych na sztucznej inteligencji przez pracowników, pracodawcy powinni udostępnić służbowe urządzenia i konta. Pracownicy nie powinni samodzielnie pracować z wykorzystaniem prywatnych kont i urządzeń.
• Całkowity zakaz korzystania z narzędzi AI nie przyniesie pożądanych rezultatów w praktyce. Tak restrykcyjne podejście sprzyja korzystaniu z narzędzi AI poza kontrolą i widocznością organizacji.

W poniższym artykule przedstawiamy najważniejsze zalecenia europejskich organów nadzorczych dotyczące tego, jak ograniczać ryzyka związane z shadow AI i zabezpieczać organizację przed niekontrolowanym wykorzystaniem sztucznej inteligencji.

Czym jest shadow AI?

Shadow AI to niekontrolowane wykorzystywanie przez pracowników organizacji narzędzi opartych na sztucznej inteligencji (AI), które nie zostały formalnie autoryzowane przez tę organizację i są używane poza jej ramami zarządczymi. Shadow AI jest więc ryzykiem niezarządzanym. W praktyce pracownicy, dążąc do usprawnienia i przyspieszenia wykonywania swoich codziennych zadań, coraz częściej sięgają właśnie po narzędzia AI, dzięki którym osiągnięcie tego celu jest możliwe. Dzieje się to poza wiedzą i nadzorem pracodawcy, choć zdarzają się i takie sytuacje, w której świadomi tego pracodawcy tolerują takie wykorzystywanie technologii ze względu na dostrzegane w tym korzyści w postaci choćby zwiększonej efektywności pracowników czy redukcji kosztów, podczas gdy realne ryzyka z tym związane, szczególnie w obszarze ochrony danych, pozostają niedostrzegane lub schodzą na dalszy plan. 

Przykłady używanych narzędzi:

chatboty, wtyczki do przeglądarek do silników tłumaczeniowych i asystentów kodowania, generatory tekstów, AI do analizy, streszczania dokumentów i podsumowywania spotkań, tworzenia prezentacji i raportów, analizy logów, incydentów, anonimizacji tekstów, AI używana z kont prywatnych do celów służbowych.

Brak formalnej autoryzacji narzędzi AI do użytku powoduje, że dane chronione, takie jak dane osobowe czy informacje stanowiące tajemnicę przedsiębiorstwa, są wprowadzane do systemów, które nie zostały uprzednio przez organizację ocenione pod kątem bezpieczeństwa i możliwych skutków dla tych danych. W konsekwencji może prowadzić to do naruszeń ochrony danych osobowych, w szczególności, gdy wprowadzenie danych osobowych do systemu AI stanowi ich ujawnianie nieuprawnionym podmiotom trzecim, takim jak dostawcy tych narzędzi, a także do naruszeń obowiązujących przepisów, w tym w zakresie niezgodnego z prawem transferu danych osobowych poza Europejski Obszar Gospodarczy do państw trzecich oraz wykorzystywania tych danych do trenowania modeli AI.   

Skąd bierze się ten problem?

Dążenie personelu do usprawnienia sposobu wykonywania obowiązków jest naturalne – narzędzia oparte na AI potrafią znacząco zwiększyć produktywność, oszczędzić czas i podnieść jakość pracy. Jednakże w każdym przypadku zakres i sposób korzystania z takich narzędzi powinien wynikać z wewnętrznych uregulowań organizacji i być sprawdzony pod kątem ich zgodności z przepisami. Jeśli do tej pory obszar ten nie został przez organizację systemowo uregulowany, to istnieje duże prawdopodobieństwo, że w organizacji już występują praktyki określane mianem shadow AI.

Z tego względu zasadne jest niezwłoczne podjęcie działań polegających na identyfikacji narzędzi AI, które mogą wspomóc personel w ich obowiązkach, dokonanie oceny ich zgodności z obowiązującymi przepisami, w szczególności RODO, oraz – po zapewnieniu tej zgodności – wdrożenie procedur zapewniających przejrzyste i zgodne z prawem korzystanie z możliwości sztucznej inteligencji.

Obraz tego, jak problem shadow AI kształtuje się w praktyce, w pewnym stopniu można próbować wywieść z dokumentu: „Raport Strategiczny - Badanie potrzeb organizacji w zakresie wykorzystania sztucznej inteligencji i ochrony danych osobowych”, który został opracowany przez Grupę roboczą ds. Sztucznej Inteligencji, powołaną w ramach Społecznego Zespołu Ekspertów przy Prezesie UODO. Choć został on opracowany na stosunkowo niewielkiej próbie organizacji (głównie z sektora publicznego), to warto w tym miejscu przytoczyć niektóre jego wnioski, a mianowicie:  

• „17% organizacji korzysta z AI w codziennej działalności (najliczniejsza

odpowiedź pozytywna).

• 43% nie korzysta z AI w ogóle.
• Około 40% jest w fazie wstępnych testów, planowania lub zainteresowania.

Najczęstsze zastosowania AI to:

• automatyzacja procesów administracyjnych (41,2%),
• analityka danych (31%),
• obsługa klienta/obywatela – chatboty i voiceboty (28%),
• wsparcie w badaniach i rozwoju (28,2%).

Zdecydowanie dominują zastosowania operacyjne, usprawniające codzienne zadania — pisanie tekstów, obsługa interesantów, wsparcie komunikacji, przygotowanie materiałów dydaktycznych czy podstawowa diagnostyka.”

Jak dalej wskazano w przywołanym raporcie (w oparciu o najczęstsze odpowiedzi jednostek organizacyjnych samorządu, administracji lokalnej, szkół, uczelni, instytucji kultury:

„Najbardziej niepokojące wnioski dotyczą świadomości w zakresie danych osobowych wynikające z badania ilościowego:

• 41% organizacji uważa, że opracowywanie AI nie wiąże się z danymi lub nie wie lub potrafi ocenić tej kwestii. Dodatkowo ponad 30% badanych nie ma doświadczenia z opracowaniem systemów AI,
• 58,5% deklaruje to samo w przypadku wykorzystania AI.

(…) Dodatkowo 95,9% organizacji ocenia się jako nieprzygotowane lub niepewne w zakresie stosowania RODO w kontekście AI. Z badań jakościowych z kolei w sektorze prywatnym można wyciągnąć wniosek, że poziom świadomości dotyczącej przetwarzania danych osobowych w kontekście AI jest silnie zróżnicowany w zależności od wielkości i typu organizacji. Zagadnienia potencjalnej bardzo ograniczonej świadomości przetwarzania danych osobowych to jedna z najważniejszych barier systemowych ujawnionych w badaniu”.

W warunkach powszechnej dostępności narzędzi sztucznej inteligencji, które mogą realnie wspierać wykonywanie codziennych obowiązków pracowniczych, całkowite powstrzymanie się pracowników od korzystania z takich narzędzi staje się coraz trudniejsze. Choć część pracowników zapewne korzysta z tych narzędzi z oczekiwaną od nich ostrożnością, bez wprowadzania informacji, które powinny być chronione – to jednak kwestia ta nie powinna zależeć tylko od samoświadomości pracowników, lecz być formalnie uregulowana wewnętrznie i nadzorowana, a o świadomość pracowników powinna dbać organizacja m.in. przez regularne szkolenia i inne działania pogłębiające wiedzę personelu. Rozważne stosowanie technologii przez człowieka jest fundamentem bezpiecznego przetwarzania danych osobowych.

Shadow AI a RODO

Problem shadow AI jest realny i powszechny. Dostrzegają go też organy nadzorcze – zarówno polski, jak i zagraniczne. Główny wniosek jest można wywieść z ich stanowisk jest taki, że wprowadzane przez organizacje rozwiązania powinny bazować na ich zgodności z przepisami chroniącymi dane osobowe. Personel musi wiedzieć z jakich narzędzi może korzystać, w jakim zakresie jest to dopuszczalne, czy i jakie dane mogą do nich wprowadzać, jakie zagrożenia z tym się wiążą i jak im przeciwdziałać. Jeśli coś pójdzie nie tak – jest to przede wszystkim odpowiedzialność administratora.

RODO w art. 29 wskazuje, że, „Podmiot przetwarzający oraz każda osoba działająca z upoważnienia administratora lub podmiotu przetwarzającego i mająca dostęp do danych osobowych przetwarzają je wyłącznie na polecenie administratora, chyba że wymaga tego prawo Unii lub prawo państwa członkowskiego”. Pracownik wprowadzający dane osobowe „na własną rękę” do nieautoryzowanego narzędzia AI, działać będzie więc poza poleceniem pracodawcy, a to oznacza możliwe konsekwencje i dla pracownika – za działanie poza upoważnieniem, i dla pracodawcy – za brak skutecznych mechanizmów kontroli nad przetwarzaniem danych osobowych, a finalnie konsekwencje może też ponieść osoba, której dane bezprawnie zostały wprowadzone do narzędzia AI – w związku z utratą kontroli nad swoimi danymi i mogącym stąd wynikać poczuciem krzywdy.

Organizacja ma obowiązek wdrożenia odpowiednich środków technicznych i organizacyjnych, które zapewnią bezpieczne przetwarzanie danych i ochronę praw osób, których dane dotyczą. Jednym z ryzyk, które zaadresować musi organizacja, jest właśnie to związane z niekontrolowanym korzystaniem z narzędzi AI.

Prezes UODO poświęca tematyce AI dużo uwagi, między innymi dostrzegając związane z nią znaczące zagrożenia dla danych osobowych. Tam, gdzie pojawiają się systemy oparte na sztucznej inteligencji, tematyka ochrony danych osobowych musi być więc zawsze brana pod uwagę. A tam, gdzie są dane osobowe, zawsze aktualne są obowiązki wynikające przede wszystkim z RODO.

Tematyka AI z oczywistych względów jest topowym tematem wśród organów nadzorczych. Niektóre ze stanowisk dotykające bezpośrednio lub pośrednio tematu shadow AI przedstawiamy poniżej.

Zalecenia brytyjskiego organu nadzorczego (ICO)

Sztuczna inteligencja to priorytetowy obszar zainteresowania brytyjskiego organu ochrony danych osobowych, z uwagi na mogące się z tym wiązać wysokie ryzyko dla osób, których dane dotyczą i ich praw. Organ zwraca uwagę, że informacje osobowe napędzają wiele technologii AI i z tego powodu ich stosowanie wymaga szczególnej ostrożności.

Organ, w jednym z opracowań na swojej stronie internetowej dotyczącym agentic AI, wskazał, że używanie takich narzędzi przez pracowników pozostaje problemem – osoby korzystające z narzędzi widzą bowiem zalety tych rozwiązań, a nie identyfikują ryzyk z nimi związanych. To prowadzi do naruszeń w obszarach wysokiego ryzyka i nawet najbardziej rozwinięte systemy AI nie zdejmą z administratorów odpowiedzialności za zgodność z przepisami.

ICO dotyka tematu shadow AI w kontekście agentic AI, jako przykład wskazując pracowników testujących nowe zastosowania bardziej autonomicznych agentów w swojej codziennej pracy, dzięki którym mogą szybko przetwarzać dane osobowe w różny, nieprzewidziany sposób. Działanie tych agentów w ukryciu lub krótkoterminowo komplikuje kwestie nadzoru. Wyzwania stają się poważniejsze, jeśli agenci AI mają swobodę dostępu do różnorodnych danych osobowych przechowywanych przez organizację lub mogą korzystać ze źródeł zewnętrznych, wykraczających poza kontrolowane przez organizację źródła danych i systemy. ICO wskazuje, że ograniczeniem ryzyk mogą być opracowane skuteczne struktury zarządzania i jasno zdefiniowane parametry dla pracowników korzystających z agentów. Oczywiście w proces powinien był włączany IOD z racji tego, że tematyka dotyczy danych osobowych.

Przez wspomniane struktury zarządzania i parametry należy z pewnością rozumieć stosowne procedury oraz ustalone przez organizację granice i warunki korzystania z agentic AI przez pracowników. I choć ICO odnosi się tu do technologii agentic AI, to jednak za uprawnione należy uznać, że analogiczne wymogi dotyczą również innych rozwiązań sztucznej inteligencji. Sam zresztą ICO wskazuje w swoich publikacjach, że wiele obowiązków związanych z ochroną danych w kontekście korzystania z systemów agentowych jest takich samych jak w przypadku innych aplikacji AI.

Warto przywołać tu również stanowisko National Protective Security Authority (NPSA) – brytyjskiego organu rządowego ds. bezpieczeństwa fizycznego i ochrony personelu.

„Tam, gdzie narzędzia AI działają dobrze, organizacje powinny być świadome potencjalnej utraty umiejętności i kompetencji wśród personelu ds. bezpieczeństwa. Nadmierne poleganie na zaawansowanych narzędziach powinno stanowić ryzyko, które należy stale monitorować”.

Instytucja ta wskazuje również, że korzystanie z rozwiązań typu shadow AI stwarza dla organizacji ryzyko podobne do ryzyka związanego z korzystaniem z innych rozwiązań typu shadow IT.

Z kolei National Cyber Security Centre (NCSC), będący krajowym organem ds. cyberzagrożeń i bezpieczeństwa informacji Wielkiej Brytanii, wskazuje: „Co najważniejsze, zawsze należy podchodzić do osób, które zostały zmuszone do wdrożenia shadow IT, z pozytywnym nastawieniem i bez obwiniania. Jeśli obwiniasz lub karzesz pracowników, ich koledzy niechętnie powiedzą Ci o swoich niedozwolonych praktykach, a Ty będziesz miał jeszcze mniejszy wgląd w potencjalne zagrożenia”.

Zalecenia francuskiego organu nadzorczego (CNIL)

Francuski organ ochrony danych osobowych w swoim praktycznym przewodniku dotyczącym bezpieczeństwa danych osobowych z 2024 r. odniósł się do shadow IT i wskazał m.in., że fakt występowania w organizacji tego zjawiska może ujawniać istotne, niezaspokajane przez organizację potrzeby personelu lub strukturalne nieprawidłowości. Powodem sięgania po shadow IT jest nieuwzględnianie przez organizację rzeczywistych praktyk, oczekiwań i potrzeb użytkowników podczas definiowania zasad korzystania z zasobów IT.

Na zasadzie analogii tożsame wnioski można odnieść do shadow AI, tym bardziej, że narzędzia oparte na sztucznej inteligencji też mieszczą się w kategorii produktów IT.  

CNIL na swojej stronie internetowej wskazuje m.in., że stosowanie sztucznej inteligencji wymaga przestrzegania określonych środków ostrożności. Systemy AI są podatne na niepowodzenia, ataki i mogą mieć nieoczekiwany wpływ na jednostki i społeczeństwo, dlatego tak ważne jest, by znać ryzyka, jakie się z nim wiążą. To oczywiście mieści się w kompetencji administratora danych osobowych – na nim spoczywa identyfikacja zagrożeń i przeciwdziałanie im.

Zalecenia niemieckich organów nadzorczych

Krajowy pełnomocnik ds. ochrony danych Dolnej Saksonii w FAQ dotyczących sztucznej inteligencji odpowiedział na powracające pytanie o zagrożenia związane z korzystaniem z chatbotów opartych na AI – pracownicy, którzy mają zabronione korzystanie z nich na komputerach służbowych, sięgają po urządzenia prywatne do wykonywania zadań służbowych.

Organ wskazał (wszelkie tłumaczenia zawarte w niniejszym artykule zostały wykonane automatycznie przy użyciu narzędzi translatorskich i mogą nie oddawać w pełni znaczenia oryginalnego tekstu): „To nieautoryzowane korzystanie z systemów AI w kontekście zawodowym jest również rozumiane jako „shadow AI”. Ma to miejsce, gdy pracownicy korzystają z dostępnych w Internecie systemów AI, takich jak ChatGPT, Gemini lub Claude, bez ich integracji z infrastrukturą IT urzędu lub przedsiębiorstwa i bez uzyskania zgody na ich użytkowanie. Niesie to ze sobą przede wszystkim ryzyko naruszenia przepisów zarówno rozporządzenia w sprawie sztucznej inteligencji, jak i ogólnego rozporządzenia o ochronie danych. Ryzyko naruszenia przepisów różni się w zależności od poziomu ryzyka, do którego można zaklasyfikować sztuczną inteligencję działającą w tle. Zawsze istnieje ryzyko naruszenia obowiązku zapewnienia kompetencji w zakresie sztucznej inteligencji. Z punktu widzenia prawa o ochronie danych istnieje przede wszystkim ryzyko, że dane osobowe będą przetwarzane w sposób niekontrolowany i bez podstawy prawnej. Aby uniknąć takich naruszeń RODO, osoby odpowiedzialne nie powinny tolerować stosowania „shadow AI”.  Wykorzystanie „shadow AI” można na przykład ująć w instrukcji służbowej i jej zakazać. Ponadto organy i przedsiębiorstwa powinny świadomie decydować, które systemy AI mają być stosowane w organizacji i na jakich warunkach”.

Organ odniósł się także do tego, jakie wymogi dotyczące ochrony danych obowiązują przy stosowaniu systemów AI, wskazując, że:

„Podczas korzystania z systemów AI należy przestrzegać następujących wytycznych:

1. Wszystkich przepisów ogólnego rozporządzenia o ochronie danych (RODO).
2. W zależności od zakresu zastosowania należy uwzględnić dodatkowe, szczegółowe przepisy dotyczące ochrony danych (np. federalną ustawę o ochronie danych oraz ustawę o ochronie danych w telekomunikacji i usługach cyfrowych).

W szczególności należy przestrzegać zasad ochrony danych (art. 5 RODO), w tym legalności, przetwarzania w dobrej wierze, przejrzystości, ograniczenia celu, minimalizacji danych i rzetelności.

3. Zapewnić realizację praw osób, których dane dotyczą (np. prawo do informacji, sprostowania, usunięcia, wniesienia sprzeciwu).”

„Przed wdrożeniem modeli językowych o dużej skali w codziennej pracy biurowej należy zapewnić następujące środki prawne i organizacyjne (TOM):

1. Przeprowadzenie oceny ryzyka zgodnie z rozporządzeniem w sprawie sztucznej inteligencji oraz wdrożenie wynikających z niej wymogów prawnych.
2. Jasne zdefiniowanie dopuszczalnych obszarów zastosowania, celów oraz konkretnych warunków użytkowania systemu sztucznej inteligencji.
3. Środki ochrony danych przy przetwarzaniu danych osobowych:

• upewnienie się, że stosowany model sztucznej inteligencji nie został wytrenowany w sposób niezgodny z prawem;
• sprawdzenie, czy istnieje odpowiednia podstawa prawna do przetwarzania danych osobowych;
• określenie i wdrożenie odpowiednich środków technicznych i organizacyjnych;
• zapewnienie zgodności z zasadami ochrony danych (np. minimalizacja danych, ograniczenie celu);
• zapewnienie możliwości realizacji praw osób, których dane dotyczą (np. prawo do informacji, prawo do usunięcia danych);
• sprawdzenie progu, od którego wymagane jest przeprowadzenie oceny skutków dla ochrony danych (DPIA) i, jeśli to konieczne – przeprowadzić DPIA.

4. W razie potrzeby – przeprowadzenie oceny skutków dla praw podstawowych.
5. Zapewnienie kompetencji pracowników w zakresie sztucznej inteligencji (np. poprzez szkolenia)
6. Opracowanie instrukcji służbowej lub instrukcji obsługi, która reguluje warunki i wytyczne dotyczące stosowania systemu sztucznej inteligencji”.

Hamburski pełnomocnik ds. ochrony danych i wolności informacji, w liście kontrolnej dotyczącej stosowania chatbotów opartych na modelach LLM, także zidentyfikował problem, że wiele modeli językowych, takich jak ChatGPT, w wielu instytucjach „stało się już częścią codziennej pracy, często jednak bez wiążących wytycznych dotyczących ich użytkowania. Fakt, że modele językowe są zazwyczaj obsługiwane w chmurze, wiąże się z różnymi zagrożeniami dla ochrony danych. Z jednej strony zagrożona jest ochrona danych poufnych, ponieważ wiele firm korzysta z tego samego modelu LLM w chmurze, a dane wprowadzane są wykorzystywane do dalszego szkolenia modeli, co może prowadzić do przekazywania im tajemnic handlowych i danych osobowych. Z drugiej strony istnieje ryzyko niedozwolonego przetwarzania danych osobowych w wyniku nieprawidłowych wyników, zwłaszcza w przypadku kategorii danych wymagających szczególnej ochrony.”

Organ opublikował checklistę mającą służyć przedsiębiorstwom i organom jako przewodnik po korzystaniu z chatbotów zgodnie z przepisami o ochronie danych.

Sprowadza się ona do następujących punktów:

1. Określenie zasad zgodności – „jasne i udokumentowane wytyczne wewnętrzne określające, czy oraz na jakich warunkach można korzystać z poszczególnych narzędzi”. Organ zastrzega, że „Kto nie określa wewnętrznych zasad dotyczących tego, czy i w jaki sposób generatywna sztuczna inteligencja może być wykorzystywana w codziennej pracy, może założyć, że pracownicy i inni członkowie organizacji będą korzystać z tych nowatorskich narzędzi na własną rękę i w sposób niekontrolowany. W pewnych okolicznościach odpowiedzialność za te działania ponosi pracodawca”.
2. Zaangażowanie inspektorów ochrony danych – „Zawsze angażuj swojego wewnętrznego inspektora ochrony danych, gdy tworzysz wewnętrzne wytyczne lub po raz pierwszy wdrażasz konkretny przypadek zastosowania. W zależności od przypadku zastosowania należy w tym kontekście przeprowadzić ocenę skutków dla ochrony danych”.
3. Udostępnienie konta służbowego – „Należy udostępnić służbowe konta chatbotów. Pracownicy nie powinni samodzielnie zakładać kont, wykorzystując dane prywatne. W ten sposób bowiem profil byłby powiązany z konkretnym pracownikiem. Jeśli korzystanie z chatbota w kontekście służbowym jest pożądane, należy udostępnić również konta służbowe. W miarę możliwości konta służbowe nie powinny zawierać nazwisk poszczególnych pracowników. Jeśli wymagany jest adres e-mail, zaleca się podanie adresu utworzonego specjalnie w tym celu. Czasami podczas rejestracji wymagane są również numery telefonów komórkowych. Również w tym przypadku zaleca się korzystanie z telefonu służbowego. Odradzamy zezwalanie na prywatne korzystanie z tych kont służbowych”.
4. Bezpieczne uwierzytelnianie – „Konta wykorzystywane w celach służbowych do obsługi chatbotów opartych na sztucznej inteligencji stwarzają znaczne ryzyko nadużyć. Jeśli osoby atakujące uzyskają nieuprawniony dostęp do interfejsu aplikacji, mogą w razie potrzeby przeglądać dotychczasową aktywność, o ile historia czatu nie została wyłączona. Ponadto, poprzez własne zapytania, mogą uzyskać dostęp do danych osobowych i tajemnic handlowych. Z tego powodu należy położyć szczególny nacisk na uwierzytelnianie. Należy stosować silne hasła i wdrażać dodatkowe czynniki uwierzytelniające”.
5. Nie wprowadzaj danych osobowych – „Zasadniczo obowiązuje zasada: jeśli dostawca chatbota zastrzega w warunkach handlowych prawo do wykorzystania danych do własnych celów, nie wolno przekazywać danych osobowych do sztucznej inteligencji. Dotyczy to wszelkich informacji, które pozwalają na identyfikację klientów, partnerów biznesowych lub innych osób trzecich, a także danych własnych pracowników. Z reguły nie ma podstawy prawnej, która by to pozwalała.”
6. Brak przekazywania danych osobowych – „Należy zadbać o to, aby wyniki działania aplikacji opartej na sztucznej inteligencji w miarę możliwości nie zawierały danych osobowych. Nawet jeśli polecenie wejściowe nie wymienia żadnej osoby, sztuczna inteligencja może w pewnych okolicznościach uwzględnić wcześniejsze dane wejściowe lub informacje z Internetu. Dlatego też dane wejściowe powinny być ograniczone do przypadków, które nie nawiązują do konkretnych osób".

Przykład polecenia niebudzącego zastrzeżeń: „Napisz tekst reklamowy dotyczący produktu X”.
Przykład wpisu budzącego wątpliwości: „Które osoby mogą być zainteresowane produktem X?”

7. Ostrożność w przypadku danych umożliwiających identyfikację osób – „Należy również unikać wprowadzania danych, które w pewnych okolicznościach mogą odnosić się do konkretnych osób. Nie wystarczy usunąć z tekstu nazwiska i adresy. Również na podstawie kontekstu można w razie potrzeby wywnioskować tożsamość autorów i osób, których dane dotyczą. W przypadku aplikacji opartych na sztucznej inteligencji, których zadaniem jest tworzenie powiązań nawet na podstawie danych nieustrukturyzowanych, ryzyko to jest szczególnie wysokie.

Przykład: „Opracuj świadectwo pracy z oceną zadowalającą dla doradcy klienta w salonie samochodowym X”. Dane mogą odnosić się do konkretnej osoby, jeśli można rozpoznać, z jakiej firmy i w jakim momencie zostały wprowadzone”.

8. Rezygnacja z uczenia AI – „Skorzystaj z opcji odmowy wykorzystania Twoich danych do celów szkoleniowych. Często producenci modeli sztucznej inteligencji wykorzystują wszystkie wprowadzone dane do dalszego szkolenia swojej sztucznej inteligencji. Osoby prywatne i pracownicy innych firm mogą następnie „wypytać” te treści. W zależności od używanej usługi możliwe jest jednak wyrażenie sprzeciwu wobec wykorzystania danych do celów szkoleniowych. Czasami wymaga to wykupienia specjalnego modelu umowy, który różni się od bezpłatnej aplikacji standardowej.

Przykład: W przypadku ChatGPT rezygnację można obecnie wykonać poprzez ustawienia w sekcji ••• → Ustawienia → Kontrola danych → Historia czatu i szkolenie”.

9. Rezygnacja z historii – „Usługi oparte na czacie często oferują zapisywanie dotychczasowych wpisów, aby umożliwić wznowienie dialogu na dany temat w późniejszym terminie. Wiąże się to nieuchronnie z tworzeniem łańcucha wpisów danej osoby. Szczególnie w przypadku wspólnego korzystania z usługi przez kilku pracowników należy wyłączyć historię, ponieważ w przeciwnym razie treści będą widoczne dla wszystkich współpracowników. Informacje na temat ustawień, na przykład w ChatGPT, znajdują się w punkcie 8”.
10. Sprawdź poprawność wyników – „Do wyników zapytania skierowanego do chatbota należy podchodzić z rezerwą. Duże modele językowe generują teksty, które z matematycznego punktu widzenia zbliżają się do pożądanego wyniku. Nie oznacza to bynajmniej, że wszystkie podane informacje są poprawne. Wręcz przeciwnie: znane modele LLM uwzględniają zazwyczaj stosunkowo stare dane. Są one ponadto znane ze zjawiska „halucynacji”, w ramach którego sztuczna inteligencja wymyśla stwierdzenia, które wydają się poprawne i logiczne, ale w rzeczywistości są błędne. To na użytkownikach spoczywa odpowiedzialność za sprawdzenie poprawności wyników.”
11. Sprawdzanie wyników pod kątem dyskryminacji – „Nawet jeśli wyniki są merytorycznie poprawne, mogą być nieodpowiednie, na przykład, jeśli mają charakter dyskryminujący. Przetwarzanie danych oparte na takich wynikach może być zatem niedopuszczalne, ponieważ narusza na przykład ustawę o równym traktowaniu lub nie spełnia wymogów wyważenia interesów określonych w art. 6 ust. 1 lit. f RODO. Również w tym przypadku to na użytkownikach spoczywa odpowiedzialność za sprawdzenie czy odpowiedzi są dopuszczalne w ramach prawnych do dalszego wykorzystania.

Przykład: Nawet bez bezpośredniego odniesienia do konkretnej osoby informacje mogą mieć charakter dyskryminujący. Sztuczna inteligencja mogłaby, nie podając nazwisk, wydać następującą rekomendację: „Na wolne stanowisko należy preferować mężczyzn noszących okulary”. Taki wynik mógłby opierać się na niedopuszczalnej analizie danych dotyczących zdrowia i płci.”

12. Brak automatycznej decyzji końcowej – „Decyzje mające skutki prawne powinny zasadniczo być podejmowane wyłącznie przez ludzi. W przeciwnym razie należy przestrzegać warunków określonych w art. 22 RODO. Jeśli chatbot oparty na modelu LLM generuje propozycje, które są przyjmowane przez pracowników, muszą oni zadbać o to, by mieli rzeczywistą swobodę decyzyjną. Należy unikać sytuacji, w której z powodu braku przejrzystości prac przygotowawczych opartych na sztucznej inteligencji pracownicy są faktycznie związani z propozycjami, ponieważ nie są w stanie prześledzić procesu decyzyjnego. Również niewystarczające zasoby i presja czasu mogą prowadzić do przyjmowania wyników bez ich weryfikacji”.
13. Podnoszenie świadomości pracowników – „Należy uwrażliwić pracowników poprzez szkolenia, wytyczne i rozmowy na temat tego, czy i w jaki sposób mogą korzystać z narzędzi opartych na sztucznej inteligencji”.
14. Ochrona danych to nie wszystko – „Korzystanie z usług opartych na sztucznej inteligencji nie może naruszać ochrony danych osobowych. Zaleca się ponadto uregulowanie innych aspektów, takich jak ochrona praw autorskich lub tajemnic handlowych. W przypadku zastosowań administracyjnych należy uwzględnić zakazy przekazywania danych zgodnie z ustawą o kontroli bezpieczeństwa (SÜG) i innymi przepisami”.
15. Śledzenie dalszego rozwoju – „Na poziomie UE trwają obecnie prace nad regulacjami dotyczącymi sztucznej inteligencji. Przyszłe rozporządzenie w sprawie sztucznej inteligencji prawdopodobnie będzie dotyczyło nie tylko dostawców takich usług, ale także niektórych użytkowników. Ze względu na postępujące rozwiązania techniczne oraz bieżące aktualizacje nowych systemów i modeli językowych należy regularnie sprawdzać, czy konieczne jest dostosowanie wewnętrznych wytycznych. Ponadto organy ochrony danych prowadzą obecnie postępowania wzorcowe w celu ustalenia czy modele językowe dostępne na rynku są zasadniczo zgodne z prawem”.

W Wytycznych z konferencji niezależnych (niemieckich) organów nadzorujących ochronę danych na szczeblu federalnym i krajowym z dnia 6 maja 204 r. wskazano:

„Bez jasnych zasad określających, czy i w jaki sposób aplikacje oparte na sztucznej inteligencji mogą być wykorzystywane w codziennej pracy istnieje ryzyko, że pracownicy będą korzystać z aplikacji AI na własną rękę i w sposób niekontrolowany. Należy założyć, że jest to obecnie rzeczywistością w wielu przedsiębiorstwach i urzędach. Może to prowadzić do naruszeń ochrony danych, a także do innych szkód dla danej organizacji. Dlatego należy wydać i udokumentować jasne wytyczne wewnętrzne określające, czy, na jakich warunkach i w jakich konkretnych celach można stosować poszczególne aplikacje oparte na sztucznej inteligencji. Konkretne przykłady dozwolonych i zabronionych scenariuszy zastosowań mogą być pomocne w wyjaśnieniu tej kwestii i dlatego są zalecane. Niezależnie od tego, czy aplikacja AI przetwarza dane osobowe (w tym dane dotyczące użytkowania przez pracowników), wskazane jest wydanie instrukcji służbowej lub zawarcie porozumienia służbowego/zakładowego między kierownictwem a radą pracowniczą/zakładową. W każdym przypadku należy określić jasne ramy stosowania aplikacji opartych na sztucznej inteligencji. Dotyczy to w szczególności sytuacji, w których przetwarzane są dane osobowe. W niektórych przypadkach wdrożenie aplikacji opartej na sztucznej inteligencji będzie również stanowiło podstawę do współdecydowania w przedsiębiorstwie”.

„W celu zawodowego wykorzystania aplikacji opartych na sztucznej inteligencji przez pracowników pracodawcy powinni udostępnić urządzenia i konta. Pracownicy nie powinni samodzielnie pracować z wykorzystaniem prywatnych kont i urządzeń z aplikacjami AI, ponieważ w ten sposób mogą powstawać profile poszczególnych pracowników. Konta nie powinny zawierać nazwisk poszczególnych pracowników, o ile aplikacja AI nie jest obsługiwana na własnych serwerach. W przypadku gdy wymagane jest podanie adresu e mail, należy podać służbowy adres e-mail przedsiębiorstwa lub udostępniony przez zakład pracy. W niektórych przypadkach podczas rejestracji wymagane jest podanie numeru telefonu komórkowego. Również w tym przypadku pracodawca ma obowiązek zapewnić telefon”.

Zalecenia tureckiego organu nadzorczego (KVKK)

W kwestii problematyki shadow AI warto wykroczyć poza EOG i zwrócić uwagę na stanowisko tureckiego organu ochrony danych osobowych, który wydał w lutym 2026 dokument „Wydajna sztuczna inteligencja w miejscach pracy”.

Organ ten odpowiedział w nim na sygnały płynące z praktyki, dotyczące nieoficjalnego korzystania z narzędzi AI przez pracowników, wskazując m.in., że: „Rosnące wykorzystanie narzędzi sztucznej inteligencji zwiększających produktywność w miejscach pracy, choć oferuje możliwości wspierające wydajność i procesy biznesowe, wiąże się również z pewnymi kwestiami, które należy wziąć pod uwagę pod względem charakteru i zakresu tego wykorzystania. W szczególności fakt, że korzystanie z tych narzędzi nie zawsze odbywa się w ramach jasno zdefiniowanej strategii, polityki lub wytycznych organizacyjnych, a w większości przypadków wynika z indywidualnych preferencji pracowników mających na celu ułatwienie codziennej pracy, może utrudniać monitorowanie i zarządzanie narzędziami sztucznej inteligencji na poziomie organizacyjnym.”

KVKK opracował dokument, w którym przedstawia ogólne ramy dotyczące korzystania w miejscu pracy z narzędzi generatywnej AI oferowanych przez strony trzecie i dostępnych publicznie, którego celem jest „budowanie świadomości wśród firm, instytucji i organizacji, zwracanie uwagi na potencjalne zagrożenia oraz promowanie świadomego korzystania z tych narzędzi”.

Organ zwraca uwagę, że z generatywnej AI „czerpie się korzyści w różnych obszarach, takich jak obsługa klienta, marketing i reklama, edukacja, opieka zdrowotna, prawo oraz tworzenie oprogramowania. (…) Zdolność tych narzędzi do przetwarzania różnego rodzaju treści i generowania wyników w krótkim czasie umożliwia włączenie ich na różne sposoby do codziennych procesów roboczych. W tym kontekście można wymienić takie przykłady zastosowań, jak przygotowywanie wiadomości e-mail i szkiców tekstów, streszczanie dokumentów i ocena ich treści, wspieranie prac nad rozwijaniem pomysłów, tworzenie notatek ze spotkań oraz wkład w działania badawcze. (…) Wykorzystanie narzędzi AI w miejscach pracy odbywa się w większości przypadków za pośrednictwem narzędzi tego typu, oferowanych przez strony trzecie i dostępnych publicznie. Aplikacje AI oparte na czacie, asystenci kodowania wspierający procesy tworzenia oprogramowania oraz narzędzia AI służące do tłumaczenia i generowania tekstu należą do aplikacji powszechnie wykorzystywanych przez pracowników w celu wsparcia procesów biznesowych”.

Organ bezpośrednio porusza kwestię shadow AI, wskazując, że termin ten odnosi się „do sytuacji, w której pracownicy wykorzystują narzędzia sztucznej inteligencji w procesach biznesowych w ramach danej instytucji lub organizacji bez jej wiedzy, zgody lub kontroli. Tego typu zastosowania wynikają często z indywidualnej inicjatywy pracowników i mają miejsce w formach, które nie są przewidziane w ramach istniejących korporacyjnych infrastruktur informatycznych, ram zarządzania i mechanizmów kontroli lub nie są przez te mechanizmy wystarczająco monitorowane. W związku z tym możliwości zapewnienia przez uprawnione jednostki wglądu i kontroli w zakresie tego, jakie narzędzia są wykorzystywane do jakich celów, jakie rodzaje danych są wprowadzane do tych narzędzi oraz w jaki sposób uzyskane wyniki są wykorzystywane w procesach biznesowych, mogą być ograniczone”.

Wraz z upowszechnianiem się narzędzi AI rośnie ich wykorzystanie w codziennych procesach biznesowych. Sprzyja temu fakt, że narzędzia te spełniają oczekiwania pracowników pod kątem oszczędności ich czasu, ograniczenia zaangażowania w rutynowe zadania i w zakresie poprawy jakości wyników, „narzędzia AI są bezpłatne lub niedrogie, oferują łatwo dostępne rozwiązania oraz są udostępniane w prostym w obsłudze interfejsie, który nie wymaga zaawansowanej wiedzy technicznej, również stanowi jeden z czynników przyczyniających się do wzrostu indywidualnego wykorzystania. Brak polityki i wytycznych dotyczących wykorzystania AI na poziomie korporacyjnym lub niewystarczająca jasność tych ram również może wzmacniać tę tendencję.”

We wcześniejszej części artykułu odwoływano się do zbieżności shadow AI z shadow IT. Organ turecki potwierdza tę analogię, wskazując, że „Zjawisko „shadow AI” wykazuje pewne wspólne cechy z praktykami „shadow IT”, z którymi organizacje borykają się od dawna. Ogólnie rzecz biorąc, „shadow IT” odnosi się do zasobów i usług informatycznych wykorzystywanych w celach służbowych w ramach organizacji, ale nieznanych jej, nie monitorowanych ani nieobjętych procesami zarządzania ryzykiem korporacyjnym. Pojęcie to nie ogranicza się do urządzeń używanych przez pracowników, ale obejmuje również osobiste usługi przechowywania danych w chmurze, obejmuje również zewnętrzne rozwiązania informatyczne. Na przykład przechowywanie przez pracowników informacji o znaczeniu wrażliwym dla organizacji na osobistych kontach w chmurze w celu uzyskania dostępu do danych firmowych z innego miejsca jest uznawane za „shadow IT”, ponieważ usługi te pozostają poza procesami bezpieczeństwa i zarządzania ryzykiem w organizacji. Aplikacje „shadow IT” mogą powstawać również z powodu tego, że pracownicy uważają zatwierdzone narzędzia i procesy za niewystarczające lub niepraktyczne, co może prowadzić do wybierania nieoficjalnych alternatyw w celu ułatwienia realizacji zadań. Podobna dynamika występuje również w przypadku wykorzystania „shadow AI”, jednak ze względu na jej zdolność do bezpośredniego oddziaływania na mechanizmy decyzyjne kierujące przetwarzaniem danych, tworzeniem treści i procesami biznesowymi – zwłaszcza w przypadku narzędzi sztucznej inteligencji – wiąże się ona z ryzykiem, które należy rozpatrywać w różnych wymiarach. W tym kontekście shadow AI nie polega wyłącznie na wykorzystaniu narzędzia technologicznego pozostającego poza kontrolą, ale powoduje dodatkowe ryzyko w odniesieniu do charakteru wykorzystywanych danych, generowanych wyników oraz wykorzystania tych wyników w procesach biznesowych”.

„Powszechne stosowanie sztucznej inteligencji typu „shadow AI” znacznie utrudnia organizacjom zarządzanie ryzykiem. W sytuacji, gdy nie ma wystarczającej przejrzystości co do tego, jakie narzędzia sztucznej inteligencji są wykorzystywane, w jakich celach, jakie rodzaje danych są za ich pośrednictwem udostępniane oraz w jakim kontekście to się odbywa, trudno jest ocenić zgodność z obowiązkami prawnymi i skutecznie interweniować w przypadku ewentualnych naruszeń”.

Turecki organ identyfikuje niektóre ryzyka związane z shadow AI:

Ryzyka związane z kontrolowalnością i rozliczalnością: trudność ustalenia, jakie dane zostały wykorzystane, w jakim celu i zakresie, na jakiej podstawie powstały określone wyniki.

Ryzyko związane z jakością i poprawnością decyzji: narzędzia, które nie zostały poddane ocenie organizacji mogą generować błędne, niespójne wyniki i prowadzić do stronniczych wniosków. Działanie w oparciu o takie wyniki może rodzić dalsze negatywne konsekwencje dla organizacji.

Ryzyko związane z ochroną własności intelektualnej i tajemnic handlowych: brak regulacji może prowadzić do wprowadzania do narzędzi danych poufnych i skutkować naruszeniem ich tajemnicy. Dane te mogą być wykorzystywane do tworzenia lub ulepszania modeli i stać się dostępne dla osób nieuprawnionych.

Ryzyko utraty reputacji i zaufania do organizacji: pracowanie na wątpliwej wiarygodności wynikach generowanych przez niesprawdzony system AI może odbić się na wizerunku organizacji i podważać jej wiarygodność.

Ryzyko związane z bezpieczeństwem informacji i cyberbezpieczeństwem: brak kontroli nad systemami wykorzystywanymi w ramach organizacji daje większe pole do potencjalnych ataków, np. przez urządzenia osobiste, interfejsy programowania aplikacji.

Ryzyko związane z ochroną danych osobowych: udostępnianie danych w narzędziach AI może skutkować naruszeniem ochrony danych i przepisów w tym obszarze. Ponadto dane osobowe udostępniane za pomocą promptów mogą znaleźć odzwierciedlenie w wynikach generowanych przez te narzędzie i stać się dostępne za ich pośrednictwem dla osób nieuprawnionych.

Jak zatem działać? Z wytycznych tego organu wynika, że należy:

• Dokonać przeglądu podejścia organizacyjnego i praktyk związanych z korzystaniem z narzędzi AI.

„Podejścia oparte na całkowitym zakazie korzystania z tych narzędzi nie przyniosą realistycznych rezultatów w praktyce. Podejścia restrykcyjne mogą bowiem sprzyjać formom korzystania z narzędzi AI poza kontrolą i widocznością organizacji, zachęcając pracowników do korzystania z nich w sposób niekontrolowany”.

• Organizacja powinna opierać się na „kierowaniu, równowadze i świadomości, a nie na zakazach”.

„Takie podejście, wspierające bezpieczne i odpowiedzialne korzystanie z urządzeń mobilnych, mające na celu budowanie świadomości wśród pracowników oraz uwzględniające ryzyko korporacyjne, przyczyni się do ograniczenia form użytkowania pozostających poza kontrolą”.

• Powinna być stworzona jasna polityka korporacyjna lub wytyczne określające granice prawidłowego stosowania narzędzi AI.

„W tym kontekście należy określić: narzędzia AI, które mogą być wykorzystywane w ramach działalności korporacyjnej, działania, w których można je stosować, możliwe cele oraz warunki użytkowania, rodzaje informacji, które mogą być wprowadzane do narzędzi AI, zasady korzystania z generowanych wyników, kwestie dotyczące poufności i bezpieczeństwa danych, przyjęte podejścia do zarządzania ryzykiem oraz działania szkoleniowe i uświadamiające skierowane do pracowników”.

• Należy zwrócić szczególną uwagę na kwestie związane z ochroną danych osobowych w poleceniach przekazywanych do narzędzi AI.

„W tym kontekście warto mieć wystarczające informacje na temat tego, jakie rodzaje danych są gromadzone, w jakich celach są przetwarzane, komu są udostępniane i jak długo są przechowywane, a także dokładnie zapoznać się z odpowiednimi informacjami i polityką prywatności”.

• Wskazane jest korzystanie przede wszystkim ze „sformułowań anonimowych, ogólnych i abstrakcyjnych”.

Ważne jest ostrożne podejście do korzystania z narzędzi AI, szczególnie w przypadku danych wrażliwych.

• Należy zachować ostrożność w poleganiu na wynikach AI.

„Ważne jest, aby nie traktować wyników generowanych przez narzędzia AI jako podstawy ostatecznych decyzji, lecz traktować je jako elementy wspierające, podlegające kontroli i ocenie człowieka. Z drugiej strony, należy przyjąć podejście oparte na weryfikacji wyników AI pod kątem dokładności, adekwatności i kontekstu oraz zachować ostrożność wobec treści, które w tym zakresie mogą prowadzić do wyników opartych na uprzedzeniach lub dyskryminacji”.

• Konieczne jest zarządzanie ryzykiem – ocena stosowanych środków bezpieczeństwa i kontroli dostępu, określenie dopuszczonych do stosowania narzędzi, ich ram, zakresu korzystania, rodzajów informacji, które mogą być wprowadzane w te narzędzia.
• Należy dbać o podnoszenie świadomości pracowników.

Polityki i wytyczne dotyczące korzystania z narzędzi AI oraz ich aktualizacje powinny być im komunikowane i być dla nich łatwo dostępne. Konieczne są również dziania szkoleniowe i informacyjne, podnoszące świadomość w zakresie zagrożeń i kwestii, na które należy zwracać uwagę przy korzystaniu ze sztucznej inteligencji.

Organ zwrócił również uwagę, że „stworzenie mechanizmów informacji zwrotnej, w ramach których pracownicy będą mogli dzielić się swoimi doświadczeniami związanymi z korzystaniem z narzędzi AI oraz napotkanymi problemami, umożliwi identyfikację ryzyka i obszarów wymagających poprawy, które mogą pojawić się w praktyce. Podejście to może przyczynić się do przeglądu polityk i praktyk w razie potrzeby, a także wspierać rozwój kultury organizacyjnej sprzyjającej etycznemu i odpowiedzialnemu wykorzystaniu AI w ramach organizacji.”

Zalecenia holenderskiego organu nadzorczego (Autoriteit Persoonsgegevens)

Holenderski organ ochrony danych osobowych, w jednym z artykułów na swojej stronie internetowej wskazuje, jak ważna jest AI literacy, czyli obowiązek posiadania przez osoby pracujące na systemach AI odpowiedniej wiedzy i zrozumienia technicznego funkcjonowania, ale także strony etycznej i innych praktycznych aspektów tych systemów. Zakres wiedzy i umiejętności, jakie organizacja powinna przekazać swojemu personelowi, zależy m.in. od kontekstu wykorzystania danego systemu oraz związanych z nim ryzyk. Oznacza to, że skuteczne przekazanie wiedzy wymaga znajomości narzędzi wykorzystywanych w organizacji. Zjawisko shadow AI odbiera możliwość należytego zadośćuczynienia wymogowi AI literacy.

„AP zaleca, aby organizacje nadały priorytet umiejętności korzystania ze sztucznej inteligencji i podeszły do tego strategicznie, np. stosując wieloletni plan działania mający na celu osiągnięcie dojrzałego poziomu umiejętności korzystania ze sztucznej inteligencji”.

Organ zwraca uwagę, że wprowadzanie danych do chatbotów może skutkować naruszeniem ochrony danych osobowych. On również dostrzega problematykę działań pracowników, którzy wykorzystują w środowisku pracy takie narzędzia np. w celu udzielania odpowiedzi na pytania klientów czy podsumowywania dużych plików tekstowych. I choć przyspiesza to pracę, to wiąże się z wysokim ryzykiem.

Organ zwraca uwagę, że często pracownicy korzystają ze sztucznej inteligencji na własną rękę i wbrew umowom zawartym z pracodawcą. „Jeśli w procesie wprowadzono dane osobowe, oznacza to naruszenie bezpieczeństwa danych. Czasami korzystanie z chatbotów opartych na sztucznej inteligencji jest częścią polityki organizacji. W takim przypadku nie jest to naruszenie bezpieczeństwa danych, ale często jest niedozwolone przez prawo. Organizacje muszą zapobiegać obu tym sytuacjom”. „Większość firm stojących za chatbotami przechowuje wszystkie wprowadzone dane. W rezultacie trafiają one na serwery tych firm technologicznych, często bez wiedzy osoby, która je wprowadziła, i bez dokładnego zrozumienia, co firma z nimi zrobi. Co więcej, osoba, której dane dotyczą, również nie będzie tego wiedzieć.”

Zalecenia irlandzkiego organu nadzorczego (Data Protection Commision)

W jednej z publikacji na swojej stronie internetowej DPC wskazuje, że „Aby organizacja mogła ocenić, czy korzystanie z produktów lub systemów AI jest dla niej odpowiednie, należy najpierw rozpoznać ryzyko związane z przetwarzaniem danych osobowych za pomocą wybranego systemu AI, tak aby organizacja mogła zapewnić zgodność przetwarzania z RODO. (… ) Jako użytkownik produktu AI wykorzystującego dane osobowe, Twoja organizacja może być administratorem danych i w takim przypadku należy rozważyć przeprowadzenie formalnej oceny ryzyka. Zanim zaczniesz korzystać z systemu AI, powinieneś najpierw zrozumieć, jakie dane osobowe są przez niego wykorzystywane, w jaki sposób, gdzie trafiają w sytuacjach, gdy w przetwarzanie zaangażowany jest podmiot zewnętrzny, czy są przechowywane przez dostawcę produktu AI, czy też ponownie wykorzystywane w jakikolwiek sposób, oraz w jaki sposób produkt pozwala Ci spełnić obowiązki wynikające z RODO. Dokumentacja powinna jasno i  w zrozumiały sposób zawierać te informacje.”

„Produkty AI oparte na danych osobowych lub takie, w których dane osobowe są wprowadzane przez personel, mogą stwarzać nowe zagrożenia dla organizacji i osób, których dane dotyczą, które wcześniej nie były rozpoznane lub brane pod uwagę. Zagrożenia te mogą się również różnić w zależności od tego, czy korzystasz z samodzielnego produktu, czy z usługi w chmurze lub połączonej z Internetem.”

Organ irlandzki przedstawił następujące ryzyka związane z korzystaniem z systemów AI:

• Niechciane, niepotrzebne i nieprzewidziane przetwarzanie danych osobowych wprowadzonych do modelu AI, wykorzystanie ich do trenowania lub dostrajania modelu – może to naruszać RODO, np. zasadę legalności, rzetelności, przejrzystości i ograniczenia celu.
• Możliwość realizacji praw osób – organizacja powinna posiadać procedurę, by ułatwiać korzystanie z praw osobom, których dane dotyczą, związanych z korzystaniem z produktów AI. Jeśli do narzędzia wprowadza się dane osobowe, organizacja powinna wiedzieć, gdzie one trafiają, jak są przetwarzane, a w razie żądania dostępu do danych czy ich usunięcia, powinna móc zadziałać zgodnie z żądaniem RODO.
• Korzystanie z narzędzia AI strony trzeciej rodzi dodatkowe ryzyka, z tego względu organizacja powinna mieć wiedzę co do tego, jak dane są chronione zarówno wewnątrz organizacji, jak i na zewnątrz w podmiotach działających w jej imieniu.
• W razie wprowadzania danych do narzędzia, ryzykiem jest funkcjonalność niektórych modeli, które mogą zapamiętać wprowadzone dane wejściowe i następnie powtarzać te fragmenty danych w wynikach wyjściowych. „W takim przypadku Twoja organizacja może nieoczekiwanie lub niepotrzebnie dodatkowo przetwarzać dane dotyczące osób możliwych do zidentyfikowania. Podobnie jak w przypadku szkoleń AI, musisz wziąć pod uwagę swoje obowiązki wynikające z RODO i sposób, w jaki wspierasz prawa użytkowników wynikające z RODO”.
• W związku z możliwym ryzykiem zaatakowania filtrów służących w modelu AI do udostępniania użytkownikom określonych danych (np. danych osobowych lub objętych prawami autorskimi), może dojść do przetwarzania takich danych w sposób niezamierzony. Ryzyko to powinno być ocenione przez organizację, czy jego wystąpienie jest możliwe, w jakim stopniu i jak skutecznie je zminimalizować.
• Brak nadzoru człowieka nad systemem AI może powodować ryzyko zautomatyzowanego podejmowania decyzji. System może być podatny na generowanie błędów, stronniczych informacji, co skutkować może potencjalnie szkodliwymi decyzjami, które mogą godzić w prawa i interesy osób, których dane dotyczą.
• Brak ustalonego i egzekwowalnego okresu przechowywania danych.
• Organizacja zamieszczając dane osobowe na swojej stronie internetowej powinna wziąć pod uwagę, że może wiązać się to z ich potencjalnym wykorzystaniem do trenowania AI. „Konieczne może być zapewnienie ochrony tych danych osobowych przed gromadzeniem i wykorzystywaniem do szkoleń AI lub innego przetwarzania, jeśli nie uzgodniłeś tego celu z pracownikami lub użytkownikami lub jeśli nie mają oni uzasadnionych oczekiwań, że zostaną one wykorzystane do szkoleń AI”.

Zalecenia hiszpańskiego organu nadzorczego (Agencia Española de Protección de Datos)

W dokumencie „Agentowa sztuczna inteligencja z perspektywy ochrony danych” (AGENTIC ARTIFICIAL INTELLIGENCE FROM THE DATA PROTECTION PERSPECTIVE) wydanym przez organ w lutym 2026 r., wskazano, że:

„Istnieją usługi agentowej sztucznej inteligencji (AI), które są łatwe do wdrożenia, intuicyjne i wyposażone w narzędzia umożliwiające bardzo szybkie projektowanie zadań i łączność między komponentami, nawet dla użytkowników końcowych. Tego typu środowiska są powszechne w prototypowaniu oprogramowania w innych kontekstach i ułatwiają wdrażanie systemów, takich jak agenci AI. Prowadzi to do pokusy dla niewykwalifikowanych użytkowników, by dać się oczarować ich możliwościom i przeprowadzać wdrożenia poza polityką zarządzania i informacyjną organizacji. Łatwość posiadania rozwiązania, które wydaje się działać przy niewielkim wysiłku, może generować wrażenie trywialności w odniesieniu do implikacji i wpływu na ochronę danych (i dla organizacji w ogóle), przesłaniając nieodłączną złożoność tych narzędzi w wielu aspektach.

Wprowadzenie systemu agentowej sztucznej inteligencji do przetwarzania danych przez administratora danych wiąże się z przeprojektowaniem procesu organizacyjnego, w którym powinni być zaangażowani co najmniej menedżerowie funkcjonalni, IT i jakości, a także, w stosownych przypadkach, inspektor ochrony danych (IOD).

Skutki błędów we wdrażaniu systemu AI opartego na agentach w procesie przetwarzania mogą mieć wpływ na wszystko, od faktycznej skuteczności po zgodność z przepisami, niezawodność, wyjaśnialność, stabilność i solidność procesów, ich skalowalność i dostępność, luki w zabezpieczeniach generowane podczas przetwarzania, brak kontroli nad przepływem danych, zakresem i przechowywaniem tych danych, konsekwencje naruszeń, brak przygotowania do zarządzania incydentami itp.

Jeśli problem BYOD (Bring Your Own Device) pojawił się w miejscu pracy w przypadku urządzeń mobilnych, a problem BYOAI (Bring Your Own Artificial Intelligence) w przypadku czatów AI, problem BYOAgentic (Build Your Own Agentic) pojawia się w przypadku AI opartego na agentach, ze względu na brak polityk organizacyjnych i wykwalifikowanych specjalistów w zakresie zarządzania i aspektów technicznych oraz brak dojrzałych metodologii projektowania procesów i aplikacji.”

Łatwość i dostępność narzędzi AI sprzyja ich niekontrolowanym wdrożeniom, szczególnie, że sam proces zasadniczo jest łatwy do samodzielnego przeprowadzenia. Prowadzi to do omijania polityk bezpieczeństwa organizacji i działania poza jej wiedzą i kontrolą.

Jak zwrócił uwagę hiszpański organ ochrony danych osobowych – ta przystępność narzędzi i prostota ich użytkowania często powoduje przekonanie, że nie może ono wiązać się z większymi ryzykami, co jest oczywiście błędnym założeniem.

Zgodne z prawem użycie IT nie może być samą decyzją techniczną, lecz musi być poprzedzone procesem i decyzją organizacyjną, wymagającą zaangażowania właściwych merytorycznie osób i oceną narzędzia. Brak należytego przeprowadzenia tego procesu przez organizację rodzi szereg ryzyk, w tym niezgodności z przepisami, zagrożenia bezpieczeństwa i utraty kontroli nad danymi.  

Próżnia organizacyjna obejmująca m.in. brak odpowiednich polityk, jasno określonych ról zarządczych, decyzyjnych, brak ram dopuszczalnego korzystania z narzędzi AI, sprzyja rozwojowi shadow AI. Brak reakcji organizacji sprzyja temu, że to co nieformalne staje się normą, niewłaściwe i ryzykowne praktyki stają się standardem. A odpowiedzialność za to niezmiennie podnosi przede wszystkim organizacja.  

Wnioski

Rozwój sztucznej inteligencji i jej angażowanie w codzienną pracę systematycznie się zwiększa, jednak w praktyce nie zawsze idzie to w parze z odpowiednim dostrzeganiem i kontrolą tego obszaru przez organizacje.

Do ujawniania informacji może dochodzić z dużą łatwością – przykładowo przez prompty czy wklejenie tekstu (copy-paste). Konsekwencją tego jest szereg danych osobowych lub innych informacji prawnie chronionych (np. tajemnica przedsiębiorstwa) w narzędziach AI, które to informacje znalazły się tam bez podstawy prawnej, bez możliwości zarządzania nimi, usunięcia i nad którymi organizacja utraciła kontrolę, choć w dalszym ciągu pozostaje za te dane odpowiedzialna.

Kluczowe jest zatem, by organizacje identyfikowały obszary shadow AI i podejmowały działania w celu niedopuszczenia do utraty kontroli nad przetwarzanymi informacjami.

Zablokowanie dostępów do narzędzi wspieranych sztuczną inteligencją może nie być właściwym rozwiązaniem. W sytuacji, gdy narzędzia AI realnie ułatwiają pracę personelu, pokusa dalszego korzystania z nich może być na tyle silna, że doprowadzi do prób obchodzenia zakazu. W efekcie korzystanie z AI będzie jeszcze bardziej ukrywane.

Punktem wyjścia do uporządkowania tematu wydaje się być identyfikacja narzędzi AI, po które sięgają pracownicy i informacji, które mogą być w te narzędzia wprowadzane. Znaczenie ma również kontekst, w jakim to następuje (np. przeredagowanie tekstu, sprawdzenie dokumentu). Dzięki temu organizacja może podjąć proporcjonalne działania, by wychwycić zagrożenia, np. poprzez zablokowanie możliwości wgrania dokumentu z danymi. Umożliwia to także stworzenie adekwatnej procedury z bezpieczniejszymi alternatywami. Spójna, dopasowana do realiów organizacji i egzekwowana polityka jest tu kluczowa.

FAQ – najczęściej zadawane pytania

Czym jest shadow AI?

Shadow AI to wykorzystywanie przez pracowników narzędzi sztucznej inteligencji bez wiedzy, zgody lub kontroli organizacji. Najczęściej dotyczy korzystania z chatbotów, generatorów treści, asystentów kodowania lub narzędzi do analizy dokumentów poza oficjalnie zatwierdzonym środowiskiem pracy.

Dlaczego shadow AI stanowi zagrożenie dla organizacji?

Największym ryzykiem jest utrata kontroli nad danymi. Pracownicy mogą nieświadomie przekazywać do narzędzi AI dane osobowe, informacje poufne lub tajemnice przedsiębiorstwa, co może prowadzić do naruszenia przepisów oraz wycieku informacji.

Czy korzystanie z ChatGPT przez pracownika może naruszać RODO?

Tak. Jeżeli pracownik wprowadza do narzędzia dane osobowe bez odpowiedniej podstawy prawnej, zgody organizacji lub wymaganych zabezpieczeń, może dojść do naruszenia zasad wynikających z RODO.

Jakie dane nie powinny trafiać do narzędzi AI?

Nie należy przekazywać danych osobowych, danych szczególnych kategorii, informacji objętych tajemnicą przedsiębiorstwa, danych klientów, dokumentacji wewnętrznej oraz innych informacji poufnych, jeśli organizacja nie dopuściła takiego sposobu przetwarzania.

Czy całkowity zakaz korzystania z AI rozwiązuje problem shadow AI?

Nie. Organy nadzorcze wskazują, że całkowite zakazy często prowadzą do jeszcze większego ukrywania korzystania z AI przez pracowników. Skuteczniejsze jest wdrożenie jasnych zasad, procedur oraz bezpiecznych, zatwierdzonych narzędzi.

Jak ograniczyć ryzyko związane z shadow AI?

Podstawą jest stworzenie polityki korzystania z AI, przeprowadzenie oceny ryzyka, określenie dopuszczalnych zastosowań narzędzi, szkolenie pracowników oraz wdrożenie odpowiednich środków technicznych i organizacyjnych.

Kto odpowiada za zgodność korzystania z AI z przepisami?

Odpowiedzialność spoczywa przede wszystkim na administratorze danych osobowych. Organizacja powinna zapewnić odpowiednie procedury, nadzór i środki bezpieczeństwa związane z wykorzystaniem sztucznej inteligencji.

Czy korzystanie z prywatnych kont AI do celów służbowych jest bezpieczne?

Co do zasady nie. Korzystanie z prywatnych kont utrudnia organizacji kontrolę nad przetwarzaniem danych, zwiększa ryzyko wycieku informacji i może prowadzić do naruszenia obowiązujących procedur bezpieczeństwa.

Czy przed wdrożeniem AI należy przeprowadzić ocenę ryzyka?

Tak. Przed wdrożeniem systemów AI organizacja powinna ocenić ryzyka związane z ochroną danych, cyberbezpieczeństwem oraz zgodnością z przepisami. W niektórych przypadkach konieczne może być również przeprowadzenie DPIA.

Jakie elementy powinna zawierać polityka korzystania z AI?

Polityka powinna określać dopuszczone narzędzia AI, cele ich wykorzystania, rodzaje danych, które mogą być przetwarzane, zasady korzystania z wyników, wymagania dotyczące bezpieczeństwa oraz obowiązki pracowników.

Jak shadow AI wpływa na cyberbezpieczeństwo?

Nieautoryzowane narzędzia AI zwiększają powierzchnię ataku, utrudniają monitorowanie przepływu danych i mogą prowadzić do niekontrolowanego udostępniania informacji poza organizację.

Czy AI Act ma znaczenie dla problemu shadow AI?

Tak. Wykorzystywanie narzędzi AI poza kontrolą organizacji może utrudniać spełnienie obowiązków wynikających z AI Act, w tym wymogów dotyczących zarządzania ryzykiem, nadzoru człowieka oraz kompetencji personelu w zakresie AI.