Shadow AI

Shadow AI to zjawisko, w którym pracownicy korzystają z narzędzi sztucznej inteligencji — czatbotów, generatorów tekstu czy wtyczek — bez wiedzy i zgody działów IT oraz bezpieczeństwa. Nazwa nawiązuje do szerszego pojęcia shadow IT, czyli nieautoryzowanego oprogramowania w organizacji. Najczęściej nie wynika ze złych intencji: ktoś chce szybciej wykonać zadanie i wkleja firmowe dane do publicznego narzędzia, nie wiedząc, jak są one dalej przetwarzane ani przechowywane.

Problem jest przede wszystkim związany z danymi i zgodnością. Treści wprowadzone do zewnętrznego modelu mogą opuścić kontrolowane środowisko, co podważa prywatność danych i może naruszać RODO lub zobowiązania umowne wobec klientów. Brak rejestru takich narzędzi oznacza też, że organizacja nie jest w stanie przeprowadzić rzetelnego audytu AI ani odpowiedzieć na pytanie, gdzie i w jakim celu sztuczna inteligencja jest faktycznie używana.

Skuteczną odpowiedzią rzadko jest całkowity zakaz, bo ten zwykle spycha użycie jeszcze głębiej w cień. W praktyce wdraża się governance AI: inwentaryzację używanych narzędzi, jasne zasady, jakie dane wolno przekazywać, oraz udostępnienie zatwierdzonych, bezpiecznych alternatyw, które zaspokajają realną potrzebę pracowników bez narażania firmy.