NCSC w opublikowanym 7 września materiale „The hidden risks of shadow AI” opisuje używanie AI poza zatwierdzonymi systemami i procesami organizacji. Wskazuje przy tym ryzyko utraty widoczności nad informacjami wysyłanymi do usług konsumenckich. Dla zarządzających to powód, by sprawdzić, jakich narzędzi pracownicy potrzebują, jakie dane im przekazują i jak mogą uzyskać zgodę na bezpieczną alternatywę.
Czy potrafisz wskazać drogę od chwili, gdy pracownik zgłasza, że chce użyć AI, do decyzji o narzędziu, z którego może skorzystać? Odpowiedź „mamy procedurę” zostawmy na chwilę obok. Otwórzmy ją i spróbujmy ustalić, gdzie zgłosić potrzebę, kto ją ocenia oraz jak pracownik dowie się o wyniku. Następnie zapytajmy o usługę rzeczywiście używaną do wykonania zadania. To proponowany punkt wyjścia do przeglądu, a nie opis zdarzenia w konkretnej firmie. Definicja NCSC daje ramę takiej rozmowie, lecz nie podaje odpowiedzi za nasz zespół. Poniższe zalecenia redakcyjne służą zebraniu tych odpowiedzi: nazwy usługi, zakresu przekazywanych informacji i dostępnej ścieżki zatwierdzenia alternatywy.
Shadow AI rozpoznawaj po użyciu poza zatwierdzonym procesem
Według NCSC shadow AI oznacza użycie AI poza zatwierdzonymi systemami i procesami organizacji. W przeglądzie zestawmy więc nazwę używanej usługi z konkretnym sposobem jej wykorzystania i obowiązującą zgodą. Poprośmy pracownika o opis zadania, do którego potrzebuje narzędzia. Następnie sprawdźmy, czy opisane działanie mieści się w zatwierdzonym procesie. Przy niejasnej odpowiedzi zapiszmy, co wymaga wyjaśnienia, zamiast samodzielnie dopowiadać zakres zgody.
Drugie ustalenie dotyczy informacji przekazywanych do usługi. NCSC wskazuje ryzyko utraty widoczności nad danymi wysyłanymi do konsumenckich narzędzi AI. Poprośmy zatem o określenie zakresu takich informacji, bez ponownego przesyłania ich do narzędzia na potrzeby przeglądu. Oddzielmy opis tego, co faktycznie przekazano, od tego, co pracownik dopiero zamierza wykorzystać.
Przy każdej usłudze zapiszmy także źródło ustalenia: odpowiedź pracownika albo dostępną dokumentację zatwierdzenia. Jeżeli zakres danych pozostaje nieznany, właśnie tak oznaczmy go w zestawieniu. Na podstawie samej nazwy narzędzia nie rozstrzygajmy, czy doszło do ujawnienia informacji. Zachowajmy rozróżnienie między wskazanym ryzykiem a potwierdzonym zdarzeniem.
Przegląd shadow AI zacznij od połączenia usługi, zadania i przekazywanych danych.
Powód obejścia procedury ustal w rozmowie o zadaniu
Do definicji NCSC dołóżmy pytanie o potrzebę pracownika: co chciał osiągnąć, gdy sięgnął po daną usługę AI? Nie wpisujmy przyczyny za rozmówcę. Poprośmy o wskazanie konkretnego zadania oraz wyjaśnienie, dlaczego wybrał właśnie tę drogę. Jeśli zgłaszał wcześniej potrzebę narzędzia, sprawdźmy, dokąd trafiło zgłoszenie i jaką otrzymał odpowiedź. Brak takich informacji pozostawmy jako otwarte pytanie.
Zderzenie procedury z praktyką przeprowadźmy na tym samym zadaniu. Poprośmy osobę odpowiedzialną za zatwierdzanie AI o wskazanie dopuszczonego sposobu jego wykonania. Następnie zweryfikujmy z pracownikiem, czy wskazane narzędzie odpowiada opisanej potrzebie. Jeżeli odpowiedzi się różnią, zapiszmy dokładnie, jakiej funkcji lub decyzji dotyczy rozbieżność. Nie zastępujmy jej ogólną oceną nastawienia zespołu do bezpieczeństwa.
Ścieżkę zgłoszenia alternatywy sprawdźmy od strony osoby, która ma z niej skorzystać. Niech wskaże miejsce złożenia wniosku i informację potrzebną do jego rozpatrzenia. Jeśli instrukcja nie pozwala wykonać następnego kroku, zanotujmy konkretny brak do uzupełnienia. Dostępność tej drogi oceńmy na podstawie przejścia przez instrukcję, bez zakładania z góry wyniku.
Zarządowi przedstaw potrzebę i decyzję o alternatywie
Ryzyko wskazane przez NCSC przełóżmy na zakres decyzji zarządczej: które użycie AI wymaga wyjaśnienia, jakie informacje są z nim związane i kto ma ocenić bezpieczną alternatywę. Do omówienia wybierzmy rozpoznane zadanie pracownika. Przygotujmy opis potrzeby wraz z ustalonym zakresem danych oraz pytaniami, na które nadal brakuje odpowiedzi.
Osobę zatwierdzającą narzędzie poprośmy o określenie dopuszczonego zastosowania i warunków przekazywania informacji. Jeżeli do decyzji potrzebuje dodatkowych ustaleń, przypiszmy ich zebranie konkretnej osobie i uzgodnijmy termin odpowiedzi. Pracownikowi przekażmy wynik odnoszący się do zgłoszonego zadania. Sprawdźmy też, czy ma dostęp do wskazanej usługi i rozumie zakres zgody.
Nie przypisujmy proponowanej zmianie procedury oszczędności ani spadku ryzyka o nieustalonej skali. W raporcie pokażmy, które potrzeby uzyskały rozstrzygnięcie, a które nadal czekają na ocenę. Przy nieznanym zakresie informacji wysłanych do usługi zachowajmy tę niewiadomą także w materiale dla zarządu. Nie zamykajmy jej samą decyzją o wyborze innego narzędzia.
Bezpieczną alternatywę oceniaj razem z potrzebą pracownika i zakresem danych dopuszczonych do użycia.
W polskiej firmie sprawdź własną ścieżkę zgłoszenia
Definicję NCSC wykorzystajmy do przeglądu we własnej organizacji, bez przypisywania jej z góry problemów innych podmiotów. Materiał przyjęty do tego artykułu nie daje podstaw do określenia skali shadow AI w Polsce ani do wskazania polskich ofiar. Nie wyprowadzajmy z niego również wniosku o wzroście shadow AI w ostatnich miesiącach. Odpowiedzi dotyczące własnej firmy zbierzmy u jej pracowników.
Na początek ograniczmy przegląd do wybranego zespołu i jego zgłoszonych potrzeb. Przy przedstawianiu wyników nazwijmy ten zakres, aby nie rozszerzać odpowiedzi rozmówców na całą organizację. Używane usługi zestawmy z obowiązującymi u nas zasadami. Przy braku potwierdzenia zatwierdzenia poprośmy o wyjaśnienie osobę odpowiedzialną za proces.
W lokalnej instrukcji sprawdźmy moment, w którym pracownik nie znajduje narzędzia odpowiadającego zadaniu. Wskażmy mu dostępną drogę zgłoszenia potrzeby i odbiorcę tego zgłoszenia. Jeśli taka droga wymaga dopiero ustalenia, nazwijmy to zadaniem organizacyjnym. Nie przedstawiajmy planowanej ścieżki jako już dostępnej ani proponowanej alternatywy jako już zatwierdzonej.
Co z tym zrobić w poniedziałek
- W 30 minut porozmawiaj z pracownikiem wybranego zespołu o używanym narzędziu AI. Zapisz nazwę usługi, wykonywane zadanie i powód wyboru. Jeśli jej nie używa, odnotuj odpowiedź bez dopisywania motywacji.
- W 30 minut uzupełnij opis tej usługi o zakres przekazywanych informacji i dostępne potwierdzenie zatwierdzenia. Oddziel ustalenia od niewiadomych; przy brakach zapisz, do kogo skierować pytanie.
- W 30 minut przejdź dostępną instrukcję zgłoszenia alternatywy. Wskaż miejsce złożenia wniosku i osobę odpowiedzialną za decyzję. Jeśli któregoś z nich nie ma, zgłoś, czego w procedurze brakuje.
Od zarządzania AI wymagajmy odpowiedzi na zadanie pracownika oraz decyzji o narzędziu i danych. Powód obejścia procedury ustalajmy z osobą, która wybrała daną usługę. Za warunek zamknięcia przeglądu przyjmijmy rozstrzygnięcie zgłoszonej potrzeby wraz ze wskazaniem dostępnej, bezpiecznej drogi wykonania pracy.
Źródła
Redakcja cyberinsight.pl.