Czy Shadow AI jest gorsze niż Shadow IT?

Ciche biuro może wyglądać niegroźnie. Rzędy monitorów skąpanych w świetle, słuchawki tłumiące rozmowy i szum pracy trwają bez żadnych oznak, że pod spodem kryje się coś złowrogiego. Ale coraz częściej pojawiają się przypadkowe, niezatwierdzone technologie — tu osobisty folder w chmurze, tam niezatwierdzony chatbot AI. Wkrótce organizacja będzie musiała zarządzać wszystkimi tymi nowymi nieprzewidzianymi ryzykami. Ale shadow IT był tylko pierwszą falą ukrytych zagrożeń. Shadow AI podniosło stawkę.

Czym jest Shadow AI i dlaczego rośnie

Jako rozszerzenie shadow IT, shadow AI dotyczy pracowników korzystających z niezatwierdzonych technologii. Shadow IT zazwyczaj odnosi się do technologii konsumenckich, takich jak aplikacje do udostępniania plików lub urządzenia osobiste. Shadow AI zwykle obejmuje szybko działające, głodne danych systemy, których zachowanie może być nieprzewidywalne.

\ Według badań przeprowadzonych przez Gartner, 80% organizacji doświadcza luk w zarządzaniu danymi. Te luki ułatwiają ludziom przeoczenie zachowań generowanych przez AI. Wiele zespołów nie przechodzi ocen gotowości do cyberbezpieczeństwa. Ryzyko związane z AI wzrasta, gdy pracownicy przyjmują nowe narzędzia szybciej, niż ich zespoły mogą je odpowiednio przeanalizować. Ponieważ 30% naruszeń danych pochodzi od dostawców lub sprzedawców, znajomość narzędzi używanych przez zespół jest kluczowym elementem zabezpieczania cyfrowych zasobów firmy.

\ Shadow AI zyskało na popularności, ponieważ pracownicy postrzegają treści generowane przez AI jako szybszy sposób tworzenia treści, podsumowywania złożonych informacji i rozwiązywania problemów technicznych. Zmniejsza to tarcie w codziennej pracy, ale wprowadza ryzyka wcześniej nieobserwowane w przypadku shadow IT, w tym ekspozycję danych, ryzyko zgodności i ryzyka na poziomie modelu.

Shadow AI kontra Shadow IT

Shadow IT od dawna jest obwiniane za nieznane luki w zabezpieczeniach. Wysoki odsetek wcześniejszych naruszeń wynikał z niepodpisanych narzędzi SaaS lub osobistych magazynów danych. Narzędzia AI całkowicie zmieniają równanie. Skala i szybkość, z jaką działają, wraz z ich nieprzejrzystością, tworzą ryzyka, które są trudniejsze do wykrycia i opanowania.

\ Przy 78% organizacji wykorzystujących AI w produkcji, niektóre naruszenia wynikają teraz z niezarządzanej ekspozycji technologicznej. Większy model IT nadal ma znaczenie, ale AI wprowadza nowy wymiar poszerzający powierzchnię ataku.

Kluczowe różnice między Shadow AI a Shadow IT

Shadow AI jest podobne do shadow IT, ponieważ oba wynikają z pragnienia pracownika, aby być bardziej produktywnym, ale różnią się miejscem występowania ryzyka.

• Narzędzia Shadow IT mają stałą logikę, co czyni zachowanie przewidywalnym. Prognozowanie zachowania narzędzi shadow AI jest bardziej złożone, ponieważ modele mogą być ciągle modyfikowane i ponownie trenowane.
• Ryzyka Shadow IT obejmują przechowywanie lub przenoszenie danych bez autoryzacji. Ryzyka Shadow AI obejmują inwersję modelu, zatrucie danych i trenowanie modelu.
• Shadow IT jest deterministyczne, podczas gdy narzędzia AI mogą halucynować, słabo generalizować i z nadmierną pewnością produkować niepoprawne wyniki.

\ Shadow AI pojawia się również w kontekście nadchodzących regulacji, takich jak Akt o Sztucznej Inteligencji UE, który może zwiększyć nadzór regulacyjny.

Ryzyka bezpieczeństwa, które czynią Shadow AI bardziej pilnym

Shadow AI może prowadzić do problemów w inżynierii, marketingu i finansach. Gdy decyzje są podejmowane na podstawie wyników AI, zastrzeżone dane mogą wyciekać, a wewnętrzne procesy biznesowe mogą być manipulowane bez niczyjej wiedzy.

\

• Manipulacja modelem: Atakujący mogą tworzyć dane, które zniekształcają wyniki.
• Ekspozycja na wstrzykiwanie promptów: Utworzony prompt może być użyty do wydobycia prywatnych informacji z modelu.
• Luki w linii pochodzenia danych: Narzędzia AI mogą generować i przechowywać dane w sposób, którego zespoły bezpieczeństwa nie mogą śledzić.
• Dryf zgodności: Narzędzia AI zmieniają się, a ewoluujące plany zarządzania mogą stać się nieistotne.

\ Obawy rosną wraz z pojawieniem się generatywnej AI. Chatbot odpowiadający na pytanie dostawcy lub podsumowanie generatywnej AI może wydawać się nieszkodliwe, ale ryzykuje ujawnienie wrażliwych danych użytkowania lub cennej zastrzeżonej własności intelektualnej. Uniwersytet Carnegie Mellon odkrył, że duże modele językowe są znacznie bardziej podatne na wrogie prompty niż systemy oparte na regułach. Problem nasila się, gdy pracownicy mogą korzystać z narzędzi bez nadzoru.

\ Drzewo decyzyjne wspomagane przez AI może być bardziej stronnicze niż konwencjonalne drzewo decyzyjne. Shadow AI często otrzymuje niekompletne informacje szkoleniowe wprowadzane do narzędzi stron trzecich. Ustrukturyzowany nadzór nad systemami AI zapewniłby integralność aktualizacji. Gdy zespoły to przeoczą, dane i zachowanie modelu dryfują.

Jak zespoły bezpieczeństwa mogą zmniejszyć ekspozycję na Shadow AI

Chociaż shadow AI stwarza liczne ryzyka, organizacje mogą złagodzić wiele z nich, łącząc widoczność z polityką i kontrolami technicznymi, znajdując równowagę, która chroni produktywność pracowników bez obciążania ich czasochłonnymi kontrolami lub blokowanymi stronami. Zespoły bezpieczeństwa korzystają z traktowania shadow AI jako kwestii zarządzania, a nie kary. Strategie łagodzenia będą nieuchronnie musiały ewoluować, gdy pracownicy używają narzędzi AI do poprawy produktywności.

1. Zbuduj jasne ramy zarządzania AI

Plan zarządzania powinien określać, które narzędzia AI zatwierdzić, jakie rodzaje danych pracownicy mogą wykorzystywać, jak przeglądać wyniki modelu przed podejmowaniem decyzji o wysokim ryzyku oraz co robić, gdy wystąpi nieprzewidywalne zachowanie modelu. Ten ostatni element obejmuje, kto przegląda zachowanie, kto bada jego przyczyny i jakie są konsekwencje.

\ Mając nadzór, organizacje mogą traktować AI jak każdy inny zasób przedsiębiorstwa, podlegający tym samym obowiązkom w zakresie identyfikowalności, audytowalności, bezpieczeństwa i zgodności, co inne starsze systemy przedsiębiorstwa.

2. Zapewnij zatwierdzone narzędzia AI

Zespoły z dostępem do sprawdzonych, scentralizowanych narzędzi AI są mniej skłonne do korzystania z niezatwierdzonych publicznych AI w celu obejścia blokad. W miarę automatyzacji pracy personel będzie wkładać więcej wysiłku w różne modele. Pracownicy już teraz spędzają około 4,6 godziny tygodniowo, korzystając z AI w pracy, przekraczając średni czas użytkowania osobistego wynoszący 3,6 godziny tygodniowo. AI od stron trzecich, bez odpowiedniego monitorowania, może już być bardziej powszechne niż narzędzia przedsiębiorstwa, które są sprawdzone i zatwierdzone. Firmy powinny podjąć natychmiastowe kroki w celu egzekwowania swoich polityk.

\ Dzięki zarządzanemu środowisku organizacje mogą monitorować użycie poprzez narzędzia, ustawiać uprawnienia w bazach danych i egzekwować zarządzanie danymi w różnych działach. Poprawia to produktywność pracowników, jednocześnie chroniąc integralność danych i zgodność biznesu.

3. Monitoruj przepływ danych i użycie modelu

Narzędzia widoczności, które flagują nietypowe zachowania — takie jak nagły wzrost użycia AI, przesyłanie danych do nietypowych punktów końcowych lub dostęp do modelu w krótkim czasie z wrażliwymi danymi — mogą pomóc zespołom bezpieczeństwa zidentyfikować nadużycia i wycieki danych. Raporty wskazują, że w ciągu ostatniego roku nawet 60% pracowników korzystało z niezatwierdzonych narzędzi AI, a 93% przyznało się do wprowadzania danych firmowych bez autoryzacji.

\ Wczesne wykrywanie tych wzorców może umożliwić naprawę, ponowną edukację, rekonfigurację uprawnień lub zakończenie procesu, zanim doprowadzi do wycieku danych lub naruszeń zgodności.

4. Szkolenie pracowników w zakresie specyficznych ryzyk AI

Ogólne szkolenie z cyberbezpieczeństwa nie wystarczy. AI może halucynować, błędnie interpretując intencje stojące za promptami i generując pozornie autorytatywne, fałszywe lub stronnicze treści. Dodatkowo pracownicy muszą zrozumieć, że korzystanie z AI różni się od korzystania z oprogramowania lub usług. Bezpieczne użycie wymaga zmiany modeli mentalnych, zrozumienia ryzyk związanych z promptami i obsługi danych osobowych.

\ Użytkownicy z podstawową znajomością maszyn będą sprawdzać fakty w wynikach i będą mniej skłonni do nadmiernego udostępniania danych osobowych. Będą traktować narzędzia jako cenne kopiloty, ale muszą być używane pod nadzorem człowieka.

Ochrona organizacji przed Shadow AI

Shadow AI rośnie szybciej i jest trudniejsze do zidentyfikowania niż shadow IT. Chociaż skala i złożoność ryzyk różnią się, pozyskanie pomocy pracowników może skuteczniej zidentyfikować oba. Polityki zarządzania mogą pomóc firmom znaleźć właściwą równowagę. Zespoły bezpieczeństwa powinny ponownie ocenić swoją ekspozycję, zachować czujność wobec pojawiających się zagrożeń i działać szybko, zanim niewidoczne narzędzia oparte na AI podejmą kluczowe decyzje w aplikacjach biznesowych.