OWASP Top 10 dla aplikacji z Dużymi Modelami Językowymi – Bezpieczeństwo AI w praktyce

Lista OWASP Top 10 dla aplikacji z Dużymi Modelami Językowymi powstała w 2023 r. jako społeczna inicjatywa mająca na celu identyfikację i rozwiązanie problemów związanych z bezpieczeństwem unikalnych dla aplikacji AI. W miarę jak technologia ta gwałtownie rozwija się w różnych branżach, związane z nią czynniki ryzyka rosną równie szybko.

Lista na rok 2025 wprowadza krytyczne aktualizacje, odzwierciedlające lepsze zrozumienie istniejących zagrożeń. Nieograniczone Zużycie Zasobów obejmuje teraz zarządzanie zasobami i nieoczekiwane koszty we wdrożeniach LLM na dużą skalę. Wektory i Embeddingi odnoszą się do potrzeby zabezpieczania technik opartych na RAG i embeddingach. Wyciek Promptu Systemowego został dodany w odpowiedzi na rzeczywiste wycieki danych. Wreszcie, Nadmierna Agentowość została rozszerzona ze względu na wzrost autonomicznych agentów LLM, którzy mogą podejmować ryzykowne działania bez odpowiedniego nadzoru.

Duże modele językowe, takie jak ChatGPT i inne zaawansowane systemy AI, są wdrażane w różnych obszarach, od obsługi klienta po optymalizację procesów wewnętrznych. Ich głębsza integracja z tymi systemami ujawnia nowe luki, które mogą zostać wykorzystane przez złośliwe podmioty. Dodatkowo rozwój tej technologii wymaga od programistów i ekspertów ds. bezpieczeństwa opracowania skutecznych środków zaradczych, aby złagodzić te zagrożenia.

OWASP Top 10 dla LLM służy jako wyselekcjonowana lista najistotniejszych zagrożeń bezpieczeństwa, pomagając organizacjom zabezpieczać ich aplikacje oparte na AI. Dzięki wspólnym wysiłkom globalnej społeczności OWASP, dostarcza ona praktyczny przewodnik po zrozumieniu i łagodzeniu kluczowych podatności.

W miarę jak technologia AI ewoluuje, zmienia się również zakres powiązanych zagrożeń i strategii ochronnych. Podkreśla to znaczenie współpracy społeczności i rolę OWASP w zapewnianiu bezpiecznego rozwoju technologii sztucznej inteligencji.

LLM01:2025 Prompt Injection (Wstrzykiwanie promptu) – Manipulowanie danymi wejściowymi do LLM może prowadzić do nieautoryzowanego dostępu, naruszeń danych i kompromitacji procesów decyzyjnych.

LLM02:2025 Niebezpieczna obsługa wyników – Brak walidacji wyników generowanych przez LLM może prowadzić do podatności, takich jak wykonanie kodu, kompromitacja systemu i wyciek danych.

LLM03:2025 Zatruwanie danych treningowych – Złośliwa modyfikacja danych treningowych może skutkować niebezpiecznym lub nieetycznym zachowaniem modelu AI, prowadząc do szkodliwych skutków.

LLM04:2025 Model Denial of Service (Odmowa usługi modelu) – Przeciążenie LLM operacjami wymagającymi dużej ilości zasobów może zakłócić dostępność usług i zwiększyć koszty operacyjne.

LLM05:2025 Podatności w łańcuchu dostaw – Zależność od skompromitowanych komponentów, usług lub zbiorów danych podważa integralność systemu, ryzykując naruszenie danych lub awarię.

LLM06:2025 Ujawnienie wrażliwych informacji – Brak ochrony przed ujawnianiem poufnych informacji w wynikach LLM może skutkować konsekwencjami prawnymi lub utratą przewagi konkurencyjnej.

LLM07:2025 Nadmierna autonomia AI – Zbyt duże poleganie na systemach AI bez odpowiedniego nadzoru może prowadzić do działań niezgodnych ze standardami etycznymi lub celami biznesowymi.

LLM08:2025 Błędy w sanityzacji danych wejściowych – Niewystarczające filtrowanie danych wejściowych może pozwolić atakującym na wstrzyknięcie szkodliwej lub złośliwej zawartości do systemu.

LLM09:2025 Dezinformacja i misinformacja – Możliwość generowania lub rozpowszechniania fałszywych lub wprowadzających w błąd informacji przez LLM może mieć poważne konsekwencje społeczne, prawne i etyczne.

LLM10:2025 Brak przejrzystości i wyjaśnianności – Modele AI, którym brakuje przejrzystości i które nie mogą wyjaśnić swoich decyzji, wprowadzają znaczne ryzyko w zakresie odpowiedzialności i zaufania.

Przy projektowaniu systemów wykorzystujących zaawansowane modele językowe, takie jak LLaMA, GPT-4 i inne, kluczowe znaczenie ma zapewnienie ich bezpiecznej i spójnej integracji z logiką biznesową. W wielu przypadkach wykorzystanie modeli Gemini 3.0 oraz lokalnych modeli SLM do zarządzania interakcjami użytkowników i procesami decyzyjnymi zapewnia bardziej kontrolowane i przejrzyste podejście do tworzenia rozwiązań. Kluczowym aspektem jest tutaj zapewnienie odpowiednich środków bezpieczeństwa, tak aby sztuczna inteligencja działała w ramach wymagań organizacyjnych, nie narażając systemu na nieautoryzowane zmiany lub wycieki danych. Projektowanie takich systemów wymaga starannej kontroli nad danymi wejściowymi i ciągłego monitorowania wyników generowanych przez LLM w celu identyfikacji i eliminacji potencjalnych zagrożeń. Takie podejście umożliwia tworzenie aplikacji, które są nie tylko innowacyjne, ale także bezpieczne pod względem bezpieczeństwa informacji.

Ten wpis na blogu wykorzystuje materiały licencjonowane na podstawie Creative Commons Attribution-ShareAlike 4.0 (CC BY-SA 4.0). Możesz swobodnie udostępniać, adaptować i wykorzystywać materiały, pod warunkiem podania odpowiednich informacji o autorstwie, wskazania wprowadzonych zmian i dystrybucji wszelkich adaptacji na tej samej licencji.