Site icon Kolejna witryna WordPress

Systemy wysokiego ryzyka w AI Act: kategorie i test

Lupa nad sylwetką symbolizującą AI, dokument i tarcza jako ilustracja oceny ryzyka systemu.

Ilustracja koncepcyjna oceny ryzyka systemów sztucznej inteligencji.

Ostatnia aktualizacja: październik 2026 · Stan prawny: skonsolidowany tekst AI Act po zmianach z rozporządzenia (UE) 2026/1744 i ustawa Dz.U. 2026 poz. 1003

AI Act dzieli systemy sztucznej inteligencji na cztery kategorie ryzyka: niedopuszczalne (zakazane), wysokie (surowe obowiązki), ograniczone (obowiązki przejrzystości) i minimalne (brak szczególnych wymogów). System wysokiego ryzyka to AI będąca elementem bezpieczeństwa produktu z załącznika I albo AI używana w jednym z ośmiu obszarów z załącznika III, np. w rekrutacji, ocenie zdolności kredytowej, edukacji czy biometrii. Po Digital Omnibus wymogi dla systemów z załącznika III obowiązują od 2 grudnia 2027 r., a dla produktów z załącznika I od 2 sierpnia 2028 r.

Art. 5 · 6 · 50Załącznik III: 8 obszarówNadzór w PL: KRiBSI

Porównaliśmy osiem polskich artykułów, które Google pokazuje najwyżej na frazę „systemy wysokiego ryzyka AI Act”. Wszystkie wymieniają cztery kategorie i obszary z załącznika III. Żaden nie prowadzi czytelnika krok po kroku przez klasyfikację własnego systemu. Żaden nie zestawia kar z kategoriami ryzyka i żaden nie wyjaśnia, kto w Polsce będzie te kategorie egzekwował. Ten tekst uzupełnia te braki. Pełny przegląd regulacji i harmonogramu znajdziesz w artykule AI Act w Polsce 2026.

Jakie są kategorie ryzyka w AI Act?

KategoriaPodstawaCo oznaczaOd kiedyKara maksymalna
Ryzyko niedopuszczalneart. 5Całkowity zakaz2.02.2025; nowe zakazy od 2.12.202635 mln € lub 7% obrotu
Wysokie ryzykoart. 6, zał. I i IIIZarządzanie ryzykiem, jakość danych, rejestrowanie zdarzeń, nadzór człowieka, ocena zgodności, rejestracjazał. III: 2.12.2027 · zał. I: 2.08.202815 mln € lub 3%
Ograniczone ryzykoart. 50Przejrzystość: informacja o rozmowie z AI, oznaczanie deepfake’ów i treści syntetycznych2.08.202615 mln € lub 3%
Minimalne ryzyko—Brak szczególnych obowiązków, dobrowolne kodeksy postępowania——

Kategoria zależy od zastosowania, a nie od technologii. Ten sam model może być systemem minimalnego ryzyka w filtrze antyspamowym i systemem wysokiego ryzyka, gdy ocenia kandydatów do pracy. Modele AI ogólnego przeznaczenia (GPAI), np. duże modele językowe, są poza tym podziałem. Obowiązuje je osobny reżim z art. 51–55. Produkt zbudowany na takim modelu klasyfikuje się według celu, któremu służy. MŚP i start-upy płacą niższą z dwóch kwot kary. Szczegóły i przeliczenia w złotych są w tekście Kary AI Act 2026.

Jakie praktyki AI są zakazane?

Artykuł 5 zakazuje:

  • technik podprogowych, manipulacyjnych i wprowadzających w błąd, które istotnie zniekształcają zachowanie i wyrządzają poważną szkodę;
  • wykorzystywania słabości wynikających z wieku, niepełnosprawności lub sytuacji społeczno-ekonomicznej;
  • scoringu społecznego prowadzącego do nieuzasadnionego lub nieproporcjonalnego krzywdzącego traktowania;
  • przewidywania ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania lub cech osobowości;
  • nieukierunkowanego pozyskiwania wizerunków twarzy z internetu lub monitoringu do baz rozpoznawania twarzy;
  • rozpoznawania emocji w miejscu pracy i w szkole, poza względami medycznymi i bezpieczeństwa;
  • kategoryzacji biometrycznej w celu ustalenia rasy, poglądów politycznych, przynależności związkowej, religii lub orientacji seksualnej;
  • zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania, z wąskimi wyjątkami;
  • od 2 grudnia 2026 r. (zmiana z Omnibusa) systemów generujących intymne treści bez zgody oraz materiały przedstawiające wykorzystywanie seksualne dzieci.

Kiedy system AI jest systemem wysokiego ryzyka?

Artykuł 6 przewiduje dwie drogi.

  1. Załącznik I, czyli produkty. AI jest elementem bezpieczeństwa produktu objętego unijnym prawodawstwem harmonizacyjnym (maszyny, zabawki, wyroby medyczne, dźwigi, urządzenia radiowe i inne) albo sama jest takim produktem, i produkt wymaga oceny zgodności przez stronę trzecią. Omnibus doprecyzował, że funkcje, które tylko pomagają użytkownikowi lub optymalizują działanie, nie są elementami bezpieczeństwa.
  2. Załącznik III, czyli zastosowania. AI ma służyć celom w jednym z ośmiu obszarów:
Obszar z załącznika IIIPrzykładowe systemy wysokiego ryzyka
1. BiometriaZdalna identyfikacja biometryczna (nie sama weryfikacja tożsamości), kategoryzacja według cech wrażliwych, rozpoznawanie emocji
2. Infrastruktura krytycznaElementy bezpieczeństwa w infrastrukturze cyfrowej, ruchu drogowym, dostawach wody, gazu, ciepła i prądu
3. EdukacjaRekrutacja do szkół i na studia, ocenianie sterujące nauką, ocena poziomu wykształcenia, wykrywanie ściągania na egzaminach
4. ZatrudnienieKierowanie ogłoszeń, selekcja CV, ocena kandydatów, awanse, zwolnienia, przydział zadań, monitorowanie wyników
5. Usługi podstawowePrawo do świadczeń publicznych, ocena zdolności kredytowej (bez wykrywania oszustw), wycena ubezpieczeń na życie i zdrowotnych, triaż zgłoszeń alarmowych
6. Ściganie przestępstwOcena ryzyka wiktymizacji, narzędzia typu wariograf, ocena wiarygodności dowodów, ryzyko recydywy, profilowanie w śledztwach
7. Migracja i graniceNarzędzia typu wariograf, ocena ryzyka bezpieczeństwa lub zdrowia, wnioski azylowe i wizowe, wykrywanie osób
8. Wymiar sprawiedliwości i demokracjaWsparcie sądów w ustalaniu faktów i stosowaniu prawa, systemy mające wpływać na wynik wyborów

Kiedy system z załącznika III nie jest wysokiego ryzyka?

Zgodnie z art. 6 ust. 3 system z załącznika III nie jest systemem wysokiego ryzyka, jeśli nie stwarza istotnego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych i spełnia co najmniej jeden z czterech warunków. Musi:

  • wykonywać wąsko określone zadanie proceduralne, np. sortować wpływające dokumenty według kategorii;
  • poprawiać wynik wcześniej zakończonej czynności człowieka, np. redagować językowo gotowe pismo;
  • wykrywać wzorce lub odchylenia w decyzjach bez zastępowania oceny człowieka i bez wpływania na nią;
  • wykonywać zadanie przygotowawcze do oceny, np. tłumaczyć dokumenty z wniosku.

Dwie pułapki. Po pierwsze, system, który profiluje osoby fizyczne, jest zawsze systemem wysokiego ryzyka, więc wyjątek go nie obejmuje. Po drugie, skorzystanie z wyjątku nie zwalnia z obowiązków. Dostawca musi udokumentować swoją ocenę i zarejestrować system w unijnej bazie danych (art. 49 ust. 2). Komisja proponowała w Omnibusie zniesienie tej rejestracji, ale Parlament i Rada ją utrzymały. Ograniczyły jedynie zakres wymaganych danych.

Jak krok po kroku sklasyfikować swój system AI?

Test klasyfikacji systemu AI według AI Act w 7 krokach Schemat decyzyjny. Najpierw sprawdź zakazy z art. 5, potem drogę produktową z załącznika I i obszary z załącznika III. Profilowanie zawsze oznacza wysokie ryzyko. W przeciwnym razie możliwy jest wyjątek z art. 6 ust. 3, z obowiązkiem dokumentacji i rejestracji. Systemy rozmawiające z ludźmi lub generujące treści podlegają przejrzystości z art. 50. Pozostałe to minimalne ryzyko. Klasyfikacja systemu AI według AI ActDecodeTheFuture.orgsystemy wysokiego ryzyka ai act, kategorie ryzyka ai act, załącznik III, art. 6 ust. 3, art. 50Schemat klasyfikacji systemu AI po zmianach z rozporządzenia (UE) 2026/1744.Diagramimage/svg+xmlpl© DecodeTheFuture.org 1. Czy to system AI w rozumieniu art. 3 pkt 1? Nie → poza AI Act 2. Czy zastosowanie jest zakazane przez art. 5? Tak → zakaz 3. Element bezpieczeństwa produktu z załącznika I? Tak → wysokie (2028) 4. Cel w jednym z 8 obszarów z załącznika III? Nie → krok 6 5. Profiluje osoby? → wysokie. Jeśli nie: warunek z art. 6(3)? Nie → wysokie(2.12.2027) Tak → nie wysokie, ale dokumentacja + rejestracja (art. 49 ust. 2) 6. Rozmawia z ludźmi, generuje treści, deepfake’i lub rozpoznaje emocje? Tak → ograniczone(art. 50) 7. Nic z powyższych? → minimalne ryzyko Powtórz test przy każdej zmianie przeznaczenia systemu. Modele GPAI: osobny reżim (art. 51–55).

Test stosuj do przeznaczenia opisanego w dokumentacji i materiałach marketingowych, a nie do technicznych możliwości modelu. Jeśli firma używa ogólnego narzędzia do celu z załącznika III, np. ogólnego chatbota do wstępnej selekcji kandydatów, może na mocy art. 25 stać się dostawcą systemu wysokiego ryzyka.

Czy mój system to wysokie ryzyko? Przykłady

ZastosowanieKategoriaDlaczego
Chatbot obsługi klientaOgraniczoneMusi informować, że jest AI (art. 50 ust. 1). Wysokie ryzyko tylko wtedy, gdy rozstrzyga sprawy z załącznika III. Więcej w tekście agenci AI a chatboty
Selekcja CV, ranking kandydatówWysokieZałącznik III pkt 4 lit. a; zwykle obejmuje profilowanie, więc wyjątek z art. 6 ust. 3 nie działa
Scoring kredytowy w bankuWysokie + FRIAZałącznik III pkt 5 lit. b; podmiot stosujący musi ocenić skutki dla praw podstawowych. Zobacz ocenę zdolności kredytowej przez AI
Wykrywanie oszustw płatniczychNie wysokie z pkt 5 lit. bWprost wyłączone z pozycji o scoringu kredytowym
Proctoring wykrywający ściąganieWysokieZałącznik III pkt 3 lit. d
Rozpoznawanie emocji pracownikówZakazaneArt. 5 ust. 1 lit. f; poza pracą i szkołą to wysokie ryzyko (zał. III pkt 1 lit. c)
AI diagnostyczna w wyrobie medycznymWysokie (zał. I)Wymaga oceny jednostki notyfikowanej; od 2 sierpnia 2028 r.
Generator obrazów AIOgraniczoneOznaczanie treści w formacie odczytywalnym maszynowo, ujawnianie deepfake’ów
Filtr antyspamowy, rekomendacje w sklepieMinimalneBrak szczególnych obowiązków

Jakie obowiązki mają dostawca i podmiot stosujący?

Dostawca, czyli twórca systemu lub firma wprowadzająca go pod własną nazwą, ponosi większość obowiązków. Musi zapewnić system zarządzania ryzykiem, zarządzanie danymi, dokumentację techniczną, automatyczne rejestrowanie zdarzeń, instrukcję obsługi, nadzór człowieka, dokładność i cyberbezpieczeństwo oraz system zarządzania jakością. Musi też przeprowadzić ocenę zgodności, nanieść oznakowanie CE i zarejestrować system w bazie UE (art. 9–17, 43, 49). Podmiot stosujący, czyli firma lub urząd używający systemu, stosuje się do instrukcji, wyznacza kompetentny nadzór człowieka, monitoruje działanie, przechowuje logi co najmniej 6 miesięcy i informuje pracowników, których system dotyczy (art. 26).

Ocena skutków dla praw podstawowych (FRIA) z art. 27 ma węższy zakres, niż sugeruje wiele poradników. Dotyczy podmiotów prawa publicznego i prywatnych podmiotów świadczących usługi publiczne, a także każdego podmiotu stosującego scoring kredytowy (zał. III pkt 5 lit. b) lub wycenę ubezpieczeń na życie i zdrowotnych (pkt 5 lit. c). Trzeba ją przeprowadzić przed pierwszym użyciem i zgłosić wyniki organowi nadzoru rynku. Systemy infrastruktury krytycznej (pkt 2) są z tego obowiązku zwolnione. Organy publiczne rejestrują ponadto samo użycie systemu w bazie UE (art. 49 ust. 3).

Kto w Polsce nadzoruje systemy wysokiego ryzyka?

AI Act jako rozporządzenie stosuje się bezpośrednio. Nadzór i kary organizuje jednak ustawa z 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003), która weszła w życie 11 sierpnia 2026 r. Organem nadzoru rynku jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). W jej składzie zasiadają m.in. przedstawiciele UOKiK, UKE, KNF i KRRiT. Przepisy o kontrolach, postępowaniach i karach stosuje się od 28 października 2026 r. Dla systemów wysokiego ryzyka oznacza to praktycznie tyle, że gdy w grudniu 2027 r. zaczną obowiązywać wymogi z załącznika III, organ będzie już miał rok doświadczenia z egzekwowaniem zakazów i obowiązków przejrzystości.

Co jest jeszcze niepewne?

Artykuł 6 ust. 5 zobowiązywał Komisję do wydania wytycznych o klasyfikacji systemów wysokiego ryzyka do 2 lutego 2026 r. Termin nie został dotrzymany. Projekt wytycznych opublikowano 19 maja 2026 r., konsultacje trwały do 23 czerwca, a wersja ostateczna ma się ukazać do końca 2026 r. Do tego czasu przypadki graniczne, zwłaszcza warunki z art. 6 ust. 3, zależą od własnej, dobrze udokumentowanej oceny. Trwają też prace nad normami zharmonizowanymi. To jeden z powodów, dla których Omnibus przesunął termin dla załącznika III na grudzień 2027 r.

Co to oznacza w praktyce?

Zacznij od inwentaryzacji, nie od polityki. Spisz każdy system AI, który tworzysz lub kupujesz, opisz jego przeznaczenie jednym zdaniem i przeprowadź test z siedmiu kroków. Większość firm odkrywa, że większość ich systemów to minimalne lub ograniczone ryzyko. Prawdziwa praca dotyczy kilku systemów z obszaru rekrutacji, kredytów, ubezpieczeń, edukacji lub biometrii i na nie warto przeznaczyć 14 miesięcy, które zostały do grudnia 2027 r. Jak powiązać klasyfikację z istniejącym systemem zarządzania ryzykiem, opisujemy w tekście Zarządzanie ryzykiem AI: NIST, ISO 42001 i AI Act. Wersja angielska tego przewodnika: EU AI Act risk categories.

FAQ

Jakie są kategorie ryzyka w AI Act?

Cztery: ryzyko niedopuszczalne (praktyki zakazane przez art. 5), wysokie ryzyko (produkty z załącznika I i zastosowania z załącznika III), ograniczone ryzyko (obowiązki przejrzystości z art. 50) oraz minimalne ryzyko (brak szczególnych obowiązków).

Czy chatbot jest systemem wysokiego ryzyka?

Domyślnie nie. Chatbot to system ograniczonego ryzyka i musi informować, że użytkownik rozmawia z AI. Wysokim ryzykiem staje się dopiero wtedy, gdy służy celowi z załącznika III, np. selekcji kandydatów do pracy albo decyzjom o świadczeniach.

Od kiedy obowiązują wymogi dla systemów wysokiego ryzyka?

Po zmianach z rozporządzenia (UE) 2026/1744 wymogi dla systemów z załącznika III obowiązują od 2 grudnia 2027 r., a dla AI w produktach z załącznika I od 2 sierpnia 2028 r.

Czy system z załącznika III może nie być wysokiego ryzyka?

Tak, na podstawie art. 6 ust. 3, jeśli nie stwarza istotnego ryzyka i wykonuje tylko zadanie proceduralne, poprawiające, wykrywające wzorce lub przygotowawcze. Wyjątek nie obejmuje systemów profilujących osoby, a dostawca i tak musi udokumentować ocenę i zarejestrować system.

Kto musi przeprowadzić ocenę skutków dla praw podstawowych (FRIA)?

Podmioty prawa publicznego i prywatne podmioty świadczące usługi publiczne, które stosują systemy wysokiego ryzyka, oraz każdy podmiot stosujący AI do oceny zdolności kredytowej lub wyceny ubezpieczeń na życie i zdrowotnych.

Kto w Polsce nakłada kary za naruszenie AI Act?

Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) na podstawie ustawy o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003). Przepisy o kontrolach i karach stosuje się od 28 października 2026 r.

Źródła i metodologia

  1. Rozporządzenie (UE) 2024/1689 (AI Act), wersja skonsolidowana z 27 lipca 2026 r. — EUR-Lex.
  2. Rozporządzenie (UE) 2026/1744 (Digital Omnibus on AI) — Dziennik Urzędowy UE.
  3. Ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji, Dz.U. 2026 poz. 1003 — ISAP (Sejm).
  4. AI Act, art. 6 — zasady klasyfikacji systemów wysokiego ryzyka.
  5. AI Act, załącznik III — systemy AI wysokiego ryzyka.
  6. AI Act, art. 27 — ocena skutków dla praw podstawowych.
  7. AI Act, art. 49 — rejestracja.
  8. Komisja Europejska — konsultacje projektu wytycznych w sprawie klasyfikacji systemów wysokiego ryzyka (2026).

Metoda: 1 października 2026 r. porównaliśmy osiem najwyżej pozycjonowanych polskich artykułów o systemach wysokiego ryzyka z 20 praktycznymi pytaniami. Lokalny model rerankingowy wstępnie przesiał kandydatów, a model językowy zweryfikował każdą odpowiedź. Stwierdzenia prawne sprawdziliśmy w skonsolidowanym tekście AI Act. Tekst nie jest poradą prawną.

Exit mobile version