Zakazane praktyki AI (art. 5): czego nie wolno od 2 lutego 2025 r.

Większość obowiązków w AI Act dotyczy tego, jak wolno używać systemów AI. Art. 5 działa inaczej: wymienia praktyki, które są zakazane bez względu na okoliczności. To najostrzejsza część rozporządzenia i jedyna, która obowiązuje już od 2 lutego 2025 r., a jej naruszenie zagrożone jest najwyższą karą.

W tym artykule opisujemy po polsku, czego dotyczą te zakazy i dlaczego dla większości firm to raczej lista ostrzegawcza niż codzienne ryzyko. Opisujemy przepisy, nie oceniamy konkretnych systemów, bo taka kwalifikacja zależy od szczegółów wdrożenia.

Czego zakazuje art. 5

Art. 5 zakazuje między innymi następujących praktyk:

• stosowania technik podprogowych lub celowo manipulacyjnych, które istotnie zniekształcają zachowanie i mogą wyrządzić poważną szkodę,
• wykorzystywania słabości wynikających z wieku, niepełnosprawności lub trudnej sytuacji społeczno-ekonomicznej,
• oceny lub klasyfikowania osób na podstawie zachowania społecznego (tzw. scoring społeczny), gdy prowadzi to do krzywdzącego lub nieproporcjonalnego traktowania,
• oceny ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania lub cech osobowości,
• tworzenia lub rozbudowy baz rozpoznawania twarzy przez nieukierunkowane pobieranie wizerunków z internetu lub z monitoringu,
• rozpoznawania emocji w miejscu pracy i w placówkach edukacyjnych, poza wyjątkami związanymi ze zdrowiem lub bezpieczeństwem,
• kategoryzacji biometrycznej, która ma wnioskować o cechach wrażliwych, takich jak pochodzenie, poglądy czy orientacja,
• zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania, poza wąskimi, ściśle określonymi wyjątkami.

Cechą wspólną tych praktyk jest wysoki potencjał szkody dla praw i wolności osób. Dlatego ustawodawca nie pozwala ich stosować nawet za zgodą czy pod nadzorem.

Nowy zakaz po nowelizacji

Nowelizacja Digital Omnibus rozszerza katalog zakazów o praktyki związane z określonymi treściami o charakterze NCII oraz CSAM, czyli intymnymi wizerunkami rozpowszechnianymi bez zgody oraz materiałami przedstawiającymi seksualne wykorzystywanie dzieci. Dla tego nowego zakazu przewidziano okres przejściowy do 2 grudnia 2026 r. Szczegółowe brzmienie warto śledzić w tekście rozporządzenia po nowelizacji.

Co to znaczy dla zwykłej firmy

Dla typowej małej lub średniej firmy art. 5 rzadko jest realnym ryzykiem, bo wymienione praktyki to działania skrajne, a nie codzienne korzystanie z narzędzi AI. Marketing oparty na personalizacji, chatbot obsługi klienta czy generator opisów produktów co do zasady nie mieszczą się w tych kategoriach. Warto jednak znać granicę, zwłaszcza gdy firma rozważa mechanizmy oceniające ludzi, na przykład automatyczne typowanie klientów czy pracowników, bo tam pojawia się pole do wątpliwości.

W praktyce najczęściej dotyczą Cię nie zakazy z art. 5, tylko obowiązki przejrzystości z art. 50 oraz ewentualnie reguły dla systemów wysokiego ryzyka. Jeśli nie masz pewności, po której stronie granicy jesteś, lepiej to sprawdzić, niż zgadywać.

Kary za naruszenie zakazu

Naruszenie art. 5 zagrożone jest najwyższą karą w całym rozporządzeniu: do 35 mln euro lub 7 procent całkowitego rocznego światowego obrotu, w zależności od tego, która wartość jest wyższa. Dla mniejszych firm obowiązuje łagodniejsza zasada liczenia, którą opisujemy w artykule o karach w AI Act.

Chcesz sprawdzić, czy Twoje systemy nie zbliżają się do zakazanych praktyk albo obowiązków wysokiego ryzyka? Darmowy skan strony pokazuje publiczne sygnały ryzyka w 2 minuty, a pełny audyt z raportem analizuje to dla konkretnych narzędzi.

Najczęstsze pytania (FAQ)

Od kiedy obowiązują zakazy z art. 5?

Praktyki zakazane z art. 5 obowiązują od 2 lutego 2025 r. To najwcześniejszy termin stosowania spośród wszystkich części AI Act. Nowy zakaz dotyczący treści NCII i CSAM, dodany nowelizacją, ma okres przejściowy do 2 grudnia 2026 r.

Czy scoring klientów w mojej firmie jest zakazany?

Nie każde ocenianie klientów jest zakazane. Art. 5 celuje w scoring społeczny prowadzący do krzywdzącego lub nieproporcjonalnego traktowania osób na podstawie ich zachowania lub cech. Ocena, czy konkretny mechanizm mieści się w zakazie, zależy od szczegółów i wymaga indywidualnej analizy, a w spornych przypadkach konsultacji z prawnikiem.

Czy zakazy dotyczą też małych firm?

Tak, zakazy z art. 5 obowiązują wszystkich, niezależnie od wielkości. W praktyce jednak wymienione praktyki są skrajne i rzadko pojawiają się w codziennym korzystaniu z narzędzi AI przez MŚP.

Jaka kara grozi za złamanie zakazu?

Najwyższa w rozporządzeniu: do 35 mln euro lub 7 procent światowego obrotu, zależnie od tego, co jest wyższe. Dla MŚP i startupów stosuje się łagodniejszą zasadę liczenia górnej granicy.

Źródła

• Rozporządzenie (UE) 2024/1689 (AI Act), art. 5 (praktyki zakazane) i art. 99 (kary) – EUR-Lex
• Zmiany w katalogu zakazów po nowelizacji: Gibson Dunn, EY Polska