Co AI ACT oznacza dla biznesu?

Akt o sztucznej inteligencji [1] (dalej: AI ACT) ma na celu stworzenie jednolitych przepisów dotyczących stosowania i wdrażania sztucznej inteligencji na terytorium Unii Europejskiej. Od początku prac nad AI ACT podejście unijnego ustawodawcy do systemów sztucznej inteligencji opiera się na ryzyku, czyli na tym, jakie ryzyko dany system tworzy dla społeczeństwa, a konkretnie ludzkiego zdrowia, życia, bezpieczeństwa, praw podstawowych. W związku z tym w AI ACT zakazano niektórych systemów AI, uznając, że ich stosowanie kreowałoby nieakceptowalne ryzyka. Są to np. systemy oparte na wykorzystywaniu technik podprogowych czy scoringu społecznego.

Systemy wysokiego ryzyka

Najwięcej uwagi w rozporządzeniu AI ACT poświęcono systemom AI wysokiego ryzyka i to z nimi wiąże się najwięcej obowiązków. Takimi systemami są przykładowo systemy AI stosowane w infrastrukturze krytycznej, procesach rekrutacyjnych, dotyczących ubiegania się o kredyt, czy np. podstawowych świadczeń publicznych. Oprócz tego wyodrębniono także modele AI ogólnego przeznaczenia, które są – uogólniając – trenowane dużą ilością danych, a następnie mogą wykonywać szeroki zakres zadań. Takie modele, jeżeli będą tworzyć ryzyko systemowe, będą musiały sprostać dodatkowym wymaganiom. Aktualnie modelami AI ogólnego przeznaczenia z takim ryzykiem systemowym byłyby tylko największe modele AI na świecie. Poza tymi kategoriami są również inne systemy AI, które nie kwalifikują się jako żadne z powyższych ryzyk. Niemniej jednak w stosunku do nich obowiązywać będą podstawowe zasady dotyczące przejrzystości.

Kogo dotyczy AI ACT?

AI ACT w rzeczywistości będzie odnosił się do wszelkich systemów AI, które są wprowadzane do obrotu lub wykorzystywane na terytorium Unii Europejskiej. Siedziba podmiotu, który wprowadza do obrotu lub stosuje dany system AI nie będzie miała znaczenia i AI ACT nadal będzie miał zastosowanie, o ile wyniki działania takiego systemu AI są wykorzystywane w Unii Europejskiej. Poza regulacją są systemy dotyczące bezpieczeństwa narodowego, badań naukowych i rozwojowych. AI ACT nie będzie stosowany również wobec osób fizycznych, które korzystają z systemów AI w ramach „czysto osobistej działalności pozazawodowej” [2].

Co to oznacza dla przedsiębiorców?

Przepisy AI ACT zaczną być stosowane co do zasady po dwóch latach od wejścia w życie rozporządzenia, czyli najpewniej w połowie 2026 r. Trochę wcześniej zacznie to dotyczyć regulacji dotyczącej zakazanych praktyk w zakresie AI, przepisy te będą bowiem stosowane już po upływie sześciu miesięcy od publikacji AI ACT. W pełni rozporządzenie będzie natomiast stosowane po 36 miesiącach od jego publikacji. Warto więc, by w ciągu tych dwóch lat przedsiębiorcy przeanalizowali wszelkie wykorzystywane lub dewelopowane przez nich narzędzia i oprogramowania, a także te, które dopiero mają zamiar wdrożyć w firmie. Może bowiem okazać się, że któreś z tych narzędzi stanowić będzie system AI. Następnie należałoby zastanowić się, do której kategorii ryzyka zaliczyć taki system AI oraz przeanalizować, które z obowiązków będą miały zastosowanie. Najwięcej od przedsiębiorców będą wymagać systemy AI wysokiego ryzyka, zarówno jeżeli dany przedsiębiorca będzie je stosował  tylko wewnątrz organizacji, jak również, gdy będzie takie rozwiązania projektował i wprowadzał do obrotu. Największe wyzwanie stanie przed przedsiębiorstwami, których obszar działalności dotyka nowych technologii, tworzenia oprogramowania, IoT oraz wdrażania automatyki. Temat będzie jednak istotny także dla  tych, które np. korzystają z AI jedynie w procesach rekrutacyjnych. Warto zastanowić się każdorazowo, czy w świetle przepisów dany przedsiębiorca będzie użytkownikiem, czy dostawcą systemu AI.

Co istotne, AI ACT nakłada obowiązki dotyczące szkolenia personelu, aby zapewnić mu odpowiedni poziom kompetencji w zakresie AI, z uwzględnieniem wiedzy technicznej, doświadczenia czy kontekstu wykorzystania AI [3]. Już teraz przedsiębiorcy powinni więc powoli szkolić swoich pracowników z zakresu korzystania z narzędzi AI czy tworzyć wewnętrzne regulaminy w tym zakresie.

Przedsiębiorcy powinni również przeanalizować wszystkie wykorzystywane lub rozwijane narzędzia i oprogramowania, aby zidentyfikować, które z nich stanowią systemy AI oraz określić, do której kategorii ryzyka zalicza się dany system AI. Ważne jest także, aby rozpocząć szkolenia pracowników z zakresu korzystania z narzędzi AI oraz tworzyć wewnętrzne regulaminy w tym zakresie.

AI ACT a automatyka i robotyka

Systemy AI, które wchodzą w bezpośrednią interakcję z osobami fizycznymi, muszą być projektowane w taki sposób, aby informować użytkowników o tym, że prowadzą interakcję z systemem AI, chyba że będzie to oczywiste w oparciu o kontekst i okoliczności korzystania z takiego systemu [4]. Regularne monitorowanie zgodności systemów AI z przepisami AI ACT oraz bycie na bieżąco z wszelkimi zmianami legislacyjnymi i wytycznymi dotyczącymi AI jest kluczowe dla przedsiębiorców z obszaru automatyki i robotyki. W branży automatyki i robotyki AI ACT znajdzie przykładowo zastosowanie w odniesieniu do systemów AI wykorzystywanych do kontroli jakości i inspekcji, gdzie sztuczna inteligencja może poprawić wykrywanie wad i spójność produktów. Innym przykładem jest predykcyjne utrzymanie ruchu, gdzie AI pomaga zapobiegać awariom sprzętu, zapewniając ciągłość produkcji i redukując przestoje.  

[1] https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32024R1689
[2] Art. 2 ust. 10 AI ACT.
[3] Art. 4 AI ACT.
[4] Art. 50 ust. 1 AI ACT.

Marlena Kudła

Specjalizuje się w ochronie dóbr osobistych osób fizycznych i prawnych. Bliskie są jej zagadnienia ochrony wizerunku, renomy i dobrego imienia. Zaangażowana w postępowania z zakresu zwalczania nieuczciwej konkurencji. Zajmuje się także prawem własności intelektualnej, ze szczególnym uwzględnieniem prawa autorskiego, prawa reklamy i mediów. W zakresie jej zainteresowań znajduje się również prawo nowych technologii. Kontakt: m.kudla@skplaw.pl. Strony internetowe: www.skplaw.pl, www.skpipblog.pl.

source: Automatyka 11/2024