Wdrażanie automatyki na bazie AI – wyzwania praktyczne

Anegdota ta oddaje pierwsze dwa istotne wyzwania praktyczne, przed jakimi stają podmioty zaangażowane we wdrażanie automatyki.

AI czy nie AI?

Pierwsze wyzwanie jest związane z tym, przy których rozwiązaniach rzeczywiście mamy do czynienia ze sztuczną Inteligencją (czyli softwarem, który faktycznie cechuje zdolność do uczenia się i samodzielnego rozwiązywania problemów – bez świadomego korzystania z zaprogramowanych wcześniej algorytmów). Na to pytanie często odpowiedzieć będą mogli inżynierowie i programiści, o ile wykonawca realnie pozwoli im zapoznać się z kodem i architekturą systemu.

Nieuregulowane regulacje

Drugie wyzwanie dotyczy ekosystemu regulacyjnego. Obecnie w Polsce i w UE nie mamy powszechnie obowiązujących reguł (ustaw, rozporządzeń czy dyrektyw UE), które jednoznacznie przesądzałyby, co wolno, a czego nie wolno przy tworzeniu i wykorzystywaniu sztucznej inteligencji. Nie istnieją też wiążące wytyczne dotyczące cech i wymogów, jakie muszą spełniać rozwiązania techniczne oparte na sztucznej inteligencji. Pojawiają się białe księgi¹, komunikaty², strategie³, założenia oraz projekty aktów prawnych⁴. Żadne z nich nie są (na dzień przygotowania tego artykułu) wiążącym prawem, rozwiązania w nich proponowane często się od siebie różnią, a lobbyści i interesy różnych grup często się ścierają. Nie ma gwarancji, kiedy oraz dokładnie w jakiej formie wejdą w życie wiążące przepisy. Oczywiście istnieją regulacje, które można wykorzystywać pomocniczo (ogólne zasady prawa cywilnego, RODO etc.), niemniej jednak oznacza to, że projektując i wdrażając rozwiązania AI trzeba być gotowym na elastyczność i szybkie oraz sprawne reagowanie na rozwój wypadków i zmiany legislacyjne.

„Without data, there is no AI”

Na opisanych dotąd dwóch wyzwaniach jednak nie koniec. Kolejne wiąże się z tym, że – jak słusznie wskazano w Unijnej Białej Księdze z 2020 r. dotyczącej AI – „Without data, there is no AI.” A zatem jednym z kluczowych aspektów dla efektywności działania sztucznej inteligencji są dane, na których algorytmy „trenują się” i na podstawie których wyciągają wnioski. W konsekwencji dane, którymi karmi się algorytmy są równie ważne, co sam program. Ten ostatni może bowiem działać w pełni poprawnie, gdy tymczasem na skutek niepełnych, zmanipulowanych czy tendencyjnych danych efekt działania kompletnego rozwiązania będzie absolutnie nieakceptowalny.

Dobrym przykładem jest eksperyment z chatbootem Tay na Twitterze z 2016 r. Twórcy z firmy Microsoft musieli wyłączyć go po kilkunastu godzinach, gdyż AI zaczęła odpowiadać zaczepiającym ją użytkownikom TT w sposób, którego się od nich nauczyła – daleki od oczekiwanego i akceptowalnego. Ten przypadek pokazuje, że kwestia tego, czyimi i jakiej jakości danymi będziemy uczyć algorytmy może być decydującym czynnikiem podczas wyboru wykonawcy czy negocjacji umowy.

Formuła „black box”

W przypadku bardzo wyrafinowanych i zaawansowanych rozwiązań opartych na sztucznej inteligencji jest ona często oferowana w formule „black box”. W praktyce oznacza to, że otrzymujemy wnioski i efekty, ale nie możemy prześledzić procesu ani odpowiedzieć sobie na pytanie, dlaczego otrzymaliśmy taki, a nie inny wynik. Czasami przyczyna tkwi w dużym skomplikowaniu, a zazwyczaj w chęci ochrony know-how i kodu wykonawcy. Utrudnia to, a czasem wręcz uniemożliwia, rozliczalność i zagwarantowanie takiego charakteru działania AI, który nie będzie dyskryminacyjny.

Podsumowując, w przypadku wdrażania rozwiązań opartych na sztucznej inteligencji w przedsiębiorstwie czy instytucji trzeba nastawić się na fascynującą podróż w często jeszcze nieznane rejony. Warto zatem dobrze się do tego przygotować, zadbać o jakość danych i niuanse w umowie oraz aktywnie śledzić zmieniający się ekosystem prawny.

1 KE, Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, COM (2020) 65 final, 19.02.2020.

2 Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Sztuczna inteligencja dla Europy, COM (2018) 237 final, 25.04.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Skoordynowany plan w sprawie sztucznej inteligencji, COM (2018) 795 final, 07.12.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Promowanie europejskiego podejścia do sztucznej inteligencji, COM (2021) 205 final, 21.04.2021.

3 Uchwała nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. w sprawie ustanowienia „Polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020”.

4 Wniosek w sprawie rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final, 21.04.2021.

Maciej Kubiak

Adwokat, wspólnik współkierujący praktyką IP/TMT w kancelarii LSW, autor publikacji naukowych z zakresu prawa autorskiego i własności przemysłowej, wykładowca w Centrum Praw Własności Intelektualnych im. Hugona Grocjusza w Krakowie oraz arbiter Sądu Arbitrażowego Rynku Audiowizualnego (SARA). Specjalizuje się w ochronie prawa własności intelektualnej i prawie nowych technologii. Konsultuje przedsięwzięcia związane z innowacjami (w tym automatyką i robotyką, sztuczną inteligencją oraz wdrożeniami systemów IT i rozwiązań chmurowych), danymi osobowymi i komercjalizacją badań naukowych. Doradza również mediom, producentom i branży kreatywnej.

www.lsw.com.pl
www.lswipblog.pl

źródło: Automatyka 1-2/2022