Wdrażanie automatyki na bazie AI – wyzwania praktyczne
W branży IT oraz wśród prawników zajmujących się sztuczną inteligencją krąży pewna anegdota. Wykonawca opowiadający o zaletach swojego rozwiązania skupia się na tym, jakie jest ono inteligentne i wielokrotnie odwołuje się do pojęcia „sztucznej inteligencji”. Po zakończeniu prezentacji zamawiający dopytuje, czy wykonawca śledzi rozwój ekosystemu prawnego, który ma regulować sztuczną inteligencję oraz jak dba o to, aby jego rozwiązania w zakresie AI były gotowe na nowe regulacje. Wtedy pada odpowiedź lekko przerażonego wykonawcy, że tak właściwie to jest jednak… zaawansowany algorytm, a nie żadne AI.
Anegdota ta oddaje pierwsze dwa istotne wyzwania praktyczne, przed jakimi stają podmioty zaangażowane we wdrażanie automatyki.
AI czy nie AI?
Pierwsze wyzwanie jest związane z tym, przy których rozwiązaniach rzeczywiście mamy do czynienia ze sztuczną Inteligencją (czyli softwarem, który faktycznie cechuje zdolność do uczenia się i samodzielnego rozwiązywania problemów – bez świadomego korzystania z zaprogramowanych wcześniej algorytmów). Na to pytanie często odpowiedzieć będą mogli inżynierowie i programiści, o ile wykonawca realnie pozwoli im zapoznać się z kodem i architekturą systemu.
Nieuregulowane regulacje
Drugie wyzwanie dotyczy ekosystemu regulacyjnego. Obecnie w Polsce i w UE nie mamy powszechnie obowiązujących reguł (ustaw, rozporządzeń czy dyrektyw UE), które jednoznacznie przesądzałyby, co wolno, a czego nie wolno przy tworzeniu i wykorzystywaniu sztucznej inteligencji. Nie istnieją też wiążące wytyczne dotyczące cech i wymogów, jakie muszą spełniać rozwiązania techniczne oparte na sztucznej inteligencji. Pojawiają się białe księgi1, komunikaty2, strategie3, założenia oraz projekty aktów prawnych4. Żadne z nich nie są (na dzień przygotowania tego artykułu) wiążącym prawem, rozwiązania w nich proponowane często się od siebie różnią, a lobbyści i interesy różnych grup często się ścierają. Nie ma gwarancji, kiedy oraz dokładnie w jakiej formie wejdą w życie wiążące przepisy. Oczywiście istnieją regulacje, które można wykorzystywać pomocniczo (ogólne zasady prawa cywilnego, RODO etc.), niemniej jednak oznacza to, że projektując i wdrażając rozwiązania AI trzeba być gotowym na elastyczność i szybkie oraz sprawne reagowanie na rozwój wypadków i zmiany legislacyjne.
„Without data, there is no AI”
Na opisanych dotąd dwóch wyzwaniach jednak nie koniec. Kolejne wiąże się z tym, że – jak słusznie wskazano w Unijnej Białej Księdze z 2020 r. dotyczącej AI – „Without data, there is no AI.” A zatem jednym z kluczowych aspektów dla efektywności działania sztucznej inteligencji są dane, na których algorytmy „trenują się” i na podstawie których wyciągają wnioski. W konsekwencji dane, którymi karmi się algorytmy są równie ważne, co sam program. Ten ostatni może bowiem działać w pełni poprawnie, gdy tymczasem na skutek niepełnych, zmanipulowanych czy tendencyjnych danych efekt działania kompletnego rozwiązania będzie absolutnie nieakceptowalny.
Dobrym przykładem jest eksperyment z chatbootem Tay na Twitterze z 2016 r. Twórcy z firmy Microsoft musieli wyłączyć go po kilkunastu godzinach, gdyż AI zaczęła odpowiadać zaczepiającym ją użytkownikom TT w sposób, którego się od nich nauczyła – daleki od oczekiwanego i akceptowalnego. Ten przypadek pokazuje, że kwestia tego, czyimi i jakiej jakości danymi będziemy uczyć algorytmy może być decydującym czynnikiem podczas wyboru wykonawcy czy negocjacji umowy.
Formuła „black box”
W przypadku bardzo wyrafinowanych i zaawansowanych rozwiązań opartych na sztucznej inteligencji jest ona często oferowana w formule „black box”. W praktyce oznacza to, że otrzymujemy wnioski i efekty, ale nie możemy prześledzić procesu ani odpowiedzieć sobie na pytanie, dlaczego otrzymaliśmy taki, a nie inny wynik. Czasami przyczyna tkwi w dużym skomplikowaniu, a zazwyczaj w chęci ochrony know-how i kodu wykonawcy. Utrudnia to, a czasem wręcz uniemożliwia, rozliczalność i zagwarantowanie takiego charakteru działania AI, który nie będzie dyskryminacyjny.
Podsumowując, w przypadku wdrażania rozwiązań opartych na sztucznej inteligencji w przedsiębiorstwie czy instytucji trzeba nastawić się na fascynującą podróż w często jeszcze nieznane rejony. Warto zatem dobrze się do tego przygotować, zadbać o jakość danych i niuanse w umowie oraz aktywnie śledzić zmieniający się ekosystem prawny.
1 KE, Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, COM (2020) 65 final, 19.02.2020.
2 Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Sztuczna inteligencja dla Europy, COM (2018) 237 final, 25.04.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Skoordynowany plan w sprawie sztucznej inteligencji, COM (2018) 795 final, 07.12.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Promowanie europejskiego podejścia do sztucznej inteligencji, COM (2021) 205 final, 21.04.2021.
3 Uchwała nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. w sprawie ustanowienia „Polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020”.
4 Wniosek w sprawie rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final, 21.04.2021.
Maciej Kubiak
Adwokat, wspólnik współkierujący praktyką IP/TMT w kancelarii LSW, autor publikacji naukowych z zakresu prawa autorskiego i własności przemysłowej, wykładowca w Centrum Praw Własności Intelektualnych im. Hugona Grocjusza w Krakowie oraz arbiter Sądu Arbitrażowego Rynku Audiowizualnego (SARA). Specjalizuje się w ochronie prawa własności intelektualnej i prawie nowych technologii. Konsultuje przedsięwzięcia związane z innowacjami (w tym automatyką i robotyką, sztuczną inteligencją oraz wdrożeniami systemów IT i rozwiązań chmurowych), danymi osobowymi i komercjalizacją badań naukowych. Doradza również mediom, producentom i branży kreatywnej.
www.lsw.com.pl
www.lswipblog.pl
source: Automatyka 1-2/2022