Portal sztucznej inteligencji

Instytucje publiczne od niepamiętnych czasów podejmowały decyzje i tworzyły przepisy. Charakter poszczególnych organów publicznych jest z konieczności różny w poszczególnych systemach prawnych. Ponadto powszechnie przyjmuje się, że decyzje podejmowane przez podmioty prywatne mogą w pewnych przypadkach podlegać prawu publicznemu. U podstaw tej różnorodności leży jednak wspólna cecha. Polega ona na tym, że choć od zawsze istniały pewne różnice pomiędzy systemami prawnymi, to decyzje niezmiennie podejmowali ludzie. Każda poddawana w wątpliwość zasada lub decyzja była przygotowywana bądź wydawana przez określoną osobę lub instytucję. Przedmiot niniejszych Wzorcowych Zasad świadczy o istotnej zmianie w tym względzie, gdyż w rzeczywistości w wielu przypadkach nie jest już możliwe powiązanie decyzji z konkretną osobą. Decyzja operacyjna może zostać podjęta za pomocą algorytmu lub innego mechanizmu zautomatyzowanego podejmowania decyzji. Człowiek nadal może brać udział w takich procesach decyzyjnych poprzez zaprojektowanie samego algorytmu lub zaangażowanie w proces przed podjęciem decyzji operacyjnej. Po skonfigurowaniu system może być jednak w pełni zautomatyzowany, co oznacza, że dane wyjściowe mogą być wykorzystywane bez udziału człowieka — włącznie z podejmowaniem decyzji. Ponadto niektóre systemy umożliwiają także algorytmowi uczenie się i rozwój. Nic więc dziwnego, że istnienie takich zautomatyzowanych systemów w szerokim rozumieniu stwarza nowe problemy zarówno dla prawa publicznego, jak i prywatnego. Świadczy o tym mnogość inicjatyw dotyczących tej problematyki, podejmowanych przez instytucje takie jak Unia Europejska (UE) i Rada Europy, a także przez poszczególne państwa narodowe.

Należy podkreślić, że niniejsze Wzorcowe Zasady zostały opracowane w taki sposób, aby nie były zależne od prawa unijnego i mogły być stosowane w systemach prawnych państw niebędących członkami UE. Innymi słowy, musi istnieć możliwość dopasowania ich do różnych kontekstów prawnych niezawierających podstawowych elementów unijnego prawa ochrony danych, takich jak ogólne rozporządzenie o ochronie danych (RODO). Przedstawione zasady zostały jednak opracowane w taki sposób, aby zapewnić ich zgodność nie tylko z już obowiązującym, ale również z obecnie tworzonym prawem unijnym, w szczególności z projektem rozporządzenia w sprawie sztucznej inteligencji (SI). Wspomniany projekt dotyczy w dużej mierze projektów w zakresie SI opracowanych lub wykorzystywanych przez różne administracje. Niniejsze Wzorcowe Zasady uzupełniają podejście przyjęte w projekcie rozporządzenia, zapewniając konkretne mechanizmy zabezpieczające zasady demokracji i praworządności oraz prawo do dobrej administracji w przypadku stosowania przez administrację publiczną algorytmicznych systemów decyzyjnych. Przykładem tego są przepisy dotyczące oceny skutków w konkretnych przypadkach, w tym w zakresie udziału społeczeństwa i ekspertów.

Zastrzeżenia związane z podejmowaniem decyzji przy wsparciu algorytmów można rozwiązać na różne sposoby. Główną ideą leżącą u podstaw niniejszych Wzorcowych Zasad jest przeprowadzenie oceny skutków. Różnorodność sytuacji, w których stosuje się oparte na algorytmach procesy decyzyjne, uniemożliwia przyjęcie jednego uniwersalnego podejścia. Doprowadziłoby to do powstania zasad, które byłyby zbyt rygorystyczne dla jednych systemów, a jednocześnie zbyt łagodne dla innych. Podejście przyjęte w niniejszych Wzorcowych Zasadach jest zatem zróżnicowane. Przyjmując niniejsze Wzorcowe Zasady system prawny może określić, że niektóre z takich systemów objęte są postanowieniami Załącznika 1, tj., że są one obarczone wysokim ryzykiem, a zatem bezwzględnie podlegają ocenie skutków. W tym samym celu można zastrzec, że inne systemy powinny być objęte zapisami Załącznika 2, gdyż są uważane za obarczone niskim ryzykiem i tym samym nie wymagają takiej oceny. Mogą jednak istnieć inne systemy, których nie da się łatwo zaklasyfikować ex ante jako podlegających zapisom Załącznika 1 lub Załącznika 2. Systemy te objęte są wstępną oceną ryzyka zgodnie z procedurą ustalania obowiązku przeprowadzenia oceny. Ocena skutków wymagana jest w przypadku gdy system stanowi co najmniej istotne ryzyko zgodnie z rzeczoną procedurą.
Niniejsze Wzorcowe Zasady szczegółowo określają charakter oceny skutków, która jest ujęta w ramy wcześniejszej procedury ustalania zakresu oceny. Ustalenie zakresu oceny ma na celu określenie bardziej szczegółowych kwestii, na których powinna skupić się ocena skutków. Ocena skutków ma być zarówno miarodajna, tj. musi uwzględniać korzyści i zagrożenia wynikające ze stosowania algorytmicznego podejmowania decyzji, jak również proporcjonalna, tj. nie może stanowić nadmiernego obciążenia dla przeprowadzających ją organów. Istnieją jednak dalsze wymagania dotyczące systemów uznawanych za rozwiązania wysokiego ryzyka, zarówno w przypadku gdy podlegają one pod Załącznik 1, jak i wówczas, gdy zostały uznane za cechujące się takim ryzykiem w wyniku oceny skutków. Wymagania te określono w rozdziale 3 niniejszych Wzorcowych Zasad. Obejmują one m.in. kontrolę oceny skutków przez radę ekspertów oraz możliwość partycypacji społecznej. Wzorcowe Zasady przewidują także powołanie Organu Nadzorczego, który będzie monitorował powyższe procesy, oraz określają okoliczności, w jakich mogą zostać wniesione zastrzeżenia prawne.

Zapraszamy do lektury!