Portal Interoperacyjności
i Architektury

Sztuczna inteligencja (SI), będąca „zbiorem technologii łączących dane, algorytmy i moc obliczeniową”, ma potencjał oddziaływania na życie społeczeństw oraz jednostek, niosąc ze sobą korzyści dla obywateli, rozwoju przedsiębiorstw oraz usług interesu publicznego. Konieczne jest jednak wypracowanie wspólnego podejścia europejskiego do rozwijania godnej zaufania sztucznej inteligencji, by zapewnić spójne ramy prawne, zaufanie obywateli oraz wykorzystać potencjał tej technologii w transformacji cyfrowej gospodarki UE opartej na danych i jej zastosowaniach.

"Biała Księga w sprawie sztucznej inteligencji" (plik PDF; Bruksela, 19.2.2020 r.) wskazuje na planowane działania Komisji Europejskiej (KE), w tym o charakterze regulacyjnym, z których część adresowana jest wprost do administracji publicznej.

KE dostrzega potrzebę szybkiego wprowadzania produktów i usług opierających się na SI w administracji publicznej oraz przez podmioty działające w różnych obszarach interesu publicznego. W szczególności wskazywane są opieka zdrowotna (szpitale), administracje wiejskie oraz operatorzy usług publicznych, dla których zainicjowane zostaną otwarte dialogi sektorowe. W ich wyniku opracowany zostanie plan działań mający ułatwić rozwój, testy i wprowadzanie SI oraz program wspierania zamówień publicznych na systemy SI.

Inne obszary życia publicznego, dla których KE wskazuje na potencjalne zastosowanie SI, to m.in. egzekwowanie prawa i sądownictwa, transport publiczny oraz nadzór finansowy.

KE planuje przygotowanie wspólnych ram regulacyjnych w celu zminimalizowania różnego rodzaju ryzyk, jakie stwarzają systemy sztucznej inteligencji jeśli chodzi m.in o: szkody materialne (bezpieczeństwo i zdrowie ludzi), szkody niematerialne (m.in. naruszenie ochrony danych osobowych, prywatności, prawa niedyskryminacji) oraz ustalenia odpowiedzialności za naruszenie prawa.

Ramy regulacyjne mają stosować się do produktów i usług, dla których analiza ryzyka potwierdzi, że sektor, jak i planowane zastosowanie SI wiążą się z wysokim ryzykiem, głównie z punktu widzenia ochrony bezpieczeństwa, praw konsumentów i praw podstawowych. Potencjalne sektory objęte tymi regulacjami to opieka zdrowotna, transport, energetyka i części sektora publicznego (m.in polityka azylowa, migracja, kontrole graniczne, sądownictwo, zabezpieczenie społeczne i służby zatrudnienia).

Wymogi regulacyjne dotyczyłyby m.in.:

• zbiorów danych wykorzystywanych do szkolenia systemów SI;
• przechowywania danych i prowadzenia rejestrów w odniesieniu do tworzenia algorytmu, danych szkoleniowych oraz, w niektórych przypadkach, przechowywania samych danych;
• dostarczania informacji nt. stosowanych systemów SI;
• zapewnienia solidności technicznej (robustness) i dokładności (accuracy) systemów SI;
• sprawowania odpowiedniego nadzoru przez człowieka;  
• a także szczególnych wymogów dotyczących zdalnej identyfikacji biometrycznej.

Powyższe wymogi mają obowiązywać wszystkie podmioty gospodarcze, które dostarczają produkty lub świadczą usługi oparte na SI na terytorium UE, niezależnie od tego, gdzie jest ich siedziba.

Jednocześnie planowane jest utworzenie europejskiej struktury zarządzania w zakresie sztucznej inteligencji w formie ram współpracy właściwych organów krajowych, sieci sektorowych i organów regulacyjnych na szczeblu krajowym i unijnym.