Netskope – wstępne rozporządzenia Parlamentu Europejskiego dotyczące sztucznej inteligencji (AI Act)

Nieprzestrzeganie zasad może prowadzić do nałożenia kar w wysokości od 35 mln euro lub 7% globalnego obrotu do 7,5 mln euro lub 1,5% obrotu, w zależności od naruszenia i wielkości firmy. Uzgodniony tekst będzie teraz musiał zostać formalnie przyjęty zarówno przez Parlament, jak i Radę, aby stać się prawem UE. Parlamentarne komisje ds. rynku wewnętrznego i wolności obywatelskich będą głosować nad porozumieniem na najbliższym posiedzeniu.

Zakazane aplikacje

Uznając potencjalne zagrożenie dla praw obywateli i demokracji ze strony niektórych możliwych zastosowań sztucznej inteligencji, prawodawcy zdecydowali się zakazać:

• systemów kategoryzacji biometrycznej, które wykorzystujÄ… cechy wrażliwe (np. przekonania polityczne, religijne, filozoficzne, orientacjÄ™ seksualnÄ…, rasÄ™); dowolnego pobierania obrazów twarzy z Internetu lub nagraÅ„ CCTV w celu tworzenia baz danych rozpoznawania twarzy;
• rozpoznawana emocji w miejscu pracy i instytucjach edukacyjnych;
• programów z obszaru social scoring (systemu zaufania spoÅ‚ecznego) opartych na zachowaniach spoÅ‚ecznych lub cechach osobistych;
• systemów sztucznej inteligencji, które manipulujÄ… ludzkim zachowaniem w
  celu obejścia ich wolnej woli;
• sztucznej inteligencji wykorzystywanej do odczytywania sÅ‚aboÅ›ci ludzi (ze
  względu na ich wiek, niepełnosprawność, sytuację społeczną lub ekonomiczną).

Wyłączenia dotyczące egzekwowania prawa

Negocjatorzy uzgodnili szereg zabezpieczeÅ„ i wÄ…skich wyjÄ…tków od stosowania biometrycznych systemów identyfikacji (RBI) w publicznie dostÄ™pnych przestrzeniach do celów egzekwowania prawa, z zastrzeżeniem uprzedniej zgody sÄ…du i Å›ciÅ›le okreÅ›lonych list przestÄ™pstw. „Zdalny” RBI byÅ‚by wykorzystywany wyÅ‚Ä…cznie w ukierunkowanym poszukiwaniu osoby skazanej lub podejrzanej o popeÅ‚nienie poważnego przestÄ™pstwa. RBI „w czasie rzeczywistym” speÅ‚niaÅ‚by rygorystyczne warunki, a jego użycie byÅ‚oby ograniczone w czasie i miejscu, do celów stricte oznaczonych, takich jak:

•  ukierunkowane poszukiwania ofiar (uprowadzenia, handel ludźmi, wykorzystywanie seksualne);
•  zapobieganie konkretnemu i obecnemu zagrożeniu terrorystycznemu, lub lokalizacji bÄ…dź, identyfikacji osoby podejrzanej o popeÅ‚nienie jednego z konkretnych przestÄ™pstw wymienionych w rozporzÄ…dzeniu (np. terroryzm, handel ludźmi, wykorzystywanie seksualne, zabójstwo, porwanie, gwaÅ‚t, rozbój z broniÄ… w rÄ™ku, udziaÅ‚ w organizacji przestÄ™pczej, przestÄ™pstwo przeciwko Å›rodowisku).

Precyzyjne ramy prawne

– Wraz z rosnącą obecnością sztucznej inteligencji we wszystkich aspektach codziennego życia, kwestia ram prawnych stała się pilna i konieczna w celu uregulowania jej zastosowań oraz ochrony danych. Istotne jest jednak, aby odbywało się to w oparciu o precyzyjne i przejrzyste zasady prawne, które ewoluują wraz z technologiami, tak abyśmy znaleźli właściwą równowagę umożliwiającą innowacje przy jednoczesnym poszanowaniu zasad etycznych. UE szybko wprowadziła w życie te przepisy, które są obecnie pierwszymi ogólnymi przepisami dotyczącymi sztucznej inteligencji na świecie. Rozporządzenie ws. sztucznej inteligencji ma szeroki zakres, starając się zapewnić wytyczne i ochronę w wielu obszarach, na które sztuczna inteligencja będzie miała wpływ w nadchodzących latach. Dla przeciętnego, niespecjalistycznego przedsiębiorstwa są to odniesienia do systemów AI ogólnego przeznaczenia (GPAI), na które powinni zwrócić uwagę na początku – powiedział Neil Thacker, CISO EMEA w Netskope.

Wymogi dotyczące treści wykorzystywanych do szkolenia systemu

– Nowe przepisy obejmują wymogi dotyczące przejrzystości, w tym dokumentacji technicznej i zgodności z unijnymi przepisami dotyczącymi praw autorskich, a w przypadku, gdy informacje te nie są dostępne, przedsiębiorstwa będą zobowiązane do kontrolowania wykorzystania takich systemów w swojej organizacji. Szczególnie ucieszyło mnie uwzględnienie w przepisach wyraźnych wymogów dotyczących szczegółowych podsumowań treści wykorzystywanych do szkolenia systemu. Świadome podejmowanie decyzji ma kluczowe znaczenie dla wdrożenia sztucznej inteligencji, która jest etyczna i spełnia wymogi nowego prawa. Znajomość i dokumentowanie wykorzystania zarówno uczenia maszynowego, jak i systemów sztucznej inteligencji w organizacji to prosty sposób na zrozumienie i przewidywanie luk w zabezpieczeniach krytycznych danych biznesowych, przy jednoczesnym zapewnieniu odpowiedzialnego korzystania z AI.– dodał Neil Thacker. 

Bezpieczeństwo i poszanowanie zasad etycznych

– Nowa unijna regulacja dot. sztucznej inteligencji jest pierwszym na świecie międzysektorowym i transgranicznym aktem prawnym dotyczącym sztucznej inteligencji, ale chodzi w niej o znacznie więcej niż tylko współpracę państw członkowskich w ważnej kwestii dnia dzisiejszego. Rozporządzenie kładzie nacisk na bezpieczeństwo i zasady etyczne w samym sercu innowacji w zakresie sztucznej inteligencji i jest wyraźnym sygnałem, że rządy poważnie traktują implikacje etyczne – i wynikającą z nich konieczność zarządzania – w samym sercu tych szybkich postępów. Grzywny nakładane za nieprzestrzeganie przepisów są zgodne z dobrze ugruntowanym modelem egzekwowania RODO; grzywny ograniczają się do 7% globalnego obrotu w porównaniu z 4% w ramach RODO, co oznacza, że nie można krytykować tego, czy prawo to, jest zbyt surowe – powiedziała Ilona Simpson, CIO EMEA w Netskope. 

Balans między innowacjami i regulacjami

– Dla mnie najważniejszym spoÅ›ród dzisiejszych ogÅ‚oszeÅ„ byÅ‚ wysiÅ‚ek, jaki ustawodawcy wÅ‚ożyli w stworzenie równowagi miÄ™dzy regulacjami a innowacjami. RozporzÄ…dzenie jest pierwszym aktem prawnym, jaki widziaÅ‚am, który aktywnie zachÄ™ca do innowacji startupy i MÅšP – w rzeczywistoÅ›ci zawiera wyraźny przepis promujÄ…cy korzystanie z „piaskownic regulacyjnych” ustanowionych przez organy krajowe, a także testowanie w czasie rzeczywistym. DziÄ™ki temu UE bÄ™dzie w stanie wspierać postÄ™p techniczny bez ograniczania go nadmiernymi regulacjami – dodaÅ‚a Ilona Simpson.

Cały tekst rozporządzenia znajduje się na stronie:  europarl.europa.eu