Kary za nieprzestrzeganie AI Act. Zwykłe firmy mogą słono zapłacić

Większość przedsiębiorców i pracowników nie wyobraża sobie dziś funkcjonowania firmy bez sztucznej inteligencji. Niemniej jednak Unia Europejska, choć przychylna AI, postanowiła uregulować kilka najważniejszych kwestii z nią związanych. W efekcie powstał AI Act, który jest dokumentem wprowadzającym system oparty na poziomach ryzyka. Im większy wpływ system sztucznej inteligencji może mieć na prawa, bezpieczeństwo lub sytuację życiową człowieka, tym bardziej rygorystyczne wymagania musi spełnić jego dostawca lub użytkownik.

Regulacja obejmuje nie tylko twórców zaawansowanych modeli AI, ale również przedsiębiorstwa wykorzystujące takie rozwiązania w codziennej działalności. Oznacza to, że obowiązki mogą dotyczyć zarówno dużych korporacji technologicznych, jak i średnich firm korzystających z algorytmów do oceny kandydatów do pracy, analiz kredytowych czy obsługi klientów. Kluczowym celem AI Act jest zapewnienie, że systemy sztucznej inteligencji pozostaną bezpieczne, przejrzyste i zgodne z prawami podstawowymi obywateli Unii Europejskiej.

Najsurowsze sankcje przewidziane przez AI Act dotyczą naruszenia zakazów określonych w art. 5 rozporządzenia. W takim przypadku przedsiębiorstwo może zostać ukarane administracyjną karą pieniężną wynoszącą do 35 mln euro lub do 7 proc. całkowitego światowego obrotu osiągniętego w poprzednim roku obrotowym – w zależności od tego, która wartość jest wyższa. To poziom sankcji porównywalny, a w wielu przypadkach nawet wyższy od kar znanych z RODO. W praktyce dla dużych międzynarodowych organizacji kara liczona procentowo może oznaczać setki milionów euro.

Największe ryzyko dotyczy przedsiębiorstw wykorzystujących systemy uznane za niedopuszczalne. Unijny ustawodawca uznał bowiem, że niektóre zastosowania sztucznej inteligencji są tak niebezpieczne dla społeczeństwa, że powinny zostać całkowicie zakazane.

Wśród zakazanych zastosowań AI znajdują się przede wszystkim systemy wykorzystujące techniki manipulacyjne wpływające na zachowania ludzi w sposób mogący prowadzić do szkody. Chodzi o rozwiązania wykorzystujące ukryte mechanizmy oddziaływania na decyzje użytkowników lub eksploatujące ich szczególną podatność wynikającą z wieku, niepełnosprawności czy trudnej sytuacji życiowej.

Wysokie ryzyko kar wiąże się również z tzw. scoringiem społecznym. Oznacza on ocenianie ludzi na podstawie ich zachowań społecznych, cech osobowości czy aktywności w różnych obszarach życia. Takie praktyki zostały przez UE uznane za niedopuszczalne ze względu na możliwość prowadzenia do dyskryminacji i ograniczania praw obywatelskich.

Zakazane są także określone formy predykcyjnego prognozowania przestępczości oparte wyłącznie na profilowaniu osób oraz tworzenie baz danych rozpoznawania twarzy poprzez masowe pobieranie zdjęć z internetu lub monitoringu. Dodatkowo ograniczeniom podlega rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych, z wyjątkiem ściśle określonych sytuacji związanych z bezpieczeństwem lub zdrowiem.

Więcej o biznesie w Bizblog Spider's Web:

Drugą kategorię sankcji stanowią naruszenia obowiązków przewidzianych dla dostawców, importerów, dystrybutorów oraz użytkowników systemów AI. W tym przypadku kara może wynieść do 15 mln euro lub do 3 proc. globalnego rocznego obrotu przedsiębiorstwa.

Choć kwoty są niższe niż w przypadku systemów zakazanych, nadal mogą stanowić ogromne obciążenie finansowe dla organizacji. Do naruszeń zagrożonych taką sankcją należą między innymi braki w dokumentacji technicznej, niewłaściwe przeprowadzenie procedury oceny zgodności, brak deklaracji zgodności UE czy niespełnienie wymogów dotyczących nadzoru nad systemami wysokiego ryzyka.