Od 1 sierpnia 2024 r. wchodzą w życie przepisy AI Act. Co nas czeka? O tym warto wiedzieć

Od 1 sierpnia 2024 r. wchodzą w życie Unijne przepisy AI Act, które regulują kwestie wykorzystania sztucznej inteligencji. W pełni zaczną obowiązywać dopiero za dwa lata.

Wiceminister cyfryzacji, Dariusz Standerski, 24 lipca 2024 r. na posiedzeniu sejmowej Podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów przekazał, że resort jest obecnie na etapie prac legislacyjno-redakcyjnych.

Ich celem jest to, aby już w sierpniu móc rozpocząć uzgodnienia międzyresortowe projektu wdrażającego unijne rozwiązania dotyczące sztucznej inteligencji(AI Act). Dodał, że intencją ministerstwa jest to, by projekt trafił jeszcze w tym roku na poziom Rady Ministrów.

Chcemy poświęcić ten rok na prace nad tym aktem. Nie chcemy go wdrożyć jako pierwsi, chcemy to zrobić dobrze - wskazał Standerski.

Nowe prawo dzieli różne rodzaje AI na cztery grupy:

1. Oprogramowanie wysokiego ryzyka

2. Technologie ograniczonego wpływu

3. Technologie minimalnego wpływu

4. Systemy nieakceptowalne, zakazane w UE

Modele niestwarzające ryzyka systemowego, takie jak chatboty czy gry, będą podlegać niewielkim wymogom, głównie dotyczącym przejrzystości. Chodzi o to, żeby użytkownicy mieli świadomość, że mają do czynienia ze sztuczną inteligencją.

Dodatkowe wymogi bezpieczeństwa nałożone zostaną na treści zmanipulowane, tzw. deepfakes, czyli materiały wygenerowane przez AI, których celem jest wprowadzenie użytkownika w błąd. Te również będą musiały być opatrzone wyraźnym oznaczeniem.

Systemy wysokiego ryzyka, np. technologie wykorzystywane w oświacie, jak systemy AI analizujące podania studentów o stypendia czy przyjęcie na studia, będą dopuszczane na rynek UE pod warunkiem spełnienia surowych wymogów.

Producenci będą musieli ocenić ich ryzyko jeszcze przed wprowadzeniem na unijny rynek, a obywatele - np. studenci, którzy nie dostaną świadczenia - będą mieli prawo do zaskarżenia decyzji podjętych z użyciem AI.

Zakazane będzie natomiast oprogramowanie stanowiące wyraźne zagrożenie dla praw podstawowych użytkowników. Chodzi tu o technologie pozwalające np. na monitorowanie i szpiegowanie ludzi czy wykorzystywanie ich danych wrażliwych, takich jak:

• orientacja seksualna

• pochodzenie lub wyznanie

• przewidywanie zachowań w tym tzw. prognozowanie kryminologiczne, czyli ryzyko popełnienia przestępstw

• podsuwanie treści mogących w płynąć na decyzje i zachowanie

Zabronione będzie też stosowanie tzw. systemu punktowania społecznego, służącego do oceny obywateli na podstawie ich zachowań społecznych. Tego typu technologie wykorzystywane są m.in. w Chinach, gdzie np. sąsiedzi przyznają sobie punkty za poprawne wyrzucanie śmieci na osiedlu.

Zakaz będzie też dotyczył systemów monitorujących emocje ludzi w miejscach pracy, urzędach, szkołach lub na uczelniach. Takie technologie stosowane są czasem do przewidywania strajków i niepokojów społecznych.

AI nie będzie mogła być też wykorzystywana do śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu lub monitoringu miejskiego, by stworzyć bazy danych służące rozpoznawaniu twarzy.

Będą wyjątki, bo z systemów rozpoznawania twarzy pod pewnymi warunkami (np. przy poszukiwaniu osób podejrzanych o terroryzm) będą mogły korzystać służby. W takim przypadku zgodę będzie jednak musiał wydać sąd lub właściwy urząd.

Przepisy zakładają również powołanie nowych organów monitorujących, w tym urzędu ds. sztucznej inteligencji przy Komisji Europejskiej czy rady do spraw sztucznej inteligencji, w której zasiadać mają przedstawiciele państw unijnych.

Firmy, które nie będą przestrzegać unijnych przepisów o AI, będą musiały liczyć się z surowymi karami. Będzie to albo część rocznego globalnego obrotu firmy lub odgórnie określona grzywna w zależności od tego, która kwota będzie wyższa. Małym i średnim przedsiębiorstwom oraz start-upom grozić będą raczej kary administracyjne.

źródło: Polska Agencja Prasowa