Podle akademiotoelektronik, 03/12/2022

Předsednictví Rady EU navrhuje významné změny zákona o AI

Slovinské předsednictví rozeslalo kompromisní text k návrhu zákona EU o umělé inteligenci, včetně zásadních změn v oblastech sociálního bodování, systémů biometrického rozpoznávání a vysoce rizikových aplikací, a zároveň určilo body budoucí diskuse.

Rotující předsednictví Rady EU se v pondělí 29. listopadu podělilo o první kompromisní text, který bude doprovázet zprávu o pokroku v oblasti evropského zákona o AI.

Rozsah a definice

Ve zprávě o pokroku, kterou vidí EURACTIV, země EU znovu potvrzují svou výlučnou jurisdikci nad národní bezpečností a trvají na tom, že systémy umělé inteligence (AI) vyvinuté výhradně pro armádu by měly být vyjmuty z působnosti nařízení.

Systémy umělé inteligence vyvinuté výhradně pro účely vědeckého výzkumu a vývoje byly z oblasti působnosti rovněž vyloučeny.

Předsednictví vyvinulo definici systémů umělé inteligence, aby je lépe odlišilo od tradičních softwarových programů. Systémy umělé inteligence jsou proto považovány za systémy, které mají schopnost zpracovávat data nebo jiné typy vstupů „k odvození toho, jak dosáhnout daného souboru lidmi definovaných cílů prostřednictvím učení, uvažování nebo modelování“, v závislosti na kompromisu.

Dodavatel AI je nyní definován jako jednotlivec nebo organizace, „která má vyvinutý systém AI a která tento systém uvádí na trh nebo jej uvádí do provozu“. Dodavatelé budou odpovědní za zajištění souladu s požadavky předpisů.

Byla přidána nová kategorie „univerzálního“ systému umělé inteligence, který by neměl být považován za systém spadající do oblasti působnosti nařízení, pokud systém nevlastní komerční značka nebo není integrován do jiného systému podléhajícího nařízení. .

Sociální hodnocení

Návrh Komise zahrnuje zákaz aplikací umělé inteligence, o nichž se má za to, že představují nepřijatelná rizika. Jedním z nich je sociální bodování nebo sociální hodnocení, což je praxe zahájená v Číně, která je považována za podporu hromadného sledování.

Předsednictví nyní navrhuje rozšířit zákaz sociálního hodnocení orgánů veřejné moci na soukromé subjekty. Kromě toho byla definice zákazu také rozšířena tak, aby zahrnovala zneužívání „sociální nebo ekonomické situace. »

Tyto změny by mohly mít hluboké důsledky pro finanční sektor, protože například úrokové sazby úvěrů se v současnosti počítají na základě pravděpodobnosti splacení.

Do vysoce rizikových systémů bylo zahrnuto i použití systémů umělé inteligence pro odhadování pojistného.

Data a umělá inteligence: jak to chce Evropa dohnat

Evropská komise představila hlavní linie své digitální strategie pro svůj nový mandát, který trvá do roku 2024. Její cíl: vyrovnat nahromaděné zpoždění proti americkým a čínským gigantům. Článek od našeho partnera La Tribune.

Biometrické rozpoznávání

Biometrické identifikační systémy, na které se vztahuje legislativa, již nejsou definovány jako „vzdálené“ systémy, ale jako jakýkoli systém umožňující identifikaci osob „ bez jejich souhlasu“.

Možnost používání biometrických identifikačních systémů v reálném čase byla rozšířena na aktéry, kteří nejsou orgány činnými v trestním řízení, ale spolupracují s nimi. Důvod použití těchto systémů byl rozšířen na ochranu kritických infrastruktur.

Biometrické systémy lze používat pouze se souhlasem soudního orgánu. V naléhavých případech původní návrh stanovil, že o povolení lze požádat také ex post.

Na druhou stranu podle nového textu je třeba o autorizaci „vyžádat bez zbytečného odkladu během jejího používání, a pokud je tato autorizace zamítnuta, je její používání s okamžitou platností ukončeno“.

Umělá inteligence: Komise chce zakázat „nerozlišující sledování“ podle interních dokumentů

Evropská komise se bude snažit postavit mimo zákon systémy umělé inteligence používané pro „sledovací“ operace bez rozdílu“ v rámci nových zákazů, které mají být představen příští týden.

Vysoce rizikové systémy

Zákon o umělé inteligenci zavádí konkrétní povinnosti, které představují vysoké riziko z hlediska zdraví, bezpečnosti a základních práv. Komise ve svém návrhu určila osm vysoce rizikových oblastí, které nelze změnit, pouze je v budoucnu přesněji definovat.

Nejvýznamnější změnou na seznamu vysoce rizikových systémů je zahrnutí digitální infrastruktury určené k ochraně životního prostředí, včetně „systémů umělé inteligence určených k použití při kontrole emisí a znečištění . »

V oblasti vymáhání práva byla odstraněna podkategorie analýzy kriminality.

Kompromisní text předpokládá, že Evropská komise bude muset každé dva roky vyhodnotit seznam vysoce rizikových systémů a také seznam technik a přístupů umělé inteligence, na které se nařízení vztahuje.

Umělá inteligence: vláda investuje 1,5 miliardy eur, aby vytvořila šampiony

Ministr zahraničí Cédric O a ministr vysokého školství a výzkumu Frédérique Vidal představili v pondělí (8. listopadu), 2ᵉ fáze národní strategie pro umělou inteligenci, u příležitosti akce „Francie je AI“.

Nevyřešené otázky

Zpráva o pokroku předpokládá řadu oblastí, které by měly vyžadovat další diskusi.

Požadavky na vysoce rizikové systémy jsou označeny jako vágní a vyžadující praktické pokyny k usnadnění obchodní shody. Uvedené příklady se týkají toho, jak by mohly být v praxi splněny povinnosti týkající se kvality údajů a transparentnosti.

Několik zemí EU navíc poukázalo na to, že požadavek na úplné a bezchybné údaje může být do značné míry nereálný. „Řada delegací zdůraznila, že i když by to tak mělo být v co největší míře, nemělo by to být absolutní požadavek,“ píše se ve zprávě.

Několik členských států také zdůraznilo složitost hodnotového řetězce, „kde hranice mezi různými aktéry nejsou vždy jasně vymezeny. V důsledku toho může být nutné přehodnotit rozdělení odpovědností, aby lépe odráželo realitu hodnotových řetězců umělé inteligence.

Nadměrná administrativní zátěž pro malé a střední podniky byla opakujícím se tématem diskusí, což byla otázka, která byla nastolena také na posledním summitu hlav států EU.

Vyskytly se také obavy ohledně vztahu mezi zákonem o AI ​​a dalšími právními předpisy EU, aby se předešlo konfliktní legislativě, zejména pokud jde o soukromí, vymáhání, bezpečnost výrobků a další průmyslovou legislativu.