By akademiotoelektronik, 03/12/2022

Председателството на Съвета на ЕС предлага значителни промени в законопроекта за ИИ

Словенското председателство разпространи компромисен текст относно законопроекта за ИИ на ЕС, включващ големи промени в областите на социалното оценяване, системите за биометрично разпознаване и високорисковите приложения, като същевременно идентифицира бъдещи точки за дискусия.

Ротационното председателство на Съвета на ЕС сподели първи компромисен текст в понеделник, 29 ноември, който да придружава доклад за напредъка по европейския закон за ИИ.

Обхват и определения

В доклада за напредъка, видян от EURACTIV, страните от ЕС потвърждават изключителната си юрисдикция върху националната сигурност и настояват системите с изкуствен интелект (изкуствен интелект), разработени изключително за военните, да бъдат премахнати от обхвата на регламента.

Системите с изкуствен интелект, разработени единствено с цел научно изследване и развитие, също са изключени от обхвата.

Президентството разработи определението за AI системи, за да ги разграничи по-добре от традиционните софтуерни програми. Поради това се счита, че системите с изкуствен интелект имат способността да обработват данни или други видове входни данни, „за да направят извод как да постигнат даден набор от дефинирани от човека цели чрез учене, разсъждения или моделиране“, в зависимост от компромиса.

Доставчикът на AI сега се определя като физическо лице или организация, „който има разработена система за AI и който пуска тази система на пазара или я пуска в употреба“. Доставчиците ще носят отговорност за осигуряване на съответствие с изискванията на разпоредбите.

Добавена е нова категория система с изкуствен интелект с „общо предназначение“, която не трябва да се счита, че попада в обхвата на регламента, освен ако системата е собственост на търговска марка или е интегрирана в друга система, предмет на регламента .

Социална оценка

Предложението на Комисията включва забрана на приложения с ИИ, за които се счита, че представляват неприемливи рискове. Един от тях е социално оценяване или социален рейтинг, практика, започната в Китай, която се счита за насърчаване на масовото наблюдение.

Президентството сега предлага да се разшири забраната за социална оценка на публичните органи, така че да обхване частни лица. В допълнение, определението за забрана също е разширено, за да включи експлоатацията на „социална или икономическа ситуация. »

Тези промени могат да имат дълбоки последици за финансовия сектор, тъй като например лихвените проценти по заеми в момента се изчисляват въз основа на вероятността за изплащане.

Използването на AI системи за оценка на застрахователните премии също е включено във високорисковите системи.

Данни и изкуствен интелект: как Европа иска да навакса изоставането

Европейската комисия представи основните линии на цифровата си стратегия за новия си мандат, който продължава до 2024 г. Нейната цел: компенсиране на натрупаното забавяне срещу американския и китайския гигант. Статия от нашия партньор La Tribune.

Биометрично разпознаване

Системите за биометрична идентификация, обхванати от законодателството, вече не се определят като „дистанционни“ системи, а като всяка система, позволяваща идентифицирането на хора „ без тяхното съгласие“.

Възможността за използване на системи за биометрична идентификация в реално време е разширена до участници, които не са правоприлагащи органи, но които си сътрудничат с тях. Причината за използването на тези системи е разширена до защитата на критични инфраструктури.

Биометричните системи могат да се използват само със съгласието на съдебния орган. В спешни случаи първоначалното предложение предвижда разрешение да може да бъде поискано и последващо.

От друга страна, според новия текст разрешението трябва „да бъде поискано без неоправдано забавяне по време на използването му и ако това разрешение бъде отхвърлено, използването му се прекратява с незабавен ефект“.

Изкуствен интелект: Комисията иска да забрани „безразборното наблюдение“ според вътрешни документи

Европейската комисия ще се стреми да забрани системите с изкуствен интелект, използвани за „безразборно наблюдение“ като част от новите забрани, които ще бъдат въведен следващата седмица.

Системи с висок риск

Законът за ИИ въвежда специфични задължения, които представляват висок риск по отношение на здравето, безопасността и основните права. В своето предложение Комисията идентифицира осем високорискови области, които не могат да бъдат променени, а само да бъдат дефинирани по-точно в бъдеще.

Най-значимата промяна в списъка с високорискови системи е включването на цифрова инфраструктура, предназначена за защита на околната среда, включително „AI системи, предназначени за използване при контролиране на емисиите и замърсяването. »

В правоприлагането подкатегорията за анализ на престъпността е премахната.

Компромисният текст предвижда, че Европейската комисия ще трябва да оценява списъка с високорискови системи на всеки две години, както и списъка с техники и подходи за ИИ, обхванати от регламента.

Изкуствен интелект: правителството ще инвестира 1,5 милиарда евро за създаване на шампиони

Държавният секретар по цифровите технологии Седрик О и министърът на висшето образование и научните изследвания Фредерик Видал представиха в понеделник (8 ноември), фаза 2ᵉ от националната стратегия за изкуствен интелект, по повод събитието „Франция е AI“.

Нерешени въпроси

Докладът за напредъка предвижда редица области, които трябва да изискват допълнително обсъждане.

Изискванията за системи с висок риск са маркирани като неясни и изискващи практически насоки за улесняване на съответствието на бизнеса. Дадените примери се отнасят до това как задълженията за качество на данните и прозрачност могат да бъдат изпълнени на практика.

Освен това няколко държави от ЕС посочиха, че изискването за пълни и безгрешни данни може да е до голяма степен нереалистично. „Редица делегации подчертаха, че макар това да е така във възможно най-голяма степен, това не трябва да бъде абсолютно изискване“, се казва в доклада.

Няколко държави членки също подчертаха сложността на веригата на стойността, „където границите между различните участници не винаги са ясно очертани. В резултат на това може да се наложи разделението на отговорностите да бъде преоценено, за да отразява по-добре реалността на веригите за стойност на ИИ.

Прекомерната административна тежест за МСП беше повтаряща се тема в дискусиите, въпрос, който беше повдигнат и на последната среща на върха на държавните ръководители на ЕС.

Също така бяха изразени опасения относно връзката между Закона за изкуствения интелект и други части от законодателството на ЕС, за да се избегнат противоречиви закони, особено по отношение на неприкосновеността на личния живот, правоприлагането, безопасността на продуктите и друго индустриално законодателство.