TransAlgo: оценка на отчетността и прозрачността на алгоритмичните системи

Как се роди проектът TransAlgo?

Следвайки закона за цифрова република, Аксел Лемер, тогавашен държавен секретар по цифровите технологии и иновациите, нареди през 2016 г. на Генералния съвет за икономиката (CGE) доклад относно процедурите за регулиране на алгоритмите за обработка на съдържание. Една от препоръките на този доклад беше създаването на съвместна научна платформа, предназначена да насърчава, от една страна, разработването на софтуерни инструменти и методи за тестване на алгоритми и, от друга страна, насърчаване на тяхното използване. Работим върху създаването на платформа, наречена TransAlgo, за развитие на прозрачност и отчетност на алгоритмичните системи, поради двойствеността на данните и алгоритмите.

На Inria е поверена ролята на оператор на TransAlgo, с научния принос на много академични играчи, обединени около предизвикателствата на TransAlgo, по-специално CNRS. В допълнение към научната експертиза, Inria ще предостави помощ при разработването на софтуер.

Тази платформа ще бъде първата в Европа.

Защо да се занимавате с тази тема?

Прост въпрос: справедливи ли са автоматичните препоръки за потребление на стоки и услуги (например Netflix за аудиовизуално съдържание или Amazon за ежедневни продукти) спрямо потребителя или услугата доставчик? Механизмите за препоръки стават все по-предписателни и тяхната прозрачност сега представлява важен икономически въпрос, например за производителите на културно съдържание. Спазва ли се наистина съгласието за използване на лични данни? Скорошно проучване на Inria и CNIL посочи добре известен икономически играч. Става въпрос за мобилното му приложение, което надхвърли съгласието на потребителя, като съобщи неговата GPS позиция въпреки отказа на последния. В случая мениджърите не са били наясно и е трябвало да започнат вътрешно разследване, за да разберат откъде идва проблемът. Липсата на лоялност към програмата не е непременно умишлена! Друг пример за нечестно поведение е променливото ценообразуване, което може да видите, когато цената на вашия самолетен билет се увеличи, докато посещавате сайт за електронна търговия. Целта не е да се забавят иновациите или новите бизнес модели, а да се подкрепят иновациите чрез предоставяне на информирана информация на потребителите, независимо дали са граждани (B2C) или предприятия (B2B), и чрез възможност за проследяване на автоматизираното вземане на решения. Прозрачността е предимство за „ен-капацитацията“ на потребителя, но също и фактор за икономическа конкурентоспособност. В случай, че потребителят на услугата е професионалист (B2B), може да се предизвика ситуация на нелоялна конкуренция или не.

Има и механизми за сортиране в търсачките, механизми за препоръчване и избиране на предложено съдържание, което в момента не се показва прозрачно... Всичко това може да има въздействия, които повечето хора все още не измерват при отпускане на банкови заеми, застраховки , ситуации на набиране на персонал и други подобни.

Следователно има реални проблеми с информацията, неутралността, лоялността, справедливостта, недискриминацията, борбата срещу нелоялната конкуренция, зачитането на съгласието и поверителността и т.н. Много важно нещо, което трябва да разберете обаче е, че научната платформа TransAlgo по никакъв начин няма да отговаря за регулаторния контрол на алгоритмите или използването на данните. Той ще предлага набор от проучвания, инструменти и услуги на всички заинтересовани играчи.

Какви са научните предизвикателства на TransAlgo?

Прозрачността на алгоритмичните системи е истинско предизвикателство за академичните изследвания. Това изисква няколко дисциплинарни умения и много от идентифицираните теми все още не са достатъчно проучени от академични изследвания, оттук и значението на умножаването на изследователските усилия. Два подхода ще бъдат разработени от TransAlgo: възможност за проверка на алгоритми и разработване на нови поколения алгоритми „прозрачни по конструкция“, които улесняват измерването на тяхната прозрачност, тяхното обяснение и възможността за проследяване на техните мотиви. Ние също така ще се стремим да разработим така наречените „отговорни по конструкция“ алгоритми, ако те спазват законите и ако отговарят на определени правила и ценности на нашите общества.

Един алгоритъм е прозрачен, ако човек може лесно да провери неговата „отговорност“, например, ако отваря кода си, ако обяснява както източника на данните, които е използвал, така и тези, които произвежда, ако обяснява своите резултати , или дори ако публикува следи от своите изчисления. Обърнете внимание, че ще разгледаме и ситуации, при които кодът не е отворен, тъй като няма задължение за разкриването му.

Как ще продължите?

За да можем да се справим с това, е необходимо първо да дефинираме това, което се нарича прозрачен, неутрален, лоялен или честен софтуер, концепции, които са напълно законни. Тази работа включва проверка на съответствието между неговите спецификации и неговото поведение, с други думи разликата между това, което трябва да прави, и това, което прави. Освен това ще хвърли светлина върху съответствието му с етичните и законови правила. Методите и техническите средства за прозрачност на алгоритмичните системи са сложна и многостранна тема. Свойствата, които искаме да проверим, например недискриминация или лоялност, включват важна част от субективността, която зависи от случаите на употреба и контекста. Това затруднява спецификацията им. Научните предизвикателства са многобройни и има много малко изследователска работа по темата.

TransAlgo има значителна образователна роля спрямо широката публика, за да обясни използваните концепции, някои от които могат да бъдат обективизирани, а други не. Платформата TransAlgo ще предложи пространство за ресурси и съвместен обмен на научната общност и извън нея. Ще намерите бели книги, доклади, статии, но също и набори от данни и контролирани тестови протоколи. Платформата ще бъде и пространство за споделяне на добри практики на национално и международно ниво, пространство за обучение с онлайн курсове. Целта е да се повиши колективната осведоменост по проблемите около алгоритмите за управление и обработка на данни и информация, да се придобият алгоритмични инструменти за овластяване на гражданите, публичните органи и професионалистите.

TransAlgo също ще бъде платформа за анимиране на научната общност, посветена на предизвикателствата, породени от въпросите за прозрачността и отговорностите на алгоритмите. Тези въпроси изискват интердисциплинарен опит и обединяват няколко академични играчи, в допълнение към Inria и CNRS, като Sciences Po, IMT, Университета на Гренобъл Алпи, Университета на Париж-Южен, Университета Версай-Сен-Куентин, Университетът Пиер и Мария Кюри и ENS.

Създадохме пет работни групи по следните теми:

Как можем да сме сигурни, че имаме опора в реалния свят?

Ние сме привързани към случаи на използване от живота на граждани и професионалисти. Асоциациите също играят роля в идентифицирането и обективизирането на текущата ситуация на определени практики на платформи или услуги чрез механизъм за принос (граждани и професионалисти).

За да представим много реални случаи на употреба, имаме обмен с Общата дирекция на конкуренцията, потреблението и репресиите срещу измамите (DGCCRF), Висшия съвет за аудио-визуални технологии (CSA), Френския надзорен орган за защита на личните данни ( CNIL), FING (Интернет фондация от ново поколение), в допълнение към CERNA (Комисия за размисъл върху етиката на изследванията в цифровите науки и технологии на Allistene). Също така възнамеряваме да работим въз основа на обратна връзка от изразяването на нуждите, която ще дойде от производителите и асоциациите на потребителите.