TransAlgo: hodnocení odpovědnosti a transparentnosti algoritmických systémů

Jak se zrodil projekt TransAlgo?

V souladu se zákonem pro digitální republiku, Axelle Lemaire, tehdejší ministryně pro digitál a inovace, nařídila v roce 2016 Generální radě pro ekonomiku (CGE) zprávu o postupech pro regulaci algoritmů zpracování obsahu. Jedním z doporučení této zprávy bylo vytvoření společné vědecké platformy, která má na jedné straně podporovat vývoj softwarových nástrojů a metod pro testování algoritmů a na straně druhé podporovat jejich používání. Pracujeme na vytvoření platformy s názvem TransAlgo pro rozvoj transparentnosti a odpovědnosti algoritmických systémů kvůli dualitě dat a algoritmů.

Inria byla pověřena rolí provozovatele TransAlgo , s vědeckými příspěvky mnoha akademických hráčů sjednocených kolem výzev TransAlgo, zejména CNRS. Kromě vědeckých odborných znalostí bude Inria poskytovat pomoc při vývoji softwaru.

Tato platforma bude první v Evropě.

Proč se tímto tématem zabývat?

Jednoduchá otázka: jsou automatická doporučení pro spotřebu zboží a služeb (například Netflix pro audiovizuální obsah nebo Amazon pro každodenní produkty) spravedlivá vůči spotřebiteli nebo službě poskytovatel? Nástroje doporučení jsou stále více normativní a jejich transparentnost nyní představuje důležitý ekonomický problém, například pro producenty kulturního obsahu. Je souhlas s použitím osobních údajů skutečně respektován? Nedávná studie Inria a CNIL přesně určila známého ekonomického hráče. Jedná se o její mobilní aplikaci, která překročila souhlas uživatele tím, že sdělila jeho polohu GPS i přes jeho odmítnutí. V tomto případě si manažeři nebyli vědomi a museli zahájit interní vyšetřování, aby pochopili, kde se problém vzal. Nedostatek loajality k programu nemusí být nutně úmyslný! Dalším příkladem neférového chování je kolísavé ceny, které můžete zaznamenat, když se cena vaší letenky zvýší, když navštívíte web elektronického obchodu. Účelem není zpomalit inovace nebo nové obchodní modely, ale podpořit inovace poskytováním informovaných informací spotřebitelům, ať už jsou to občané (B2C) nebo podniky (B2B), a sledovatelností automatizovaného rozhodování. Transparentnost je přínosem pro „zvýšení kapacity“ spotřebitele, ale také faktorem hospodářské konkurenceschopnosti. V případě, že je spotřebitelem služby profesionál (B2B), může dojít k navození situace nekalé soutěže či nikoli.

Ve vyhledávačích existují také třídicí mechanismy, mechanismy pro doporučování a výběr navrhovaného obsahu, který se aktuálně nezobrazuje transparentně... To vše může mít dopady, které si většina lidí stále neměří na poskytování bankovních úvěrů, pojištění , náborové situace a podobně.

Existují proto skutečné problémy týkající se informovanosti, neutrality, loajality, spravedlnosti, nediskriminace, boje proti nekalé soutěži, respektování souhlasu a soukromí atd. Je však velmi důležité pochopit, že vědecká platforma TransAlgo nebude mít v žádném případě na starosti regulační kontrolu algoritmů nebo používání dat. Všem dotčeným hráčům nabídne řadu studií, nástrojů a služeb.

Jaké jsou vědecké výzvy TransAlgo?

Transparentnost algoritmických systémů je skutečnou výzvou pro akademický výzkum. To vyžaduje několik disciplinárních dovedností a mnoho z identifikovaných témat dosud nebylo dostatečně prozkoumáno akademickým výzkumem, a proto je důležité znásobit výzkumné úsilí. TransAlgo vyvine dva přístupy: auditovatelnost algoritmů a vývoj nových generací algoritmů „transparent by construction“, které usnadní měření jejich transparentnosti, jejich vysvětlení a sledovatelnost jejich zdůvodnění. Budeme také usilovat o vývoj takzvaných algoritmů „responsible by construction“, pokud budou respektovat zákony a pokud budou v souladu s určitými pravidly a hodnotami našich společností.

Algoritmus je transparentní, pokud lze snadno ověřit jeho „odpovědnost“, například pokud otevře svůj kód, pokud vysvětluje zdroj dat, která použil, i to, která vytvořil, pokud vysvětluje své výsledky , nebo i když zveřejní stopy svých výpočtů. Všimněte si, že zvážíme také situace, kdy kód není otevřený, protože neexistuje povinnost jej zveřejnit.

Jak budete postupovat?

Abychom to mohli řešit, je nutné nejprve definovat, co se nazývá transparentní, neutrální, loajální nebo férový software, tedy pojmy, které jsou zcela legální. Tato práce zahrnuje kontrolu shody mezi jeho specifikacemi a jeho chováním, jinými slovy mezery mezi tím, co má dělat a co dělá. Osvětlí také její soulad s etickými a právními pravidly. Metody a technické nástroje transparentnosti algoritmických systémů jsou komplexní a mnohostranné téma. Vlastnosti, které chceme ověřit, například nediskriminace nebo loajalita, zahrnují důležitou část subjektivity, která závisí na případech použití a kontextech. To ztěžuje jejich specifikaci. Vědecké výzvy jsou četné a existuje jen velmi málo výzkumné práce na toto téma.

TransAlgo má podstatnou výchovnou roli vůči široké veřejnosti při vysvětlování používaných pojmů, z nichž některé lze objektivizovat a jiné ne. Platforma TransAlgo nabídne prostor pro zdroje a participativní výměny vědecké komunitě i mimo ni. Najdete zde bílé knihy, zprávy, články, ale také datové sady a řízené testovací protokoly. Platforma bude také prostorem pro sdílení dobré praxe na národní i mezinárodní úrovni, školicím prostorem s online kurzy. Cílem je zvýšit kolektivní povědomí o problematice správy dat a informací a algoritmů zpracování, získat algoritmické nástroje pro posílení pravomocí občanů, veřejných orgánů a odborníků.

TransAlgo bude také platformou pro animaci vědecké komunity věnované výzvám, které představují otázky transparentnosti a odpovědnosti algoritmů. Tyto otázky vyžadují interdisciplinární odborné znalosti a spojují několik akademických hráčů, kromě Inria a CNRS, jako je Sciences Po, IMT, University of Grenoble Alpes, University of Paris-Sud, University of Versailles-Saint-Quentin, Univerzita Pierra a Marie Curieových a ENS.

Vytvořili jsme pět pracovních skupin na následující témata:

Jak si můžeme být jisti, že máme oporu v reálném světě?

Jsme odkázáni na případy použití ze života občanů a profesionálů. Sdružení mají také svou roli při identifikaci a objektivizaci současné situace určitých praktik platforem nebo služeb prostřednictvím mechanismu příspěvků (občané a odborníci).

Abychom uvedli velmi reálné případy použití, vedeme výměny názorů s obecným zaměřením na hospodářskou soutěž, spotřebu a potlačování podvodů (DGCCRF), Nejvyšší radou pro audiovizuální oblast (CSA), francouzským dozorovým úřadem pro ochranu osobních údajů ( CNIL), FING (New Generation Internet Foundation), kromě CERNA (Komise pro úvahy o etice výzkumu v digitálních vědách a technologiích Allistene). Hodláme také pracovat na základě zpětné vazby z vyjádření potřeb, které přijdou od výrobců a sdružení spotřebitelů.