TransAlgo: algoritmisten järjestelmien vastuullisuuden ja läpinäkyvyyden arviointi

Kuinka TransAlgo-projekti syntyi?

Digitasavallan lakia noudattaen Axelle Lemaire, silloinen digitaalisista ja innovaatioista vastaava valtiosihteeri, määräsi vuonna 2016 talousneuvostolle (CGE) raportti sisällönkäsittelyalgoritmien säätelymenettelyistä. Yksi tämän raportin suosituksista oli tieteellisen yhteistyöalustan perustaminen, jonka tarkoituksena on toisaalta edistää ohjelmistotyökalujen ja -menetelmien kehittämistä algoritmien testaamiseen ja toisaalta edistää niiden käyttöä. Pyrimme perustamaan TransAlgo-nimisen alustan algoritmisten järjestelmien läpinäkyvyyden ja vastuullisuuden kehittämiseen datan ja algoritmien kaksinaisuuden vuoksi.

Inrialle on uskottu TransAlgon operaattorin rooli, ja monien akateemisten toimijoiden tieteelliset panokset ovat yhdistäneet TransAlgon haasteet, erityisesti CNRS:n. Tieteellisen asiantuntemuksen lisäksi Inria tarjoaa ohjelmistokehitysapua.

Tämä alusta on ensimmäinen Euroopassa.

Miksi vaivautua tästä aiheesta?

Yksinkertainen kysymys: ovatko automaattiset suositukset tavaroiden ja palveluiden kulutukselle (esim. Netflix audiovisuaalisen sisällön osalta tai Amazon jokapäiväisten tuotteiden osalta) reiluja kuluttajalle tai palvelulle tarjoaja? Suositusmoottoreista on tulossa yhä enemmän määräyksiä ja niiden läpinäkyvyys on nyt tärkeä taloudellinen kysymys esimerkiksi kulttuurisisällön tuottajille. Noudatetaanko henkilötietojen käyttöä koskevaa suostumusta todella? Inrian ja CNIL:n äskettäinen tutkimus on osoittanut tunnetun taloudellisen toimijan. Kyseessä on sen mobiilisovellus, joka ylitti käyttäjän suostumuksen ilmoittamalla GPS-sijaintinsa tämän kieltäytymisestä huolimatta. Tässä tapauksessa johtajat eivät olleet tietoisia, ja heidän oli aloitettava sisäinen tutkimus saadakseen selville, mistä ongelma johtui. Ohjelmauskollisuuden puute ei välttämättä ole tahallista! Toinen esimerkki epäreilusta käytöksestä on epävakaa hinnoittelu, jonka saatat nähdä, kun lentolippusi hinta nousee käydessäsi verkkokauppasivustolla. Tarkoituksena ei ole hidastaa innovointia tai uusia liiketoimintamalleja, vaan tukea innovaatiota tarjoamalla kuluttajille perusteltua tietoa, olivatpa he kansalaisia ​​(B2C) tai yrityksiä (B2B), sekä automatisoidun päätöksenteon jäljitettävyyden avulla. Avoimuus on etu kuluttajan "en-kapasitaatiossa", mutta myös taloudellisen kilpailukyvyn tekijä. Siinä tapauksessa, että palvelun kuluttaja on ammattilainen (B2B), voidaan herättää vilpillisen kilpailun tilanne tai ei.

Hakukoneissa on myös lajittelumekanismeja, mekanismeja, joilla suositellaan ja valitaan ehdotettua sisältöä, joka ei tällä hetkellä näy läpinäkyvästi... Kaikella tällä voi olla vaikutuksia, joita useimmat eivät vieläkään mittaile pankkilainojen myöntämisessä, vakuutuksissa. , rekrytointitilanteet ja vastaavat.

Siksi on olemassa todellisia ongelmia, jotka liittyvät tiedotukseen, puolueettomuuteen, uskollisuuteen, oikeudenmukaisuuteen, syrjimättömyyteen, epäreilun kilpailun torjuntaan, suostumuksen ja yksityisyyden kunnioittamiseen jne. Erittäin tärkeä asia on kuitenkin ymmärtää, että tieteellinen alusta TransAlgo ei ole millään tavalla vastuussa algoritmien tai tietojen käytön valvonnasta. Se tarjoaa joukon tutkimuksia, työkaluja ja palveluita kaikille asianosaisille toimijoille.

Mitkä ovat TransAlgon tieteelliset haasteet?

Algoritmien järjestelmien läpinäkyvyys on todellinen haaste akateemiselle tutkimukselle. Tämä vaatii useita tieteenalojen taitoja, ja monia tunnistettuja aiheita ei ole vielä tutkittu riittävästi akateemisessa tutkimuksessa, minkä vuoksi tutkimustyön moninkertaistaminen on tärkeää. TransAlgo kehittää kahta lähestymistapaa: algoritmien auditoitavuutta ja uuden sukupolven "transparent by construction" -algoritmien kehittämistä, jotka helpottavat niiden läpinäkyvyyden mittaamista, niiden selitystä ja niiden perustelujen jäljitettävyyttä. Pyrimme myös kehittämään niin sanottuja "rakenteelta vastuussa" -algoritmeja, jos ne kunnioittavat lakeja ja noudattavat tiettyjä yhteiskuntiemme sääntöjä ja arvoja.

Algoritmi on läpinäkyvä, jos sen "vastuu" on helppo tarkistaa, jos se esimerkiksi avaa koodinsa, jos se selittää sekä käyttämänsä tiedon lähteen että tuottaman tiedon, jos hän selittää tulokset. , tai vaikka hän julkaisee jälkiä laskelmistaan. Huomaa, että huomioimme myös tilanteet, joissa koodia ei ole auki, koska sitä ei ole pakko paljastaa.

Miten aiot edetä?

Tämän ratkaisemiseksi on ensin määriteltävä, mitä kutsutaan läpinäkyviksi, neutraaleiksi, uskollisiksi tai oikeudenmukaisiksi ohjelmistoiksi, jotka ovat melko laillisia. Tämä työ sisältää sen määrittelyjen ja käyttäytymisen välisen yhdenmukaisuuden tarkistamisen, toisin sanoen eron sen välillä, mitä sen on tarkoitus tehdä ja mitä se tekee. Se myös valaisee sen noudattamista eettisten ja oikeudellisten sääntöjen kanssa. Algoritmisten järjestelmien läpinäkyvyyden menetelmät ja tekniset työkalut ovat monimutkainen ja monitahoinen aihe. Ominaisuudet, jotka haluamme todentaa, esimerkiksi syrjimättömyys tai uskollisuus, sisältävät tärkeän osan subjektiivisuudesta, joka riippuu käyttötapauksista ja konteksteista. Tämä tekee niiden määrittämisestä vaikeaa. Tieteelliset haasteet ovat lukuisia, ja aiheesta on hyvin vähän tutkimustyötä.

TransAlgolla on merkittävä opettava rooli suurelle yleisölle selittämään käytetyt käsitteet, joista osa voidaan objektiivistaa ja osa ei. TransAlgo-alusta tarjoaa tilaa resursseille ja osallistuvalle vaihdolle tiedeyhteisölle ja sen ulkopuolelle. Löydät valkoisia papereita, raportteja, artikkeleita, mutta myös tietojoukkoja ja kontrolloituja testiprotokollia. Alustasta tulee myös tila hyvien käytäntöjen jakamiseen kansallisella ja kansainvälisellä tasolla, koulutustila verkkokursseilla. Tavoitteena on lisätä kollektiivista tietoisuutta tiedon ja tiedon hallinnan ja käsittelyn algoritmeihin liittyvistä ongelmista, hankkia algoritmityökaluja kansalaisten, viranomaisten ja ammattilaisten voimaannuttamiseksi.

TransAlgo on myös foorumi tiedeyhteisön animaatiolle, joka on omistautunut avoimuuteen ja algoritmien vastuuseen liittyviin haasteisiin. Nämä kysymykset vaativat tieteidenvälistä asiantuntemusta ja tuovat yhteen useita akateemisia toimijoita Inrian ja CNRS:n lisäksi, kuten Sciences Po, IMT, Grenoble Alpesin yliopisto, Paris-Sudin yliopisto, Versailles-Saint-Quentinin yliopisto, Pierre ja Marie Curien yliopisto ja ENS.

Olemme luoneet viisi työryhmää seuraavista aiheista:

Kuinka voimme olla varmoja, että meillä on jalansija todellisessa maailmassa?

Olemme sitoutuneet käyttötapauksiin kansalaisten ja ammattilaisten elämästä. Yhdistyksillä on myös rooli tiettyjen alustojen tai palvelujen nykytilanteen tunnistamisessa ja objektiivisoinnissa maksumekanismin avulla (kansalaiset ja ammattilaiset).

Todellisten käyttötapausten tuomiseksi esille olemme keskustelleet kilpailun, kulutuksen ja petosten torjunnan yleisen suunnan (DGCCRF), audiovisuaalialan ylimmän neuvoston (CSA), Ranskan henkilötietojen suojan valvontaviranomaisen kanssa. CNIL), FING (New Generation Internet Foundation) sekä CERNA (Allisten digitaalisten tieteiden ja teknologioiden tutkimuksen etiikkaa käsittelevä toimikunta). Aiomme työskennellä myös valmistajilta ja kuluttajajärjestöiltä tulevien tarpeiden ilmaisujen palautteen pohjalta.