Podle akademiotoelektronik, 28/08/2022

Umělá inteligence a smlouva: směrem ke zvratu neřestí souhlasu?

Předsedkyně Evropské komise Ursula von der Leyenová proto tváří v tvář právnímu a etickému vakuu potvrdila, že si přeje, „aby aplikace těchto nových technologií byla hodna důvěry našich občanů. odpovědný přístup k umělé inteligenci zaměřený na člověka“[1]. Právě s touto ambicí transparentnosti byl 21. dubna 2021 předložen návrh evropského nařízení, které vývojářům stanoví specifikace, které je třeba splnit z hlediska umělé inteligence, aby byl evropským uživatelům zaručen rámec a právní bezpečnost[2]. . Využití umělé inteligence při řízení smluv, které je částečně cílené jako vysoce rizikový systém umělé inteligence, vyvolává otázky.

Integrace AI do smluvních procesů dnes existuje ve všech fázích trvání smlouvy. Umělá inteligence tak může být využita od pomoci při sepisování smlouvy až po smluvní monitorovací úkoly, včetně problémů s ukončením. Úroveň složitosti implementace AI do nástrojů pro správu smluv se však liší v závislosti na látce, kterou AI řeší. Lze tedy rozlišovat mezi systémy umělé inteligence pro pomoc s navrhováním a monitorováním smluv na jedné straně a systémy autonomního řízení smluv na straně druhé.

Integrace AI a platnost smlouvy

Platnost smlouvy splňuje v souladu s podmínkami nového článku 1128 občanského zákoníku následující tři podmínky: (1) svobodný a informovaný souhlas smluvních stran, (2) jejich způsobilost uzavírat smlouvy a (3) zákonný a určitý obsah. A co potom použitelnost těchto podmínek, a zejména souhlas stran, když umělá inteligence způsobí revoluci ve smluvních praktikách?

Otázka vad souhlasu ve smyslu článku 1130 občanského zákoníku se tak ve světle použití AI jeví jako zásadní. Jeho studium by se však mělo omezit na určité scénáře. Vezměme si například systémy AI používané při sepisování smluv, které ve skutečnosti umožňují navrhovateli listiny pomoci identifikovat prvky, které mají být do smlouvy vloženy, a přepsat je pomocí standardní doložky. Nelze vyloučit hypotézu o nedokonalém přepisu informací sdělovaných AI, takže smlouva by mohla být pošpiněna chybou. Kdo by byl odpovědný za takovou chybu?

Zaměřme se nejprve na hypotézu využití systému AI při sepisování smlouvy. Připomínáme, že sepisování smluv v jiné než autentické podobě, sepisovaných pro jiné pravidelně a za úplatu a zakládání práv nebo povinností, spadá do rámce monopolu advokátů[3]. Použití systému umělé inteligence právníkem při sepisování smlouvy tak musí být v souladu s povinností poradenství a zásadou předběžné opatrnosti, které jsou na něj kladeny. Z toho vyplývá, že vyhotovení smlouvy poznamenané chybou by tak mohlo vést k odpovědnosti advokáta, pokud by došlo k nedbalosti. Právník by v takovém případě mohl podat žalobu proti vydavateli systému AI, a to s rizikem, že bude konfrontován s vodotěsnými prohlášeními o vyloučení odpovědnosti. Stejně tak, když jsou strany jedinými autory aktu, souhra doložek o nezodpovědnosti vydavatelů systémů umělé inteligence implikuje odpovědnost uživatelů – jinými slovy stran samotných – za ověřování informací. obsažené v takto vytvořeném dokumentu.

Zbývá vidět důsledky vývoje autonomních systémů umělé inteligence, které umožňují přímé vytvoření smlouvy mezi uživatelem a umělou inteligencí.

Nový právní nástroj: „inteligentní smlouva“

Tradiční pohled na smlouvu, definovaný článkem 1101 občanského zákoníku jako dohodu vůle mezi dvěma nebo více osobami, která má vyvolat právní účinky (právní režim stanovený reformou vyplývající z vyhlášky č. 2016-131 z 10. února 2016 reformující smluvní právo, obecný režim a prokazování závazků), nicméně jeho účinnost zpochybňuje příchod nových smluv, které do jejich tvorby a realizace integrují umělou inteligenci: smart kontrakty.

Inteligentní smlouva je počítačový program, který běží v blockchainovém systému[4]. Tyto programy jsou vytvářeny vývojáři ve formě podmínek. Tyto podmínky pak program kontroluje. Pokud jsou respektovány, vytvářejí efekty předem stanovené počítačovým kódem. Chytrá smlouva tak běží automaticky, jakmile jsou splněny předem definované podmínky.

Pro zabezpečení smlouvy se tyto informace zadávají do blockchainu; data proto není možné upravovat nebo mazat. Blockchain je digitální systém pro ukládání a přenos dat, který funguje přes internet. Tento systém je bezpečný, protože každý uživatel má pro přístup k němu veřejný klíč a soukromý klíč. Veřejný klíč je všem známý a umožňuje provedení transakce. Soukromý klíč se používá k dešifrování transakce, a proto je potřeba jej udržet v tajnosti. K dnešnímu dni jsou chytré smlouvy z velké části generovány na blockchainu Ethereum.

Inteligentní smlouvy se v současnosti využívají zejména v oblasti pojištění, ochrany lékařských dat, finančních služeb a nemovitostí. Uživatel se tak může ocitnout v uzavření smlouvy prostřednictvím jednoduché výměny se systémem AI, nejčastěji ve formě digitálního dialogu („chatbot“).

V oblasti pojištění lze smart kontrakty využít za účelem automatického odškodnění poškozených při splnění podmínek. Například, a přestože byla platforma ukončena v roce 2019, pojišťovna Axa spustila v roce 2017 platformu Fizzy, která automaticky odškodní pojištěného v případě zrušení nebo zpoždění letu.

V oblasti nemovitostí by se využití chytrých smluv mohlo rozšířit i na sezónní pronájmy. Mohlo by se například jednat o chytrou nájemní smlouvu, na jejímž základě by si nájemce mohl zarezervovat, přečíst si podmínky nájmu a zaplatit automaticky, jakmile vstoupí do areálu.

Inteligentní smlouva je proto výhodou a významným pokrokem díky automatizaci, kterou zavádí, například tím, že snižuje riziko nezaplacení v době plnění smlouvy. Podporuje také určité technické zabezpečení pomocí technologie blockchain, která ukotvuje podmínky smlouvy ihned po jejím vytvoření, aniž by bylo možné je následně smazat nebo upravit. A konečně, chytré smlouvy eliminují zprostředkovatele a důvěryhodné třetí strany, jako jsou právníci, které jsou obvykle nutné k sepsání smlouvy.

Inteligentní smlouva: nástroj kompatibilní se závazkovým právem?

Poskytují tyto nové smlouvy větší právní jistotu? Je společné smluvní právo přizpůsobeno těmto novým inteligentním smlouvám?

V současné době stojí proti sobě dva doktrinální proudy. Člověk je pevně přesvědčen, že společné smluvní právo vyplývající z reformy z roku 2016 je dostatečným rámcem pro vytváření a provádění smart kontraktů, tedy podléhajících ustanovením článků 1101 až 1239 občanského zákoníku[5].

Druhý je však více smíšený[6]. Inteligentní smlouvy totiž mohou být zdrojem právní nejistoty, zejména v době jejich vzniku. Vzhledem k automatičnosti by mohla být zpochybněna podmínka stanovená článkem 1128 občanského zákoníku týkající se souhlasu stran. Za prvé, bylo by nutné být schopen zajistit, aby souhlas existoval, jakmile vznikne smart kontrakt. V praxi to zůstává obtížné, protože vývojáři jsou jediní, kdo je schopen kódovat podmínky smlouvy. Pak by bylo nutné, aby bylo možné zajistit integritu souhlasu stran, tedy aby nebyl poškozen. Ve francouzském právu může chyba v podstatných vlastnostech služby nebo smluvního partnera způsobit neplatnost souhlasu, a tím vést k neplatnosti smlouvy (článek 1132 občanského zákoníku). V případě smart kontraktu však nemusí být reflektována původní vůle smluvní strany. Základní kvalita služby, například pokud jde o produkt nebo službu, může být odlišná od očekávané, což vede k právní nejistotě, kdy tato základní kvalita byla rozhodující pro udělení souhlasu.

Z toho vyplývá, že asymetrie informací se ukazuje jako rozhodující problém inteligentních smluv s ohledem na nejistoty, které tíží závazky AI, zejména pokud jde o předsmluvní informační povinnost. Tato povinnost zavedená v článku 1112-1 občanského zákoníku totiž nutí stranu, která má informace, o nichž ví, že jsou rozhodující pro souhlas druhé strany, aby jí sdělila, zda tato neznalost byla oprávněná, nebo zda tato strana důvěřuje svým spoluúčastníkům. -dodavatel. Porušení takové povinnosti může vést k úvahám o podvodu vůči neinformované straně, právní nejistota tížící obě strany je značná.

Hypotézu podvodu v inteligentních smlouvách je však obtížné realizovat. Podvod ve smyslu článku 1137 občanského zákoníku totiž vyžaduje prokázat vůli podvádět toho, kdo je proti němu. Prokázání podvodného záměru vycházejícího z AI však není snadné v tom, že by znamenalo prokázat, že počáteční kódování systému a jeho učících se komponent bylo zamýšleno tak, aby vědomě uvedlo v omyl smluvní stranu. Jinými slovy, jak určit existenci podvodného záměru pomocí řádku kódu? Není pochyb o tom, že taková demonstrace bude obtížně realizovatelná, zejména proto, že by ji pak mohl napadnout konstruktér AI po předložení všech faktických prvků, které vedly systém k uzavření těchto podmínek smlouvy s uživatelem. Bylo by tedy otázkou pro stranu, která se považuje za poškozenou, aby prokázala existenci podvodu, i když jeho oponent bude schopen in extenso ospravedlnit své záměry při vytváření smlouvy prostým přepisem údajů shromážděných AI.

Je nepopiratelné, že umělá inteligence bude stále více integrována do právních nástrojů používaných jak stranami sporu, tak odborníky z praxe, což předznamenává otřes v právním prostředí smlouvy, od jejího vytvoření až po její provedení. Tato digitální revoluce, stejně jako všechny ostatní, jistě způsobí, že některé nástroje a koncepty budou zastaralé. V době, kdy jsou vady v souhlasu stále vzácněji předkládány jako účinný právní základ před soudy, zdá se, že výzvy umělé inteligence tento trend podporují. Zda zásahy umělé inteligence do smluvní oblasti rozezní umíráček současné vizi vad souhlasu, se teprve uvidí.

Kronika „Rozšířené právo, právník a praxe práva“

Cílem této rubriky je zabývat se aktuálními problémy souvisejícími s touto transformací. V kontextu, kde digitální, velká data a datová analytika, strojové učení a umělá inteligence hluboce a trvale proměňují právní praxi, vytvářejí „rozšířené právníky“, ale také volají po „rozšířeném právu“ s ohledem na výzvy a nové obchodní modely poháněné digitální.

Se svým Augmented Law Institute má EDHEC Business School velkou výhodu v umístění znalostí, dovedností a funkcí právníka do centra transformací v podnikání a společnosti. Je definována kolem 3 strategických oblastí rozvoje: její nabídka hybridního školení, její výzkum užitečný pro právní průmysl, její platforma Legal Talent Management. https://www.edhec.edu/fr/ledhec-augmented-law-institute

---

[1] „EU pro „odpovědnou“ a lidmi řízenou umělou inteligenci“, L’Express, 19. února 2020.

[2] Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (zákon o umělé inteligenci) a kterým se mění některé právní předpisy Unie, https://eur-lex.europa.eu/resource. html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0020.02/DOC_1&format=PDF.

[3] Článek 54 zákona ze dne 31. prosince 1971, https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000039280601/

[4] Blockchain je databáze, která obsahuje historii všech výměn mezi svými uživateli od svého vytvoření. Tato databáze je bezpečná a distribuovaná: je sdílena různými uživateli bez prostředníků, což umožňuje každému zkontrolovat platnost řetězce

[5] E. Viguier, Blockchain a chytré smlouvy: technologické, právní a obchodní otázky: LexisNexis, CDE 2017, rozhovor 2

[6] Bruno ANCEL, chytré smlouvy: společenská revoluce nebo nová Pandořina skříňka? LexisNexis, Electronic Commerce Communication č. 7-8, červenec 2018, studie 13.