Od neděle 2. srpna se v celé Evropské unii včetně Česka stávají účinnými pravidla transparentnosti umělé inteligence podle evropského nařízení AI Act. Znamená to například povinnost informovat uživatele, že komunikuje s chatbotem či jiným systémem umělé inteligence. Také takzvané deepfakes budou muset být jasně označeny jako uměle vytvořené.
Podle ředitele České asociace AI Lukáše Benzla evropské nařízení neříká, že každý AI obrázek, každý AI text nebo každý výstup z chatbota musí dostat viditelnou nálepku, ale jeho článek 50 obsahuje pět různých povinností, které dopadají na různé aktéry, v různých situacích a různým způsobem.
Jednou z povinností je, že pokud člověk přímo komunikuje s AI systémem, musí být informován, že komunikuje s umělou inteligencí. Tato povinnost dopadá na poskytovatele systému. Pokud AI systém generuje nebo manipuluje text, obraz, zvuk nebo video, musí poskytovatel zajistit, aby výstupy byly technicky označené ve strojově čitelném formátu a detekovatelné jako AI generované nebo manipulované.
Pokud někdo používá systém pro rozpoznávání emocí nebo biometrickou kategorizaci, musí osoby vystavené tomuto systému informovat o jeho provozu. Pokud AI obsah naplňuje definici deepfake (podobá se existujícím osobám, místům či událostem a může se nepravdivě jevit jako autentický) musí osoba, která jej zveřejňuje, označit, že obsah byl uměle vytvořen nebo upraven.
Označení obrázků i textů
Pokud AI systém generuje nebo manipuluje text, který je publikován za účelem informování veřejnosti o věcech veřejného zájmu, musí osoba, která jej zveřejňuje, označit, že text byl uměle vytvořen nebo upraven.
Za nedodržení pravidel hrozí pokuta až 15 milionů eur nebo tři procenta celosvětového ročního obratu, podle toho, co je vyšší.
K výkladu pravidel z článku 50 AI Actu mají pomáhat Pokyny Evropské komise k implementaci povinností transparentnosti a Kodex správné praxe pro transparentnost AI generovaného obsahu. Přestože právně závazný výklad AI Actu může dát jen Soudní dvůr EU, tyto dva dokumenty ukazují, jak bude povinnosti chápat Komise a dozorové orgány, a v praxi se podle nich bude posuzovat, zda organizace pravidla plní.