Umělou inteligenci využívají už dvě třetiny dospělých Čechů. Šest z deseti uživatelů AI postrádá především jistotu, že jejímu výstupu mohou věřit. Vyplývá to z nedávného výzkumu agentury STEM/MARK. Výsledky podle autorů otevírají otázku, zda další velkou inovací AI nemá být schopnost otevřeně rozlišit: tohle vím, tohle odhaduji a tady si nejsem jistý/á.
Uživatelé AI se dělí na dvě skupiny. První má k AI pozitivní vztah (85 procent) a druhá má vztah negativní (15 procent). Pozitivní vztah s sebou nese spokojenost s výstupem AI (72 procent z nich), velmi časté použití na denní nebo týdenní bázi (70 procent) a širší spektrum úkolů – hlavně vyhledávání, praktické rady, překlad, generování obrázků a technické informace (v průměru 5 typů úloh).
Naopak negativní vztah implikuje spíš rozpaky z výstupů (22 procent nespokojených, 32 procent nedokáže jednoznačně říct), ojedinělé použití – měsíčně nebo méně často (66 procent) a užší spektrum úkolů – hlavně vyhledávání, překlady a generování obrázků (v průměru 3 typy úkolů).
Přehnaně sebevědomá AI
Přibližně 60 procent uživatelů AI postrádá jistotu, zda výstupu může věřit. Požadavek na takovou jistotu mají častěji lidé s pozitivním vztahem k AI (61 procent) než s negativním postojem (52 procent). „Respondenti uvedli, že se AI nemusí pořád tvářit jako stoprocentní zdroj. Když si není jistá, mohla by se naučit říct nevím a nevymýšlet hloupost nebo falešnou informaci,“ podotkla Zuzana Švalbová z agentury STEMMARK.
Mohlo by se zdát, že jistotu lidé potřebují víc u úloh založených na faktech, než u úloh založených na kreativitě. Úlohy založené na faktech jsou sice výrazně častější u pozitivně naladěných uživatelů, ale samy k potřebě věrohodnosti nevedou. Důvodem je spíš to, že jde o lidi s jinými potřebami, pracující na jiných pozicích a v jiném prostředí.
Požadavek na věrohodnost dat sám o sobě neurčuje ani to, zda je uživatel s výstupem spokojen. Jistotu pravdivosti postrádají mnohem častěji lidé, kteří jsou spokojení s výstupy AI (63 procent), než nespokojení (46 procent). Tedy odpověď AI se jim líbí, ale potřebují jistotu, že to všechno není vymyšlené.
Lidé by tedy ocenili posouzení pravdivosti, tedy z čeho odpověď AI vychází. Takovou možností je např. indexování: tohle jsem našel ve zdroji, tohle jsem vypočítal, tohle jsem odvodil, tohle je obecná znalost a tohle jsem odhadl/nevím. Dalším požadavkem je časová informace, k jakému období se odpověď AI vztahuje a jak moc je aktuální.
Zatímco časová reference by se k výstupům doplnit mohla, s hodnocením pravdivosti je to horší. Model sice může pracovat s odhadem vlastní nejistoty, ale to není totéž, co pravdivost informace. Je vytrénovaný tak, aby vytvářel odpověď následující zadání, která je pro uživatele užitečná a nejpravděpodobnější. Pravděpodobnost ale nesouvisí s pravdivostí ale s četností výskytu navazujících textových řetězců.
„Zatím tedy zůstává kritické posouzení výstupů AI na nás, na člověku, uživateli. A zatím je to stupeň, ve kterém nás AI nenahradí, což je v kontextu nahrazování lidské práce pozitivní aspekt,“ uzavřela Švalbová.