Operátor Vodafone Czech Republic na podzim nasadí službu, která má zákazníky chránit před deepfake obsahem i podvody s umělou inteligencí. V září uvede na trh aplikaci Vodafone Verify, která umožní ověřovat autenticitu digitálního obsahu a pomáhat odhalovat deepfake videa, audio nahrávky nebo zmanipulované dokumenty. Na vývoji Vodafone spolupracuje s technologickou společností Synhawk.
Česko ale bude prvním trhem, kde se taková aplikace objeví. Společnost přitom plánuje, že uvedení na další trhy bude následovat.
Podle firmy se charakter hrozeb s rozmachem AI rychle mění. Vedle falešných telefonátů přibývají případy, kdy útočníci využívají umělou inteligenci k napodobení hlasu blízkých osob, vytváření kompromitujících videí nebo k manipulaci dokumentů. Rizika se týkají nejen jednotlivců, ale také firem. Mezi scénáře, které mohou být stále častější, patří například deepfake účastníci videokonferencí v aplikacích Teams či Google Meet, podvržené faktury a smlouvy nebo šikana prostřednictvím synteticky vytvořeného obsahu.
„Generativní umělá inteligence zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější. Naší odpovědností jako operátora je stejným způsobem změnit ekonomiku obrany. Proto jsme mezi prvními v Evropě, kdo zákazníkům a zákaznicím přináší detekci deepfake obsahu v reálném čase, od mobilní aplikace až po síťovou vrstvu,“ říká generální ředitelka Vodafonu ČR Violeta Luca.
Řešení aplikace Vodafone Verify bude funkční na operačních systémech Android a iOS. Založeno je na principu ověřování přímo v zařízení uživatele a umožňuje analyzovat různé typy obsahu, například hlasové zprávy z komunikačních aplikací typu WhatsApp, Messenger, fotografie nebo videa.
Díky partnerství se společností Synhawk nabídne Vodafone ochranu na třech úrovních. První z nich bude mobilní aplikace pro ověřování digitálního obsahu Vodafone Verify. Druhou bude představovat služba zabezpečující online schůzky Vodafone Verify Meetings. Třetí úroveň, Vodafone Verify Network, přinese detekci podvodného obsahu přímo v síti operátora. Technologie byla vyvinuta Maty Boháčkem, výzkumníkem v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatelem společnosti Synhawk.
Největší veřejně známý útok využívající deepfake technologie připravil britskou inženýrskou společnost Arup o 25 milionů dolarů. Průzkumy zároveň ukazují, že většina lidí si není jistá, zda by deepfake obsah dokázala spolehlivě rozpoznat.