Šíření syntetických osobností a falešných videí ohrožuje bezpečnost bank a finančních technologií
Útoky využívající umělou inteligenci ohrožují digitální biometrickou verifikaci.
Rozvoj umělé inteligence vedl k vzniku jevu, který vyvolává obavy v technologickém odvětví: útoky pomocí injekcí, složitá a těžko odhalitelná hrozba pro ověřování digitální identity.
Podle údajů společnosti Jumio, která se zabývá biometrickou autentizací a analýzou dat, tento druh podvodu vykazuje stabilní růst po celém světě.
Jak funguje nový způsob podvodu pomocí AI
Umělá inteligence a deepfake zvyšují riziko podvodů při ověřování identity .
Injekční útoky se liší od tradičních metod padělání identity tím, že vkládají syntetická data přímo do systémů, aniž by používaly fyzické kamery nebo běžné vizuální triky.
Pomocí emulátorů a speciálního softwaru podvodníci vkládají videa generovaná umělou inteligencí nebo syntetické biometrické signály, což jim umožňuje obcházet kontrolní mechanismy a kompromitovat finanční platformy.
„Útoky s implantací dat jsou stále obtížněji odhalitelné, prověřují technologie, zvyšují riziko podvodů a podkopávají důvěru v digitální systémy,“ vysvětlil Samer Atassi, viceprezident .
Atassi vysvětlil, že snadný přístup k nástrojům umělé inteligence vedl k nárůstu používání fiktivních osobností a falešných videí: „Umělá inteligence je dostupná pro každého. To je dobré pro kreativitu a inovace, ale má to i svou odvrácenou stranu, protože usnadňuje vytváření falešných osobností.“
V této souvislosti se situace, které byly dříve považovány za možné pouze ve sci-fi filmech, již vyskytují v každodenních procesech otevírání účtů nebo ověřování v bankách, fintech společnostech a na jiných digitálních platformách.
Jak funguje vkládání videa pomocí AI
Jednou z charakteristik útoků pomocí vložení je možnost manipulovat vstupním kanálem bez nutnosti předložit obraz nebo video před fyzickou kamerou.
„Podvodník místo toho, aby otevřel kameru svého zařízení, otevře virtuální kameru a vloží video s identitou, která byla předem vygenerována pomocí AI. Tímto způsobem může zfalšovat biometrické údaje uživatele, otevřít účty v bankách nebo fintech společnostech a spravovat operace pod ukradenou identitou,“ vysvětlil Atassi.
V rámci tohoto procesu jsou detaily, jako je pohyb očí, rtů nebo mimika, prakticky nerozeznatelné tradičními systémy, což činí tento druh podvodu obzvláště nebezpečným.
Podvodníci používají virtuální kamery a falešné biometrické signály, aby obešli bezpečnostní systémy, což nutí společnosti integrovat řešení, která detekují i detaily neviditelné lidským okem.
Podle nedávných údajů došlo za poslední rok k 88% nárůstu pokusů o útoky pomocí injekcí. Ve zprávě společnosti je tento nárůst spojován s rozšířením technologií deepfake a dostupností nástrojů pro manipulaci v darkwebu, což usnadnilo stále složitější pokusy o podvody v regionu.
S tím související rizika přesahují rámec obcházení regulačních kontrol nebo padělání identity. Tyto útoky mohou ohrozit integritu digitálních procesů, vést k finančním podvodům a podkopat důvěru uživatelů a strategických partnerů v bezpečnost platforem, varuje společnost.
Použití technologií ověřování pravosti nebo „testu na život“ přestalo být doplňkovou výhodou a stalo se nezbytnou součástí odhalování injekčních útoků.
Trendy pozorované u injekčních útoků ukazují, že kybernetická bezpečnost čelí stále složitějším výzvám způsobeným snadným přístupem k nástrojům umělé inteligence a globální výměnou metod podvodů.Neustálá adaptace systémů, technologické vzdělávání a monitorování nových zranitelností se stávají klíčovými aspekty pro snižování rizik a zachování důvěry v digitální prostředí.
Spolupráce mezi společnostmi, institucemi a uživateli je nezbytná pro zmírnění dopadů těchto trestných činů a posílení ochranných mechanismů v digitálním ekosystému.
