Diplomatov USA varujú pred podvodníkmi, ktorí pomocou AI napodobňujú Marca Rubia

Americké ministerstvo zahraničných vecí varuje diplomatov pred pokusmi o napodobňovanie ministra zahraničných vecí Marca Rubia a ďalších vysokých úradníkov pomocou umelej inteligencie. Podvodníci sa snažia kontaktovať zahraničných aj amerických predstaviteľov.

Podľa dvoch vysokopostavených úradníkov a internej správy, rozoslanej na všetky ambasády a konzuláty, ministerstvo zahraničných vecí USA varuje svojich diplomatov pred pokusmi o zneužitie umelej inteligencie na napodobňovanie ministra zahraničných vecí Marca Rubia a potenciálne aj ďalších úradníkov.

Upozornenie prišlo po tom, čo ministerstvo zistilo, že osoba vydávajúca sa za Rubia sa pokúsila spojiť s minimálne tromi ministrami zahraničných vecí, americkým senátorom a guvernérom. Informáciu prvýkrát priniesol denník The Washington Post.

Detaily o adresátoch podvodných správ, ktoré boli odoslané prostredníctvom textových správ, aplikácie Signal a hlasovej pošty, neboli v správe identifikované. Kópiu správy zdieľala agentúra Associated Press.

Komentár redakcie: Používanie umelej inteligencie na podvodné účely predstavuje rastúcu hrozbu. Tento prípad poukazuje na potrebu zvýšenej ostražitosti a investícií do technológií, ktoré dokážu odhaliť deepfakes a iné formy AI podvodov.

„Ministerstvo zahraničných vecí si je vedomé tohto incidentu a aktívne ho monitoruje a rieši,“ uviedla hovorkyňa ministerstva Tammy Bruceová. „Ministerstvo berie vážne svoju zodpovednosť za ochranu informácií a neustále podniká kroky na zlepšenie kybernetickej bezpečnosti, aby predišlo budúcim incidentom.“

Vzhľadom na „bezpečnostné dôvody“ a prebiehajúce vyšetrovanie odmietla poskytnúť ďalšie informácie.

Ide o ďalší prípad, keď sa cieľom podvodníkov stala vysokopostavená osoba z administratívy, pričom podobný incident bol odhalený už v máji a týkal sa šéfky kabinetu Susie Wilesovej. Zneužívanie umelej inteligencie na podvody pravdepodobne porastie s tým, ako sa technológia zlepšuje a stáva sa dostupnejšou. FBI už na jar varovala pred „zlomyseľnými aktérmi“, ktorí sa vydávajú za vysokých predstaviteľov vlády USA v textových a hlasových správach.

Podvodné pokusy s napodobňovaním Rubia boli neúspešné a „nie veľmi sofistikované,“ uviedol jeden z úradníkov. Druhý úradník však dodal, že ministerstvo považovalo za „rozumné“ informovať všetkých zamestnancov a zahraničné vlády, najmä vzhľadom na narastajúce snahy zahraničných aktérov o kompromitáciu informačnej bezpečnosti.

Úradníci neboli oprávnení verejne diskutovať o tejto záležitosti a hovorili pod podmienkou anonymity.

„Z tejto kampane nehrozí priama kybernetická hrozba pre ministerstvo, ale informácie zdieľané s treťou stranou by mohli byť ohrozené, ak by boli cieľové osoby kompromitované,“ uvádza sa v správe.

FBI vydala verejné varovanie pred „zlomyseľnou“ kampaňou, ktorá sa spolieha na textové správy a hlasové správy generované umelou inteligenciou, ktoré sa vydávajú za správy od vysokopostaveného amerického úradníka a majú za cieľ oklamať ďalších vládnych úradníkov, ako aj kontakty obete.

Nie je to prvýkrát, čo bol Rubio napodobňovaný pomocou technológie deepfake. Na jar niekto vytvoril falošné video, v ktorom tvrdil, že chce Ukrajine odstrihnúť prístup k internetovej službe Starlink Elona Muska. Ukrajinská vláda neskôr toto nepravdivé tvrdenie vyvrátila.

V posledných rokoch bolo navrhnutých niekoľko potenciálnych riešení pre rastúce zneužívanie umelej inteligencie na podvody, vrátane trestných sankcií a zlepšenia mediálnej gramotnosti. Obavy z deepfakes viedli aj k záplave nových aplikácií a systémov umelej inteligencie, ktoré sú navrhnuté na odhaľovanie falošných prejavov, ktoré by mohli ľahko oklamať človeka.

Technologické spoločnosti, ktoré pracujú na týchto systémoch, teraz súperia s tými, ktorí by chceli využiť umelú inteligenciu na podvody, tvrdí Siwei Lyu, profesor a informatik na University at Buffalo. Povedal, že zaznamenal nárast počtu deepfakes zobrazujúcich celebrity, politikov a podnikateľov, pretože sa technológia zlepšuje.

Ešte pred pár rokmi obsahovali falošné prejavy ľahko rozpoznateľné chyby – neľudské hlasy alebo chyby ako prsty navyše – ale teraz je AI taká dobrá, že je pre človeka oveľa ťažšie ju odhaliť, čo dáva tvorcom deepfakes výhodu.

„Úroveň realizmu a kvality sa zvyšuje,“ povedal Lyu. „Sú to preteky v zbrojení a momentálne majú prevahu generátory.“

Podvod s Rubiom prichádza po tom, čo volení predstavitelia, obchodní manažéri a ďalšie významné osobnosti dostali textové správy a telefonáty od niekoho, kto zrejme získal prístup ku kontaktom v osobnom mobilnom telefóne Wilesovej, informoval denník The Wall Street Journal v máji.

Niektorí z tých, ktorí prijali hovory, počuli hlas, ktorý znel ako hlas Wilesovej, ktorý mohol byť generovaný umelou inteligenciou, uviedol denník. Správy a hovory nepochádzali z čísla Wilesovej, uvádza správa. Vláda prípad vyšetrovala.