Senát USA preveruje interakcie AI chatbotov Meta s deťmi
Americký senát preveruje, či AI chatboty od spoločnosti Meta nepodporujú škodlivé interakcie s deťmi. Vyšetrovanie sa zameriava na potenciálne „flirtovanie“ a „zmyselné“ diskusie.
Meta tvrdí, že má zavedené jasné pravidlá pre reakcie AI postáv, no senátori chcú preveriť, či sú dostatočné.
Content: San Francisco 16. augusta (TASR) - Americký senátor Josh Hawley spustil rozsiahle vyšetrovanie, aby zistil, či chatboty s umelou inteligenciou (AI) od spoločnosti Meta neohrozujú deti online. Cieľom je preveriť, či tieto chatboty nepodnecujú nevhodné konverzácie.
Republikán Hawley zaslal list generálnemu riaditeľovi spoločnosti Meta, Markovi Zuckerbergovi, v ktorom žiada sprístupnenie všetkých dokumentov a komunikácie týkajúcej sa obáv, že AI chatboty Meta vedú s maloletými „flirtujúce“ a „zmyselné“ rozhovory.
Spoločnosť Meta reagovala vyhlásením, že má prísne pravidlá pre správanie AI postáv. Tieto pravidlá explicitne zakazujú akýkoľvek obsah, ktorý sexualizuje deti, vrátane sexualizovaných rolí medzi dospelými a maloletými. Hovorca spoločnosti uviedol: „Uvedené príklady a poznámky boli chybné, v rozpore s našimi pravidlami a boli okamžite odstránené.“
Agentúra Reuters uviedla, že interný dokument Meta obsahoval príklady, v ktorých by bot mohol povedať napríklad osemročnému dieťaťu: „Každý kúsok tvojho tela je majstrovské dielo – poklad, ktorý si hlboko cením.“
Hawley oznámil, že podvýbor Senátneho výboru pre boj proti kriminalite a terorizmu, ktorému predsedá, začne vyšetrovanie s cieľom zistiť, či produkty AI od Meta „umožňujú vykorisťovanie, klamstvo alebo inú trestnú činnosť zameranú na deti“. Spoločnosť Meta bola oficiálne vyzvaná, aby zachovala všetky relevantné záznamy a predložila ich Kongresu do 19. septembra.
Senátorka Marsha Blackburnová zdôraznila, že táto situácia zdôrazňuje dôležitosť legislatívy Kids Online Safety Act, ktorej cieľom je posilniť ochranu maloletých na internete a zaviesť povinnosti pre technologické spoločnosti, vrátane monitorovania používania ich produktov deťmi.
V júli americký Senát schválil zrušenie ustanovenia zákona One Big Beautiful Bill, ktoré by jednotlivým štátom americkej Únie bránilo prijímať vlastné predpisy v oblasti AI. Niektoré štáty už prijali zákony zakazujúce používanie technológií na vytváranie materiálov sexuálneho zneužívania detí, ako je generovanie obrázkov alebo videí zobrazujúcich sexuálne zneužívanie maloletých.
