拜登来电莫迪跳舞？别被骗！AI造假打开潘多拉魔盒？

2024-02-22 09:17 中国新闻网责任编辑：陈曦

中新网2月21日电(陈彩霞) “真是一派胡言!重要的是,你要把选票留到11月的选举中。本周的投票只会让共和党人再次选举唐纳德·特朗普……”近期,在美国新罕布什尔州举行初选前,很多美国人接到了“美国总统拜登”的电话留言,而这通电话被认为是人工智能(AI)生成的“虚假电话”。

随着生成式人工智能(GAI)时代的到来,“眼见为实”“有图有真相”逐渐被颠覆。2024年开年,美国OpenAI公司发布了首个文生视频模型“Sora”,在振奋科技圈的同时,也让人们对AI生成的假视频和假图片泛滥的担忧与日俱增。大量“深度伪造”视频的出现,可能对选举等政治和安全领域产生负面影响,世界各国仍需合作来应对这一挑战。

“AI换脸”真假难辨

多国政要“躺枪”

近年来,AI技术发展迅猛,文生图、文生视频的工具如Pika、Sora等层出不穷。而“AI换脸”也通过深度合成算法处理,为“二度创作”提供了支持。深度伪造技术似乎愈发出格,甚至多国政要也纷纷“躺枪”……

2023年3月18日,美国前总统特朗普曾在社交媒体上发文称,他预计自己将于2023年3月21日被捕。此消息一出,“特朗普被捕”的“照片”在一些社交平台迅速流传开来。这些“照片”包括“特朗普被警察围捕”、“特朗普穿囚服”,甚至还有“特朗普越狱”,精彩程度堪比好莱坞大片。

日本首相岸田文雄也曾因“AI换脸”技术“躺枪”。2023年11月,日本一名25岁男子借助AI技术,制作了“岸田文雄开发布会”的假视频。

视频中的“岸田”身着西装,神态紧张,语气郑重。该视频还带有日本电视台的台标和“突发新闻”字样。这条假视频上线仅一天,播放量就超过230万次。

印度总理莫迪也曾陷“深度伪造”风波。2023年11月,一段“莫迪跳舞”的视频在网上疯传。视频中,“莫迪”和其他舞者身穿传统服饰,围成一个圈,欢快地跳着印度古吉拉特邦的一种节日舞蹈——加尔巴舞。

莫迪亲自辟谣,称视频是AI合成的。他警告称,“人们会误以为自己看见的是真实的,这会引发巨大危机……在人工智能时代,负责任地使用技术很重要。”

新加坡总理李显龙2023年底也在社交媒体发文称,近日出现了一些利用他的音频制作的深度伪造视频,宣传加密货币骗局。流传的伪造视频中,李显龙提到获新加坡政府批准的投资机会,并推广了一个所谓由特斯拉首席执行官马斯克设计的“革命性投资平台”。李显龙呼吁公众提高警惕,切勿上当受骗。

政治“深伪”时刻到来?

AI安全成焦点

除了满足网络受众的猎奇心理和社交需求,AI技术近来逐渐在选举中崭露头角,它与政治的融合既带来进步,也带来“陷阱”。