1. 首页
  2. 资讯要闻
  3. AI冒充“总统”来电,你能识别吗?

AI冒充“总统”来电,你能识别吗?

发布时间:2024-02-07 14:44 分享到:

当地时间1月21日

美国新罕布什尔州一些选民

接到了由机器人拨打的语音电话

在神秘电话中

“拜登总统”以经典口头禅开头

对他们发出见解

“拜登”给我打电话?

真的假的?

当地时间22日

美国白宫方面紧急澄清

语音疑似由AI“深度伪造

(Deepfake)技术合成

《纽约杂志》网站报道截图

从AI拟声、合成虚假照片

再到生成视频

随着人工智能技术的快速发展

各种以假乱真的情况

在世界多地频频上演

近期,美国流行乐歌星

泰勒·斯威夫特的

“AI伪造照片”事件

掀起轩然大波

甚至惊动了美国白宫

这种生成合成图像、音频或视频的技术

引发了人们对虚假信息传播的思考

图源:澎湃新闻

怎么防止AI“深度伪造”的事故

再三发生?

各界人士在积极行动

美国白宫发言人卡琳·让-皮埃尔表示

虽然社交媒体公司

在内容管理方面有独立决策权

但它们在严格落实其监管制度上

应起到重要作用

图源:讯飞星火生成

生成式人工智能公司OpenAI

日前表示

在竞选活动中

政界人士及其竞选团队

不得使用该公司的AI工具

用户也被禁止创建假扮政治候选人

或政府机构和官员的

聊天机器人

此次伪造拜登语音所用的工具背后

是语音克隆初创公司ElevenLabs

该公司也已暂停利用

AI“深度伪造”技术

发布信息的账户

并警告

不得将克隆声音用于

欺诈、歧视、发表仇恨言论

或任何触犯法律之事

图源:讯飞星火生成

美国消费者技术协会首席执行官

夏皮罗提出

政府需要在AI领域扮演重要角色

确保设置安全屏障和护栏

让产业内人士知道

哪些能做、哪些不能做

针对近期的AI“深度伪造”事件

当地时间2月1日

美国联邦通信委员会(FCC)主席

杰西卡·罗森沃塞尔提议

把使用AI生成的

语音拨打机器人电话(robocall)

定为非法

FCC的委员们将在未来几周内

对该提案进行表决

图源:讯飞星火生成

尽管AI技术给我们带来了新挑战

但国际社会普遍认为

不能“因噎废食”

不能拒绝发展相关技术

毕竟,在技术进步的过程中

AI技术本身就可用来对抗

AI“深度伪造”行为

比如

有开发者建议平台

给AI生成软件加上隐形水印

以快速识别AI并进行溯源

去年12月发布的

一款名为mist的隐形图片水印

则能极大程度干扰AI模型

使之生成的图片遭受不同程度的破坏

图源:讯飞星火生成

还有专家认为

法律手段也要有所作为

对一些技术解决不了的问题

进行立法追责

中国发布的

《互联网信息服务深度合成管理规定》

已于2023年1月10日起施行

《规定》强调

深度合成服务提供者需要

对深度合成内容进行显著标识

任何组织和个人

不得采用技术手段

删除、篡改、隐匿相关标识

作为普通用户

假如接到来自名人的电话

你能识别出真假吗?

面对AI的“深度伪造”

我们该如何避免危害呢?

参考丨法治日报、央视财经、南方都市报、羊城晚报、澎湃新闻、新浪科技

(来源:"网信浙江”)

(链接:https://mp.weixin.qq.com/s/ziCKtHtaOGqRohTKe199dw)

机构简介|网友建议|在线评论|一键举报|举报查询

  备案:浙ICP备16024883号

建议使用1366*768分辨率/IE9.0或以上浏览器访问达到最佳效果