当地时间1月21日
美国新罕布什尔州一些选民
接到了由机器人拨打的语音电话
在神秘电话中
“拜登总统”以经典口头禅开头
对他们发出见解
“拜登”给我打电话?
真的假的?
当地时间22日
美国白宫方面紧急澄清
语音疑似由AI“深度伪造”
(Deepfake)技术合成
《纽约杂志》网站报道截图
从AI拟声、合成虚假照片
再到生成视频
随着人工智能技术的快速发展
各种以假乱真的情况
在世界多地频频上演
近期,美国流行乐歌星
泰勒·斯威夫特的
“AI伪造照片”事件
掀起轩然大波
甚至惊动了美国白宫
这种生成合成图像、音频或视频的技术
引发了人们对虚假信息传播的思考
图源:澎湃新闻
怎么防止AI“深度伪造”的事故
再三发生?
各界人士在积极行动
美国白宫发言人卡琳·让-皮埃尔表示
虽然社交媒体公司
在内容管理方面有独立决策权
但它们在严格落实其监管制度上
应起到重要作用
图源:讯飞星火生成
生成式人工智能公司OpenAI
日前表示
在竞选活动中
政界人士及其竞选团队
不得使用该公司的AI工具
用户也被禁止创建假扮政治候选人
或政府机构和官员的
聊天机器人
此次伪造拜登语音所用的工具背后
是语音克隆初创公司ElevenLabs
该公司也已暂停利用
AI“深度伪造”技术
发布信息的账户
并警告
不得将克隆声音用于
欺诈、歧视、发表仇恨言论
或任何触犯法律之事
图源:讯飞星火生成
美国消费者技术协会首席执行官
夏皮罗提出
政府需要在AI领域扮演重要角色
确保设置安全屏障和护栏
让产业内人士知道
哪些能做、哪些不能做
针对近期的AI“深度伪造”事件
当地时间2月1日
美国联邦通信委员会(FCC)主席
杰西卡·罗森沃塞尔提议
把使用AI生成的
语音拨打机器人电话(robocall)
定为非法
FCC的委员们将在未来几周内
对该提案进行表决
图源:讯飞星火生成
尽管AI技术给我们带来了新挑战
但国际社会普遍认为
不能“因噎废食”
不能拒绝发展相关技术
毕竟,在技术进步的过程中
AI技术本身就可用来对抗
AI“深度伪造”行为
比如
有开发者建议平台
给AI生成软件加上隐形水印
以快速识别AI并进行溯源
去年12月发布的
一款名为mist的隐形图片水印
则能极大程度干扰AI模型
使之生成的图片遭受不同程度的破坏
图源:讯飞星火生成
还有专家认为
法律手段也要有所作为
对一些技术解决不了的问题
进行立法追责
中国发布的
《互联网信息服务深度合成管理规定》
已于2023年1月10日起施行
《规定》强调
深度合成服务提供者需要
对深度合成内容进行显著标识
任何组织和个人
不得采用技术手段
删除、篡改、隐匿相关标识
作为普通用户
假如接到来自名人的电话
你能识别出真假吗?
面对AI的“深度伪造”
我们该如何避免危害呢?
参考丨法治日报、央视财经、南方都市报、羊城晚报、澎湃新闻、新浪科技
(来源:"网信浙江”)
(链接:https://mp.weixin.qq.com/s/ziCKtHtaOGqRohTKe199dw)