AI深度伪造威胁巨大?顶级专家:没那么可怕,可以辨别!
财联社5月8日讯(编辑 黄君芝)自人工智能(AI)爆火全球以来,尽管带来了许多便利和机会,但也平添了不少担忧。例如,网络安全专家们就担心,AI生成的内容有可能扭曲我们对现实的看法。而且在关键的选举年中,这种担忧更令人不安。
但思科Talos安全情报与研究小组的技术主管Martin Lee并不这么认为,他觉得深度伪造技术(Deepfake)构成的威胁可能被“夸大了”。据悉,在思科有一支名叫“Talos”的安全研究团队,由大约250名安全研究人员与600名软件工程师组成。
Lee指出,新的生成式人工智能工具确实“有可能使虚假内容的生成变得更容易”,深度伪造本身也是一项强大的技术,但是是有缺陷的:AI生成的材料通常会包含明显的可识别特征,表明它不是由真人制作的。
尤其是视觉内容,已被证明容易受到影响。例如,人工智能生成的图像可能包含视觉异常,例如一个人有两只以上的手,或者一个肢体被合并到图像的背景中。
另一方面,用AI合成的语音音频和真人的语音片段之间进行分辨可能会比较困难。但专家们表示,人工智能的水平仍然取决于它的训练数据。
但Lee表示,客观地看,机器生成的内容通常可以被检测到。
目前威胁不大
美国云端运算和企业软体公司Appian的首席执行官Matt Calkins表示,人工智能“用处有限”。该公司帮助企业更容易地利用软件工具制作应用程序。他认为,今天的许多生成式人工智能工具可能很“无聊”。
他指出,真正的问题在于“我们愿意信任人工智能,让它了解我们自己”。他警告说,这可能会使它在未来成为一个更有效、更危险的虚假信息工具。他还说,他对美国在监管这项技术方面取得的进展感到不满。
他补充说,可能需要人工智能制造出一些极其“冒犯”的东西,美国立法者才会采取行动。他说,“给我们一年时间,等到人工智能冒犯了我们再说吧。然后也许我们会做出正确的决定。”
不过,无论人工智能有多先进,思科的Lee表示,还是有一些经过验证的方法可以发现错误信息的,无论这些信息是机器还是人类制造的。
最近更新
-
固德威:Q1国内户用系统开发业务贡献较多收入预计年中或下半年行业去库完毕|直击业绩会
12:01
-
新冠仍未远去?新加坡再掀感染浪潮JN.1仍是主要罪魁祸首
11:01
-
银价站上11年新高光伏“去银”再加快HJT成本即将打平TopCon?
10:36
-
OpenAI回应“封嘴”离职条款;柳青升任滴滴永久合伙人;拓尔思18.45亿投资大模型|AIdaily早新闻
09:36
- 地产产业链如何关注?
- 每周一股|政策利好+资金异动+短线机会,加入关注!
- 蔚来突曝大消息!
- 年内涨超100%,二线白电是如何跑赢美的、格力的?
- 全球最大!济南黄岗路穿黄隧道“山河号”盾构机下线
- 周末炸雷突然被ST大摩看空
- 一块布料的奇幻旅程:让全球看见中国品牌的责任与使命
- A股前瞻:两条重磅消息,或引发全线大涨,这个方向有望持续上涨
- 一个新的超预期的方向
- 恒瑞医药60亿美元出海背后
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
2039人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
73人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
344人已购
¥588.00/月
推荐阅读
- 中国银行:因虚增小微企业贷款规模等,被监管罚款110万元
- 连亏6年的华谊兄弟收年报问询函收入确认合规性被重点问询
- 基础化工分红透视:行业去年派息537亿,金力泰、世龙实业连续3年不分配利润
- 央行“四箭齐发”助力楼市,金融周期或可回升,A50ETF基金(159592)交投活跃,半日成交额达1.61亿元!
- 【20240520午评】再刷反弹高点,一直跑不赢指数咋办?
- 全球最大餐饮展,多国炒菜机器人同场竞技,中国香港一马当先
- 【稳步上攻,龙头继续格局】
- 晨光电缆召开业绩说明会:500kV无缝平铝套电缆获预鉴定试验报告深入开拓新能源新基建等市场客户
- 被证监会立案调查,盛屯矿业股价跌停
- 固德威:Q1国内户用系统开发业务贡献较多收入预计年中或下半年行业去库完毕|直击业绩会
- 意大利之心·阿里斯顿:品牌魅力与全球视野下的本土深耕
- 美联储降息预期推动资金流入,上周全球股票基金净流入达102.7亿美元