AI深度伪造威胁巨大?顶级专家:没那么可怕,可以辨别!
财联社5月8日讯(编辑 黄君芝)自人工智能(AI)爆火全球以来,尽管带来了许多便利和机会,但也平添了不少担忧。例如,网络安全专家们就担心,AI生成的内容有可能扭曲我们对现实的看法。而且在关键的选举年中,这种担忧更令人不安。
但思科Talos安全情报与研究小组的技术主管Martin Lee并不这么认为,他觉得深度伪造技术(Deepfake)构成的威胁可能被“夸大了”。据悉,在思科有一支名叫“Talos”的安全研究团队,由大约250名安全研究人员与600名软件工程师组成。
Lee指出,新的生成式人工智能工具确实“有可能使虚假内容的生成变得更容易”,深度伪造本身也是一项强大的技术,但是是有缺陷的:AI生成的材料通常会包含明显的可识别特征,表明它不是由真人制作的。
尤其是视觉内容,已被证明容易受到影响。例如,人工智能生成的图像可能包含视觉异常,例如一个人有两只以上的手,或者一个肢体被合并到图像的背景中。
另一方面,用AI合成的语音音频和真人的语音片段之间进行分辨可能会比较困难。但专家们表示,人工智能的水平仍然取决于它的训练数据。
但Lee表示,客观地看,机器生成的内容通常可以被检测到。
目前威胁不大
美国云端运算和企业软体公司Appian的首席执行官Matt Calkins表示,人工智能“用处有限”。该公司帮助企业更容易地利用软件工具制作应用程序。他认为,今天的许多生成式人工智能工具可能很“无聊”。
他指出,真正的问题在于“我们愿意信任人工智能,让它了解我们自己”。他警告说,这可能会使它在未来成为一个更有效、更危险的虚假信息工具。他还说,他对美国在监管这项技术方面取得的进展感到不满。
他补充说,可能需要人工智能制造出一些极其“冒犯”的东西,美国立法者才会采取行动。他说,“给我们一年时间,等到人工智能冒犯了我们再说吧。然后也许我们会做出正确的决定。”
不过,无论人工智能有多先进,思科的Lee表示,还是有一些经过验证的方法可以发现错误信息的,无论这些信息是机器还是人类制造的。
最近更新
-
银价站上11年新高光伏“去银”再加快HJT成本即将打平TopCon?
10:36
-
OpenAI回应“封嘴”离职条款;柳青升任滴滴永久合伙人;拓尔思18.45亿投资大模型|AIdaily早新闻
09:36
-
AI硬件新时代即将开启?微软Build开发者大会本周二来袭!
09:02
-
小K播早报|蓝色起源近两年来首次载人飞行任务取得成功派能科技董事长韦在胜被立案调查、留置
08:36
- 地产产业链如何关注?
- 每周一股|政策利好+资金异动+短线机会,加入关注!
- 蔚来突曝大消息!
- 发电能力×4!安哥拉卢阿西姆水电站焕新落成
- 年内涨超100%,二线白电是如何跑赢美的、格力的?
- 全球最大!济南黄岗路穿黄隧道“山河号”盾构机下线
- 周末炸雷突然被ST大摩看空
- 一块布料的奇幻旅程:让全球看见中国品牌的责任与使命
- A股前瞻:两条重磅消息,或引发全线大涨,这个方向有望持续上涨
- 一个新的超预期的方向
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
2038人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
73人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
344人已购
¥588.00/月
推荐阅读
- 派能科技董事长突遭立案调查并被留置具体原因仍不详
- 套路式收费侵害投资者权益(十四):中泰证券资管货基收益率垫底,管理费率高达市场均值3倍
- 中资离岸债每日总结(5.17)|舟山普陀城投、缙云国有资产投资集团发行
- 向“新”而行,小花科技发力数字金融把握新质生产力
- 龙蟠科技业绩巨幅下滑:毛利率转负,任泽平的“绩优股”下跌不少
- 中资美元债(5月17日)|板块收益率走势速递
- 紫燕食品持续性增利不增收:平均单店营收承压,销售费用增长超五成
- ST高鸿(000851.SZ):目前不存在应披露而未披露的重大事项
- 银价站上11年新高光伏“去银”再加快HJT成本即将打平TopCon?
- 【读财报】上市银行普惠金融透视:涉农信贷投放普增,北京银行、宁波银行、工商银行增长快
- 生猪期现双双大涨,温氏股份涨4.54%,畜牧养殖ETF(516670)早盘放量大涨2.90%
- 线上市占率超美菱新飞、逼近小米统帅,冰箱“搅局者”是谁?