警惕“AI造谣伤企”黑产：几块钱的虚假视频如何引发市场震荡

针对AI生成内容被用于企业造谣的问题，人民网发文提醒警惕“AI造谣伤企”。低成本批量生成的虚假内容正演变为引发市场震荡的“黑天鹅”，亟需多方联动治理。

在AI技术飞速发展的今天，一项令人担忧的“黑产”正在悄然滋生。近日，人民网发文评论，提醒各界警惕“AI造谣伤企”现象。据报道，某车企尚未上市的新车，在没有交付实车的情况下，就已遭遇黑产批量投放AI生成的虚假事故内容。一段AI伪造的“内部饭局”视频，甚至让某饮料企业市值在一周内蒸发超70亿元。

这类造谣方式相比传统谣言更隐蔽，也更难治理。一方面，AI可以低成本批量生成图片、视频和文案，让虚假内容看起来“像真的”，成本可能仅需几块钱一条视频；另一方面，内容一旦被平台算法放大，通过关键词刷屏和搜索结果“投毒”，即便企业事后辟谣，搜索记忆和用户印象也很难完全清除。这种提前制造安全焦虑的方式，可能直接影响品牌声誉和资本市场预期，演变为随时引发市场震荡的“黑天鹅”。

正如业内人士所言：“造谣的AI不会自己启动，背后一定有人下单、有人付钱、有人获益。”治理此类乱象，需要平台、AI服务商、企业和监管部门的联动。国家网信办等部门发布的《生成式人工智能服务管理暂行办法》已明确要求提高生成内容准确性，不得侵害他人合法权益；《人工智能生成合成内容标识办法》也要求对AI生成内容进行显式或隐式标识。未来，唯有提升识别、标注、下架和追责效率，才能彻底铲除这一，维护清朗的网络空间与公平的商业环境。

毒瘤

未来智机 NexAIrobo - 一站式人工智能与机器人技术交流平台

https://nexairobo.com/

声明：本文仅作为知识分享，只为传递更多信息！本文不构成任何投资建议，任何人据此做出投资决策，风险自担。

​