最近，有网友发消息：张文宏是不是带货了？家里老人信以为真，已经下单了。

视频系AI合成

视频截图中，可见“张文宏”正在卖一种蛋白棒。但是，稍微了解一点AI（人工智能）的年轻人，能够分辨这是伪造的视频。不过，对于老年人来说，这类AI合成的伪造视频，依然很具有迷惑性。

目前，该视频在账号内已不可见。

有媒体就此特意联系上海华山医院感染科主任、国家传染病医学中心主任张文宏医生，他向记者表示，这样的卖货账号不止一个，且一直不断在变，自己多次向平台投诉但屡禁不绝。

“事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”

除了向平台方投诉，张文宏医生称自己也曾考虑过向警方报案，但对方的账号不断变化看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门能加强监管。“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的。我认为他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。”

目前，上海市消保委已对该事件严厉发声，表示未经当事人授权的AI合成带货行为构成了对消费者的欺诈，呼吁监管部门严厉处罚。

上海市消保委副秘书长唐健盛在接受媒体采访时表示：“实际上这根本就不是张文宏老师在带货，这完全是用AI做出来的，这类事情非常恶劣。首先这种做法其实已经构成了对消费者的欺诈，消费者如果说上当的，那么完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及消费者权益，它其实还涉及整个社会的良知跟道德。”

AI诈骗、冒充名人的案例还有不少。今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人激动地说明要到银行贷款200万元给自己的男朋友“靳东”拍戏。“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”后经过民警的耐心解释与劝导，老人才恍然大悟，所谓“靳东”视频都是AI合成的，自己对新技术不熟悉，所以上了当。

专家提醒，信息时代防范网络AI诈骗，还是要从自身出发做好隐私保护，增强反诈意识、提高辨别能力。例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。

同时，在涉及资金交易等场景下，务必多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。例如，可以询问对方只有当事人之间知道答案的问题、共同经历的事情等。

向善还是向恶？在AI的世界里，这貌似是个无法回答的问题。融合了尖端科技和无限想象的AI，如同一面镜子，映照出设计它、使用它的人类社会的价值观与道德取向。

当AI被赋予正面价值观引导，并置于严格的伦理框架和监管之下，它能展现出惊人的向善力量；若AI缺乏有效监管和道德约束，其潜在的向恶风险也不容忽视，网络攻击、侵犯个人隐私、加剧社会不平等甚至成为战争工具，这些场景都可能成为AI的“深渊”。

犹记2024年世界人工智能大会（WAIC）前沿人工智能安全和治理论坛上，不少与会专家表示，希望AI能成为人类理解世界、解决问题的伙伴，而非仅仅是工具或威胁。比如AI能够展现出更强的伦理意识和道德判断能力，在面对复杂情境时做出符合人类期望的选择，避免成为破坏社会和谐、侵犯个人权益的元凶。

人类对于AI的期待是多元且深远的，最终目的是实现与人类社会的和谐共生。因此，在推动AI技术创新和应用的同时，必须通过政策法规、监管机制、行业自律和社会监督等手段，确保AI技术的发展符合人类社会的整体利益和长远目标。