近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？
名医现身科普视频
当事人全然不知
一条AI仿冒视频中，侃侃而谈的专家，商家称是北京协和医院临床营养科主任于康教授，他是我国营养与健康领域的权威专家。
记者在小红书、微信视频号上，刷到了不少，以于康教授形象出镜的科普视频，介绍和推销减肥食谱。记者随后联系北京协和医院调查核实。于康教授明确表示，他本人从未参与录制此类视频。
北京协和医院临床营养科主任 于康：我几乎天天收到好朋友和各种有我联系方式的人给我发来的消息，有质疑，还有提醒，经常有的一句话就是“这是你吗？”“这是于康吗？”我一看这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，一方面觉得不可思议，另外一方面觉得有一点后背发凉，挺可怕的。
盗用形象 科普失真 带货乱象危害不浅
科普视频中，商家不仅盗用于康教授的形象，其介绍的营养知识，也是毫无依据，没有得到科学验证。
北京协和医院临床营养科主任 于康：他借我的嘴说出来的话，好像是有一定公信力，但是他利用这一点，兜售很多包括但不限于那些错误商品、广告还有错误的信息，这些信息老百姓一旦信，到外头一放大，这个影响就不是对我个人的影响，那是对千千万万受众的影响。
于康教授更为担忧的是，视频里的错误信息，会让营养学界长期以来的科普努力，付诸东流。
北京协和医院临床营养科主任 于康：由于这些东西的影响，大家出现了一些混淆，甚至可以说，一些过去那些错误认知出现了反流或加重，这点比对我个人影响还要坏。
利用AI技术生成假视频
医院医生深受其害
记者注意到，这些短视频都来自一些自媒体账号，除了出现于康教授形象，还有一个共同特点是使用虚拟背景。
不仅于康教授有这样的困扰，北京协和医院临床营养科马方教授也遭遇了同样的情况。在一个平台网店的链接里，视频里的“马教授”分享了自己的减肥经历。
据北京协和医院介绍，不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号，销售各类商品，误导消费者。医院、医生深受其害。
北京协和医院临床营养科主任 于康：相当多网站并不是以真正推广营养，而是以扩大所谓宣传，增加售卖他的产品。他之所以用我的形象，是因为我在大家的心目中，在科学营养传播方面信誉比较好，我们讲实话、讲证据、讲科学，所以老百姓比较信，他利用这一点，大家就容易上当受骗。
AI仿冒著名主持人
直播间虚假营销
随着AI仿冒视频的泛滥，司法部门和监管部门已查处多起案件。记者在调查中了解到，多位公众人物的形象被擅自用于商业推广。
今年年初，北京市海淀区市场监管局接到消费者举报，一直播间宣称一款鱼油产品具有医疗功效。该账号发布的短视频中，出现了中央广播电视总台主持人李梓萌的形象。
记者注意到，发布仿冒主持人李梓萌短视频的账号名为“广州白云深海鱼油工厂”，拥有粉丝80多万。进入直播间后记者看到，这款鱼油售价59.9元三瓶，页面显示已售出17.7万单。
北京市海淀区市场监管局海淀街道市监所科员 李欣容：它的执行标准属于糖果，包装上面也并没有像保健品的小蓝帽标识，并不属于药品，并没有获得药品的批准。直播间或者短视频当中，对普通的食品宣传有医疗治疗功能，或者说使用医疗用语，肯定是违法的。
北京市海淀区市场监管部门经过向中央广播电视总台核实，最终确认，总台主持人李梓萌从未代言这款鱼油产品，也未授权使用其形象进行宣传。
北京市海淀区市场监管局海淀街道市监所科员 李欣容：最后当事人承认，这个短视频当中的李梓萌形象，是他们的员工在网络上搜集李梓萌播报过的新闻片段，通过AI技术擅自把这些新闻片段进行剪辑加工，最终合成了这个虚构的推荐视频。
AI伪造名主持人带火
半月手艺6万余元
市场监管人员调取销售记录后发现，在这条短视频上线后的半个月里，商家借助短视频链接，累计销售鱼油1100余单，销售额达6万余元。
北京市海淀区市场监管局海淀街道市监所科员 李欣容：短视频当中擅自使用AI技术，去对李梓萌这种知名主持人的形象进行剪辑加工，这个行为是构成了发布虚假广告，违反了《中华人民共和国广告法》第二十八条的规定，最后综合他的违法情节，以及其他的一些裁量情形，最终我局对他作出罚款20万元的行政处罚决定。
记者调查发现，利用AI技术违规营销现象越来越多，关键原因是相关工具非常容易获取。而且，无论是换脸还是拟声，操作起来都十分简便。继续来看记者的调查。
记者发现，各大手机应用商店均充斥着大量换脸App或小程序，大都可以免费使用。记者随机选取了一个App，仅需上传自己几张人脸照片，就能将目标视频中的知名专家换成自己的面容。
除了换脸、拟声，有的App还能提供AI对口型、AI文生视频、AI电商等各种功能。记者体验了其中的“文生视频”功能：在对话框中输入关键词：北京协和医院，女医生，在诊室坐在桌子前，向患者介绍病情，不到30秒时间就生成了一段女医生形象的短视频，还可以选择“不添加AI生成字样”。随后记者输入减肥产品效果文案，选择“主播配音”，就生成了一条“北京协和医院女医生推广减肥产品的”营销视频。
中央财经大学法学院教授 刘双舟：利用AI生成技术，生成营销内容上面违法，主要表现是虚假宣传，生成一些不切实际的文本图片，而且不加AI的标识，这样给消费者公众会带来误导。
AI仿冒名人带货，传播虚假信息，不仅伤害被仿冒者个人名誉，侵害消费者权益，也严重破坏市场生态。各界正积极探索解决方案，以应对这一业态带来的新问题，但治理过程中仍面临不小挑战。
目前，AI仿冒相关维权难度极大，技术鉴定、证据固定以及溯源追责等环节，面临不小的阻力。
北京市海淀区市场监管局海淀街道市监所副所长 史建颖：AI深度伪造视频鉴别难度大，成本高，肉眼难以识别，需要专业技术支持，而此类侵权违法行为造假成本低。另一方面是大量AI合成伪造视频涌现在电商平台，权利人自身不知情或知情后维权周期长，程序复杂，部分权利人选择放弃维权或配合度较低。
深受AI仿冒侵扰的专家表示，杜绝AI仿冒乱象，需通过制度设计，强化保护力度。
北京协和医院临床营养科主任 于康：觉得很痛心，但是也没办法，我只能通过各种努力去个体化宣传澄清，但是我发现这种个体化宣传，比起这种伤害性欺骗来，简直是九牛一毛，一点作用都没有。所以我觉得需要靠国家层级的制度的保护，这个保护的既是专家个人，也是专家群体，更是整个社会的良知，叫作正本清源。一个对科学素养的保护和一个对真正知识的尊重和维护，一旦发现有这种问题的时候，我们必须及时采取相关措施，否则的话，AI带给大家的负面影响，可能比正面的还要大，这是相当让人觉得很难受的一个地方。
监管新规
AI内容必须加标识
《人工智能生成合成内容标识办法》在9月1日已经正式实施，明确要求：利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。
中央财经大学法学院教授 刘双舟：这个文件出来以后就明确要求AI生成的和合成的内容要加标识，应该加两个方面的标识。一方面是显性的标识，就是公众能够通过内容的标识能够判断出来，这是AI生成的内容。还有一些隐性的标识，对元数据上要加，要标明数据的来源、用途和谁生成的。
记者调查发现，部分人工AI合成视频当中，发布者要么使用不显眼的字体，要么隐藏在画面边角，有的二次发布者甚至隐匿标识。
中央财经大学法学院教授 刘双舟：国家是有政策专门鼓励AI技术应用，但前提是要规范使用，不能够违规使用。目前来看关于AI技术营销中滥用如何治理，不是一个部门能够解决问题的，我个人观点是，应该多部门联合或者我们叫社会共治。可以出台AI生成技术监管的一个指南，统一执法部门认识和标准。
平台应加强AI生成内容审查责任
专家表示，各社交平台作为AI生成视频发布主要渠道，应在平台规则、内容审查等方面进一步完善相关措施。
中央财经大学法学院教授 刘双舟：平台应该建立AI生成内容的一个审核机制，加强对AI生成内容的审核，比如说对逃避AI标识的内容，比如下架限流可以采取这样一些措施。
从冒用专家“带货”，到假冒知名主持人“荐方”，AI仿冒名人营销乱象暴露出技术被滥用的风险。
AI处理图文信息
存隐私泄露风险
近期，网信部门重拳处置一批违规账号，同时督促平台集中整治，已累计清理8700余条违规信息、处置11000多个违规账号。
网信部门表示，将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批。
随着大模型在各行业深度应用，其安全风险呈现出复合化特征。网络专家指出，AI大模型安全涵盖数据、基础设施与模型本身三大层面，其中个人使用中的数据安全风险尤为突出。看似简单的图片、文字信息等内容通过AI处理，就可能泄露个人身份信息、人际关系等敏感内容。
网络安全专家 李虎：可能只是上传了一张合照，我觉得就是通过AI来帮我美化一下或者加一项特殊处理。但是其实有可能就暴露了，因为照片上传之后，它其实可以通过人像识别技术把人的身份提取出来，然后通过人物的关系，比如亲密程度，可能猜测是什么人物关系，是朋友关系还是家人关系诸如此类的，然后这些数据都被提取出来之后又可能被进一步利用，比如被诈骗分子拿来利用。
连接不明来源Wi-Fi
当心信息泄露
除了AI大模型使用带来的数据安全外，公共场合不明来源Wi-Fi的不当连接也会造成敏感信息泄露。
网络安全专家 王媛媛：这种免费没有密码的Wi-Fi连接，不法分子可能会利用漏洞去架设一个伪基站，诱导大家进行连接，连接之后有可能会截取你的个人信息。
网络安全专家介绍，只要有人接入了不法分子伪装的Wi-Fi，在使用手机等电子设备时的一些操作都可能被截取，其中包括输入用户名、密码等个人隐私信息都会被窃取。
网络安全专家建议，个人用户要加强安全意识，优先选择合规大模型平台与正规渠道安装应用；另外，连接Wi-Fi时要警惕无密码热点，避免落入钓鱼陷阱。那么，我们在日常上网时还有哪些注意事项，防止个人隐私信息泄露呢？
不晒自己的火车票、飞机票登机牌、车牌
发布含有个人信息的火车票、飞机票、登机牌、车牌等票证，可能会被另有图谋的陌生人获取，从而导致个人隐私泄露；
不晒自己的证件照片
身份证、护照、驾驶证、结婚证等证件中，都包含重要的个人隐私，不要随意在网上发布；
不晒自己的位置信息
尽量不要发自己的定位信息，这些信息容易暴露真实个人住址，有可能带来不必要的麻烦和风险；
不晒老人和孩子的信息
避免发布老人和孩子的照片及姓名，以防不法分子利用这些信息进行违法活动，建议以分组的形式分享给亲人看。
技术创新必须以诚信为底线，只有让AI在法治轨道上运行，才能净化网络生态和市场生态，真正服务社会。
（原标题：每周质量报告丨传播虚假信息 侵害消费者权益 总台曝光“AI仿冒名人”营销乱象）
还没有评论，来说两句吧...