首页
2025年度AI乱象走访丨直播间骗术升级，名东说念主带货也现“伪东说念主”出镜
开栏语：
\nAI技能正以前所未有的速率重塑天下，也在试验中投射出重重乱象。几天前，“slop”（AI批量产出的劣质内容）被评为年度热词。昔日这一年，咱们见证了AI“一键脱衣”翻开潘多拉，握个“假偶像”直播捞金；赛博算命、技艺税学习机屡屡上新，学术圈和欺骗团伙也都在狂刷AI副本……上游新闻罕见推出“年度AI乱象走访”专题，盘货六大AI“翻车”现场，带你识破乱象背后的深层逻辑和监管难点，探讨AI乱象详细整治之说念。
\n技能无善恶，说念德有底线。这场AI安全保卫战，莫得局外东说念主和旁不雅者。
\n12月15日，演员温峥嵘在微博中发布严正声明并晒出立案奉告书，“报警，已刑事立案。”关连声明称，对于温峥嵘被作歹分子雇佣“水军”，握造并大都发布“温峥嵘卖面膜出事把锅推给AI”等虚假信息一案，警方经初步审查认为确有犯法嫌疑，正在进一步走访中。
\n据央视新闻11月初报说念，身着三套不同衣饰，在卖不同的居品——演员温峥嵘在消逝个时候，出当今了不同直播间直播带货。神话中的分身术怎么在试验中出现了？这反常的“同步开播心仪”，贯穿几天在网上激发烧议。不错笃信的是，温峥嵘并无分身之术，而是这几个直播间要么是录屏抠图，要么等于盗用她过往直播素材，过程AI深度合成重塑形象与语音。
\n上游新闻梳理公开报说念发现，比年来遇到AI仿冒的，远不啻温峥嵘，包括协和名医于康、传染病学行家张文宏、央视名主办东说念主李梓萌、奥运跳水冠军全红婵等，也遇到上AI作秀“背刺”。AI直播“换脸”为何盯上名东说念主？在国度已出台关连规章的情况下为何乱象依旧？AI“换脸”名东说念主的监管难点在那里？
\n知名女演员同期“现身”3个直播间
\n本年11月初有网友发现，知名演员温峥嵘同期“现身”三个不同直播间，她身着不同服装扩充着不同的居品，当作样式与本东说念主高度相似。
\n![](\"https://image2.cqcb.com/public/2025/12/18/browser/354/176603743388726690747429380590.png\")
温峥嵘消逝时候出当今3个不同直播间里直播带货。上不雅新闻
\n温峥嵘，1978年11月降生于贵阳，中国内地女演员，2001年毕业于北京电影学院扮演系；作品有《洪湖赤卫队》《许我凝视》《长夜银河》《雁回时》《狐妖小红娘·月红篇》等。
\n温峥嵘在采访中暗意，“早在本年4月份之前，就说我出当今多个直播间，消逝时段，妆发不同，不同的居品，说着雷同的话。”温峥嵘称，我方有一次拍完戏回到家中，那时并莫得在直播，放胆刷手机正排场到“我方在直播”。“咱们拍戏到很晚，深夜凌晨三四点钟，我一进（直播间）就说‘你是温峥嵘我是谁’，我一下就被拉黑了。”
\n温峥嵘团队使命主说念主员称，年前团队就对这种商家发了讼师函，“其实这些居品咱们根蒂就莫得推选过，也莫得卖过。”温峥嵘坦言，粉丝会以为信任我方去下单，这些直播间通过AI技巧污染视听。
\n温峥嵘说，“AI的这种技巧，让各人污染视听。我的形象、我的肖像受到这么的侵权，我以为是对我莫大的一个伤害。信任我的不雅众一又友们，下单之后若是买到赝品，我心里会酸心。”
\n据报说念，温峥嵘团队使命主说念主员发现虚假视频后便赓续进行举报，一天内曾鸠合举报50个假冒账号，有的作秀账号被平台下架处理，有的则刚下架就换个边幅重新出现，让东说念主防不堪防。
\n使命主说念主员称，部分商家只需截取一段影像，用简便用具就能生成虚假内容，而他们取证却要破耗很大的元气心灵。“他们心爱在凌晨三四点各人都在休息的时候，去打时候差发这个东西。”
\n被AI“背刺”的还著名大夫名主办东说念主
\n在这波AI仿冒名东说念主的乱流中，除了名演员外，体育明星、名主办东说念主、名大夫也不乏中招者。
\n![](\"https://image2.cqcb.com/public/2025/12/18/browser/354/176603762533740912346844318260.jpg\")
我国养分与健康畛域的巨擘行家于康西宾也深受其害。央视新闻
\n据央广网，刻下，一条AI仿冒视频在网罗上很火，视频中又名“行家”侃侃而谈，商家称该“行家”是北京协和病院临床养分科主任于康西宾，其是我国养分与健康畛域的巨擘。
\n记者在酬酢平台上刷到了不少以于康西宾形象出镜的科普视频，先容和倾销减肥食谱。于康西宾对此明确暗意，他本东说念主从未参与录制此类视频。
\n于康称，“我简直天天收到好一又友和多样有我洽商方式的东说念主发来的音信，有质疑，还有领导，常常有的一句话等于‘这是你吗？’我一看，这彻底是我的形象，声息相似度彻底超乎了我的假想。当今技能能达到这个层级，一方面以为不成想议，另外一方面以为有一丝后背发凉，挺可怕的。”
\n科普视频中，商家不仅盗用于康西宾的形象，其先容的养分学问亦然毫无依据，莫得得到科学考据。于康西宾更为担忧的是，视频里的异常信息，会让养分学界弥远以来的科普发奋，付诸东流。
\n据不雅察，这些短视频都来自一些自媒体账号，除了出现于康西宾形象，还有一个共同性情是使用造谣配景。
\n另据报说念，本年齿首，北京市海淀区市集监管局接到举报，一直播间声称一款鱼油居品具有医疗功效。该账号发布的短视频中，出现了中央播送电视总台主办东说念主李梓萌的形象。
\n![](\"https://image2.cqcb.com/public/2025/12/18/browser/354/176603743396288531836603842430.jpg\")
中央播送电视总台主办东说念主李梓萌也被仿冒。央视新闻截图
\n发布仿冒主办东说念主李梓萌短视频的账号名为“广州白云深海鱼油工场”，领有粉丝80多万。北京市海淀区市集监管局海淀街说念市监所科员李欣容说，经查，当事东说念主承认，这个短视频当中的李梓萌形象，是他们的职工在网罗上征集李梓萌播报过的新闻片断，通过AI技能私行把这些新闻片断进行编著加工，最终合成了这个虚构的推选视频。
\n另外，奥运冠军全红婵的声息被AI克隆，用于售卖土鸡蛋；大夫张文宏被换脸，其形象被用于在直播间售卖某款卵白棒居品，销量已过千。张文宏自述：“这些假的合成信息就像蝗灾一样，一次又一次发生……”
\n换脸APP仅30秒就能生成女大夫短视频
\nAI直播“换脸”为何盯上名东说念主？兴味其实很冒失，名东说念主本人具有高辨识度和流量价值，诈欺其形象可快速诱惑不雅众、粉丝，比平淡东说念主更容易指挥顾主下单亏欠，从而取得经济利益。
\n另据央广网走访发现，诈欺AI技能违章营销心仪越来越多，关节原因是关连用具止境容易取得。况兼，不管是换脸也曾拟声，操作起来都十分便捷。
\n记者发现，各大手机应用商店均充斥着大都换脸App或小措施，大都不错免费使用。记者飞速选取了一个App，仅需上传我方几张东说念主脸像片，就能将经营视频中的知名行家换成我方的面庞。
\n除了换脸、拟声，有的App还能提供AI对口型、AI文生视频、AI电商等多样功能。记者体验了其中的“文生视频”功能，在对话框中输入关节词：北京协和病院，女大夫，在诊室坐在桌子前，向患者先容病情。不到30秒，就生成了一段女大夫形象的短视频，还不错采选“不添加AI生成字样”。随跋文者输入减肥居品效劳案牍，采选“主播配音”，就生成了一条“北京协和病院女大夫扩充减肥居品的”营销视频。
\nAI“换脸”名东说念主为何泛滥？为何难不竭？
\n盗播和AI仿冒名东说念主直播，让网友无从分散真假，震怒又无奈。本年9月1日，《东说念主工智能生成合成内容符号观点》考究扩充，条件AI生成内容必须“亮明身份”，可是为何乱象依旧呢？不竭窘境又“困”在了那里？
\n![](\"https://image2.cqcb.com/public/2025/12/18/browser/354/176603785107162972721908846216.png\")
知名大夫张文宏回话被AI仿冒带货。央视财经截图
\n根据民法典及个东说念主信息保护法，未经授权使用他东说念主肖像进行AI合成，虽涉嫌滋扰肖像权与个东说念主信息权益，但国法实践中，多数案件补偿金额不及万元，远低于商家的作歹收益。
\n另外，AI仿冒关连维权难度极大，技能强劲、左证固定以及溯源追责等门径，面对不小的阻力。
\n北京市海淀区市集监管局海淀街说念市监所副长处史建颖称，AI深度伪造视频辨别难度大，资本高，肉眼难以识别，需要专科技能救助，而此类侵权违法戾为作秀资本低。另一方面，大都AI合成伪造视频涌当今电商平台，职权东说念主自身不知情或知情后维权周期长，措施复杂，部均职权东说念主采选祛除维权或相助度较低。
\n北京师范大学法学院西宾刘德良称，通过AI或者深度伪造的技能假冒他东说念主，从法律上来看，若是未经别东说念主允许、用于作歹主见的话，有可能触及滋扰别东说念主的肖像权、声息权；若是用于告白宣传、直播营销，可能会触及告白法上的虚假宣传。
\n面对乱象，监管部门已针对AI虚假直播出台不竭措施。国度网信办皆集多部门共同发布《东说念主工智能生成合成内容符号观点》，明确条件AI生成的肖像、视频需标注“AI生成”，不然将面对最高10万元罚金。但央视记者走访发现，好多作秀者将标注藏在视频或者直播简介的旯旮，或者用极小的字体显露，亏欠者很难安稳到。
\n行家认为，网罗平台应答其直播间里的内容负有监管累赘。在AI期间，监管部门也不错雷同使用AI技巧对网罗内容实施监管。
\n北京师范大学法学院西宾刘德良称，若是遇上AI仿冒方式直播，亏欠者最初不错向平台投诉，若是平台拒不履行监管的义务，不错条件平台承担连带累赘。另外，监管部门也不错诈欺AI实时应答这种投诉。对于有用实时地发现假冒行为，有些是不错通过技能的方式来处罚，虽然技能处罚不了的，也曾要通过法律。
\nAI仿冒名东说念主带货，滋扰权益，涉嫌诓骗，更颤动了数字社会赖以存续的信任根基。“AI李鬼”越来越像果真，靠普通亏欠者来识别和驻防是远远不够的。将仿冒者打回原形，需要更细化规章，明确追责，内容发布平台实的确在扛起把关累赘，让“失信者付代价、让自在者担累赘”。
\n亏欠者如何识别AI“换脸”名东说念主？
\n亏欠者在采选短视频带货做事时，要仔细不雅察主播（名东说念主）的微颜料是否当然，声息与口型是否同步，是否出现东说念主物或配景放松、误会等异常画面，对异常廉价或反常促销行为应保持警惕。
\nAI展示“障眼”花招，主要有以下三种情形：一、符号放松不清。部分商家在商品细则页中，仅在旯旮用极小的字体标注“AI效劳仅供参考”，或者使用“数字东说念主展示”等表述。亏欠者很难从中明确理解哪些图片是AI生成的，哪些是真确的实拍图。
\n二、混杂展示罗网。一些商家收受更为隐蔽的技巧，将AI模特图与少许实拍图混杂在一齐成列展示。亏欠者在浏览商品时，很容易误以为这些图片都是实拍图，从而作念出异常的购买有经营。
\n三、动态视频误导。AI生成的动态展示视频也存在问题。在视频中，AI东说念主的动态、服装舞动幅度、配饰搭配效劳等都可能通过算法进行优化，与骨子穿戴效劳存在权贵互异。亏欠者仅凭这些动态视频，很难准确判断商品的真确情况。
\n上游新闻详细央视新闻、央广网、上不雅新闻、中国亏欠者报、红星新闻等