霉霉AI虚假不雅照”疯传惹众怒，惊动白宫回应
近日，美国著名歌手Taylor Swift泰勒·斯威夫特（霉霉）的一组AI不雅照片在网络上疯传。《纽约时报》称，该图片在禁封之前被浏览了4700万次。
这非常令人震惊，因此我们将尽我们所能解决这个问题。”白宫发言人Karine Jean-Pierre在记者会上对此事时回应，我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”
她还补充说，虽然社交媒体公司在内容管理方面可以独立做出决定，但我们认为他们在执行自己规定方面可以发挥重要作用，以防止错误信息和未经同意的真实人物私密图像传播。”
1月27日，X平台（原推特）采取了史无前例的措施：官方阻止任何对泰勒·斯威夫特的搜索。这一项规定，《华尔街日报》得到了X业务运营主管Joe Benarroch的确认：这是一项临时行动，我们会非常谨慎地完成，因为我们在这个问题上优先考虑安全。”
相关话题登顶热搜，粉丝震怒
霉霉AI虚假不雅照”在国外社交疯传的同时，热度也迅速蔓延至国内。在1月27日，#泰勒斯威夫特AI不雅照疯传#的话题，登顶微博热搜第四。
在这些照片被传播、封禁的过程中，据外媒报道，霉霉本人已得知此事，并针对网上流传的照片感到愤怒。
霉霉粉丝对此事也深表愤怒，在X平台上，有网友直接@马斯克的X账号：这是恶心的、未经同意的性内容，不应该出现在你的平台上。所以请关闭，迅速推动这个。在微博上，也有不少粉丝直言：明知道是AI还疯狂传播，这是对美女有多大的恶意。
在白宫方面对此事回应后，环球时报发现，霉霉粉丝对此仍有新的发现：美国现行的联邦法律中居然没有相关条文能够阻止创建或分享此类未经同意的深度造假图像”。美国政界已经有人发现这一漏洞，纽约民主党议员乔·莫雷尔正在推动一项法案，将分享此类数码篡改的露骨图像”的行为定为犯罪，违反者将被判罚款和入狱。
高勤律师事务所合伙人王源表示，AI换脸实际上是对传统人格权的侵害，只是体现形式和传统的侵害形式不同。霉霉是很有影响力的公众人物，能迅速引起立法、立法监管机构的关注。实际上，AI换脸、Deepfake（深度造假）对每个人的权利都是有侵害的。”
据报道，微软CEO萨蒂亚?纳德拉在接受NBC新闻采访时对此事件发表了看法：是的，我们必须采取行动……我认为，当网络世界成为一个安全的世界时，每个人都将因此受益，我们有必要在这方面迅速采取行动。”
平台肩负起守门人”的责任
实际上，这也并不是霉霉第一次被AI造假。
据澎湃新闻报道，在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）带货广告在社交媒体Facebook上传播。
广告词主要为：嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3000套Le Creuset炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”
图源：澎湃新闻
事情发生后，涉事公司对此迅速做出回应称，Taylor Swift没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。AI深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。
当受害者被引导至虚假网站后，会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。Facebook母公司Meta也对这一欺诈活动迅速做出了回应。此后，Meta表示已经删除该广告。
值得注意的是，这两次事件中，无论是X还是Facebook平台，都在第一时间做出回应和处理。那么，在这类事件中，平台方又扮演怎样的角色呢？
王源表示随着大数据和人工智能的发展，平台方和传统市场主体不同的是，需要承担更大的责任。不管是中国的个人信息保护法，还是欧盟的，比如说数字市场法，其实都强调了这个大平台要承担‘守门人’的责任，需要对利用平台对外提供服务的这些商家，有一定的监管责任。”
但是她也指出，目前存在的困难点是，平台承担多大的责任，在什么样的情况下承担责任，这仍是理论上的。而具体到实际问题中，责任划分目前是非绝对的。
警惕AI深度造假
深度造假是英文Deep learning”（深度学习）和Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。
美国布法罗大学媒体取证实验室”的计算机科学教授吕思伟曾表示，霉霉”这起深度造假”诈骗活动，很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音，并用唇语同步程序将其合成至视频片段。
值得注意的是，深度造假技术早在这次霉霉AI照”之前就已存在并被大量使用。最常见的是，AI换脸和AI换声。
清华大学新闻与传播学院教授司若举例说，AI换脸及换声技术让已故的演员、历史人物可以通过换脸技术重现在屏幕上，在不同国家的语言转译上也可以通过AI的换声技术进行实时转译。
但技术不断迭代的另一面，出现了不法分子为了牟利，使得不少普通人成为深度造假技术的受害者。去年11月，新泽西一所中学的30多名女生的照片就被篡改和传播；西班牙小镇里的女学生也发现自己的裸照”在学校和社区里流传……
去年7月初，德国电信还发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
图源：证券时报网
美国商业改善局也在去年警告，深度造假”诈骗正在增加，在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱（通常比你想象的还要多）。”
在呼吁警惕AI深度造假的同时，不少国家的监管机构也意识到了现行法律的不足，在AI监管的路上不断加大力度。2024年10月30日，美国总统拜登签署了人工智能监管原则，该行政令涉及范围之广，内容全面，针对美国内部人工智能治理，国际人工智能联结都做出了详细的指示。
行政令提出建立安全、可靠、可信赖的人工智能，其中最引人瞩目的是要求最强大的AI系统”开发者必须与美国政府分享他们的安全测试结果和相关数据。
去年12月8日，据当地媒体报道，欧盟也已就监管人工智能的里程碑式立法条款”达成一致，并推动制定全球对于人工智能发展最严格的限制制度。当天，欧盟内部市场专员蒂埃里·布雷顿在X平台上发文证实，这一协议已经达成。他称，这是一个历史性的协议，并写道：欧洲成为第一个为人工智能的使用制定明确规则的大陆。”
综合自21世纪经济报道、、证券时报网等。
AI假照风波后续如何？各方紧急回应，霉霉真人亮相与男友接吻！
目前，昵称为霉霉”的全球顶流巨星泰勒·斯威夫特Taylor Swift，正意外卷入一场AI假照风波。据报道，近日在X、Facebook等社交平台上，大量虚假不雅照片”疯传，浏览量竟高达上千万！这些照片以橄榄球场、球队更衣室为背景，涉及霉霉和多名虚构队员”的露骨场景。
那么，这起AI假照风波究竟是如何发生的呢？原来，有人借题发挥，利用AI技术生成了这些虚假照片。他们可能出于恶意炒作、报复、非法盈利或其他不可告人的目的，将这些照片散布到社交平台上。毫无疑问，这种行为不仅侵犯了霉霉的肖像权和名誉权，也严重扰乱了网络秩序。
又一次，科技的双刃剑出鞘，瞄准了万众瞩目的偶像！对此，网友纷纷质疑：是谁在操纵这些恶意的AI？这一切背后，是否隐藏着更大的阴谋？AI技术的底线到底在哪里？
据最新进展，面对突如其来的风波，泰勒本人表示相当愤怒，据报道她正在考虑对生成这些图片的网站采取法律行动。这起事件同时引发各界强烈反响，它首先惊动了白宫：事后第一时间白宫发言人正式回应，对此表示担忧，并敦促国会立法控制风险。与此同时，X平台迅速封禁了任何对泰勒·斯威夫特的搜索，以遏制照片的进一步传播；Facebook母公司Meta发言人则宣布删除相关内容，并对发布该内容的账户采取行动。此外，微软CEO萨蒂亚·纳德拉也回应表示，此类行为令人震惊，非常可怕”！他强调微软将致力于研发更加安全、可控的AI技术，防止类似事件再次发生。
从目前来看，与事件相关的监管、传播和AI技术服务商等各方都已紧急回应，表明态度。然而，这并非霉霉第一次被AI造假”，不久前就有AI生成的假霉霉带货广告，在社交媒体Facebook上疯狂传播。
事实上，与此有关的AI深度伪造Deepfake技术正在被滥用，类似事件早已屡见不鲜；其中最有代表性的，比如AI生成的特朗普被捕入狱虚假照片，此前一度在网络疯传；随着技术的发展，如今造假更加方便，其中的一键换脸”技术几乎已经普及，只需下载相关应用程序，就能够随意生成！
所幸AI犯罪的风险，越来越受重视！而在这场风波中，我们也看到了人性的光辉。除了相关方面的积极回应，霉霉的粉丝们自发组织了保护行动，为她声援。在社交平台上，有网友直接喊话马斯克，希望他能出来管管这件事。这些行动让我们看到了科技与人性的较量，也促进了人们对正义的坚守和追求。
更令人瞩目的是，1月28日霉霉现身NFL橄榄球赛场，观看男友Travis Kelce的比赛。当男友所属队伍胜利时，她激动得与男友长久拥抱和亲吻。这一幕让我们看到了她对生活的热爱和对爱情的执着。然而，在离开球场时，有路人大喊看你干的好事”、你毁了橄榄球”，他们认为她有魔法让男友大胜。面对这些调侃和误解，霉霉微笑着直面回应我可啥都没干”！这一幕又让我们看到了她的幽默和坦然。”
总之，在这场AI假照风波中，科技伦理面临大考，人类必须加强相关领域的风险管控，AI监管迫在眉睫！此时此刻，霉霉再次被黑令人愤怒，但希望她的巨大影响力，有助于AI未来的健康发展。对此，你怎么看？
泰勒·斯威夫特AI不雅照”被疯传！惊动白宫
每经：毕陆名
Deepfake最新受害者出现了——全球顶流，泰勒·斯威夫特（Taylor Swift，中文绰号霉霉”）。
近乎是在一夜之间，X、Facebook等社交平台上便充斥了大量虚假不雅照片”，而且浏览量已经高达上千万！尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。
图片来源：视频截图
泰勒·斯威夫特本人也已经得知此事，对此表示相当愤怒，粉丝们也自发组织了保护行动。
在X上，有网友直接@马斯克，喊话说这事马斯克你得出来管管了。
究其原因，事情要从泰勒·斯威夫特和美国NFL橄榄球运动员Travis Kelce的恋情说起。Kelce效力于堪萨斯城酋长队，两人的恋爱关系被曝光后，泰勒也成为了该球队比赛的常客。
于是便有人借题发挥，用AI生成了以球场为背景，涉及泰勒和多名虚构队员”的露骨照片。
图片来源：视频截图
而关于这些图片的传播过程，则存在多种传闻，有说法是最早出现在某加密聊天群组当中。有报道则称，这些Deepfake照片一开始被传至一家不良网站，这个网站上充斥着大量以知名人士为主角的不雅照片。
除了泰勒，这家网站还收录了成百上千的名人，包括饰演芭比的Magrot Robbie也未能幸免。
Taylor Swift AI”一度成为了X上的热门话题，不过目前疑似已被屏蔽。
截至目前，一些参与传播照片账号已被各大平台陆续封禁，但仍有不少漏网之鱼。
Facebook方面，母公司Meta也有一名发言人称：这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布该内容的账户采取行动。
但也有网友说，这不是删除的问题，这些照片一开始就不应该出现在这些平台上。对此Meta也做出了回应，表示会继续监测并及时删除违规内容”。
在26日白宫记者会上，发言人让-皮埃尔被问及此事时表示，我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”
虽然社交媒体公司在内容管理方面可以独立做出决定，但我们认为他们在执行自己规则方面可以发挥重要作用，以防止错误信息和未经同意的真实人物私密图像传播。”让-皮埃尔说。
她还补充说，网络上的执法不严对女性影响更大，她们是受到网络骚扰和欺凌的主要目标。让-皮埃尔称，这并不是新问题，是拜登和哈里斯政府从上任第一天起就优先考虑的问题，我们对此非常重视。再一次，这让我们感到担忧。”
图片来源：视频截图
值得一提的是，这不是泰勒·斯威夫特第一次被AI整蛊。1月初，一则由人工智能生成的假泰勒·斯威夫特带货广告在社交媒体Facebook上传播。
嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3000套Le Creuset（中文名译为‘酷彩’）炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”
AI生成的泰勒·斯威夫特推销Le Creuset炊具视频。
在这则广告中，斯威夫特坐在钢琴前，向大家推销法国高端炊具品牌Le Creuset，并表示作为她的新年大放送”，会向20位粉丝免费赠送一套炊具。
事实上，视频中的霉霉”并不是真的斯威夫特，而是AI深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。涉事公司对此迅速做出回应称，斯威夫特没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。
什么是AI深度造假”？
AI深度造假”（Deepfake）技术再次引发关注。深度造假（Deepfake）是英文Deep learning”（深度学习）和Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。
美国布法罗大学媒体取证实验室”的计算机科学教授吕思伟（Siwei Lyu）表示，霉霉”这起深度造假”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音，并用唇语同步程序将其合成至视频片段。
每日经济新闻综合公开消息
每日经济新闻
