苹果、谷歌下架多款恶意AI应用 更严峻的问题是.....
财联社4月27日讯（ 史正丞）随着AI技术快步迈入大规模应用的阶段，技术遭到恶意滥用的问题再度浮上水面。前阵子一度引发微博热议的一键修图变成一键去衣”，正在美国以更加恶意的形式上演。
据美国技术媒体404 Media周五报道，在该媒体的推动下，苹果、谷歌分别从应用商店内下架了多款标榜能够进行一键去衣”的应用。真正的问题在于，包括收广告费推广这些应用的Meta在内，这些互联网巨头似乎并不能自行找到这些违反其政策的应用。
恶意AI应用登堂入室”
报道称，通过比对Meta平台的广告资料库，404 Media找到一系列推广一键去衣”软件的广告，投放记录显示宣传这些恶意AI软件的广告曾在3、4月间，在Meta旗下的多款社交媒体平台上投放。
这类软件标榜的功能，正是可以上传真人照片，并且可以一键擦除任意衣服”，开发者通过收费来牟利。
更令人震惊的是，这类软件并不是存活在互联网的阴暗角落中，而是正大光明地出现在苹果应用商店里。当用户点击社交媒体上的广告后，会直接跳转至苹果应用商店。在商店里的应用被伪装成了AI艺术生成器，并没有披露应用背后的实际用处（因为这肯定违反应用商店政策）。
在本周这件事情被曝光前，这些广告仍一直在Meta的社交平台上挂着，非法应用也一直混迹在苹果、谷歌的应用商店里。
接到举报后，Meta找到爆料的媒体，请求他们将所有看到的广告链接发给他们”，并迅速下架删除。公司发言人Daniel Roberts随后表示，Meta不允许存在成人内容的广告，一旦发现会迅速删除。公司接下来将加大审查力度，并对违反政策的账户采取行动。
周五的最新消息显示，苹果公司在收到举报后，也把媒体发现的3款应用程序做了下架处理。谷歌则在近期下架了一款AI换脸”程序。
事实上，这类具有深度伪造”（DeepFake）功能的app至少在2024年就已经出现在应用商店里，但当时苹果、谷歌接到举报后，仅仅是要求开发者停止投放广告宣传不法用途，而不是将其下架。
已有美国学生因此被捕
虽然互联网平台对这类app处理的方式颇为被动，但这些应用已经产生了恶劣的社会后果。
据《连线》杂志报道，去年12月有两名佛罗里达州的中学生，因为使用AI生成同学的裸照遭到警方逮捕和重罪控诉。
警方提供的报告称，两名男孩的年龄分别是13和14岁，所制作照片的对象是12至13岁之间的学生。根据佛罗里达州法律，他们的行为与重大汽车盗窃、非法拘禁同属三级重罪。
虽然该案被美国媒体称为首个引发逮捕和起诉的案例”，但在公开报道中，加州、华盛顿州、新泽西州的中学都有过类似的事件，只不过没有提到是否引发刑事指控。
目前在美国只有十个州将此类行为入罪，并没有联邦层面的法律进行规管。转机出现在今年1月底，由于在马斯克的X平台上爆发使用AI制作泰勒·斯威夫特露骨照片的事件。在事态最严重的状态下，X平台不得不禁止使用泰勒·斯威夫特”作为关键词进行搜索。
在这一事件后，美国参议院两党议员联合提起了一项名为《2024打击非法伪造图像和未经同意法案》的立法。
联名提出这项法案的共和党参议员乔什·霍利当时对媒体表示，无论是明星还是普通人，都不应该发现自己出现在AI色情制品中。无辜者有权捍卫自己的名誉，并在法庭上追究加害者的责任。
涉广告欺诈，谷歌下架近600款安卓应用程序，包含猎豹移动45款app
2月21日，据国外媒体报道，在最近大规模打击广告欺诈和破坏性”广告的行动中，谷歌已从Google Play应用商店下架了近600款应用程序，并禁止其开发者进入Google Play商店及其广告网络。
据悉，被禁止进入谷歌应用商店和广告网络的最大开发商包括猎豹移动，该公司在2018年11月曾被披露从事广告欺诈活动。截至美国当地时间2月20日上午，猎豹移动大约45款应用程序全部被谷歌下架，这些应用程序也不再在谷歌的广告网络中显示广告。
谷歌负责广告流量质量的高级产品经理佩尔·比约克(Per Bjorke)说，被下架的这些应用程序已经安装了超过45亿次，主要针对说英语的用户，开发者多来自中国、新加坡以及印度。比约克拒绝透露具体应用程序或开发商的名字，但表示许多被禁止的应用程序都是实用程序或游戏。
谷歌的打击破坏性”广告政策禁止开发者在他们的应用程序不使用时继续显示广告，也禁止以不经意点击”的方式显示广告。比约克说，一个例子是当用户试图打电话时，应用程序会显示全屏广告。
比约克表示：这是一种侵入性的策略，会导致糟糕的用户体验，扰乱电话和GPS等关键设备的功能，导致无意中的广告点击，并浪费广告商的钱。”他补充说，谷歌去年年底部署了新技术，以自动检测应用程序在不使用时是否显示广告。这一变化帮助识别了违规的应用程序和开发者，进而引发了今天的禁令行动。
事实上，2024年，谷歌也禁止了开发商触宝。此前新闻聚合网站BuzzFeed News和一家安全公司提供证据表明，即使在通知谷歌其已经停止投放大量破坏性”广告之后，触宝实际上仍未改变行为。
进入 2024 年之后，谷歌还下架了豪客互联的一些应用。一家外国博客 VPN Pro 在 3 号上传了一篇关于豪客互联 24 款应用涉嫌内置恶意插件”的文章后，Google Play 在 2 月 4 日下架了博客文章中提到的 24 款产品，这些产品的累计下载量高达 3.82 亿次。
近年来，谷歌为打击广告欺诈和破坏性”广告投入巨大。作为美国知名的科技公司，其Chrome浏览器占据全球PC浏览器主要市场，有外媒报道消息称，Chrome浏览器也将在今年停止播放破坏性”视频广告。
艾媒数据中心（data.iimedia.cn）数据显示，在PC浏览器用户首选品牌使用占比中，Chrome浏览器占比达20.4%。用户规模方面，2018年中国PC浏览器用户规模达到6.61亿人，预计2024年将达6.73亿人，市场整体趋于饱和，PC浏览器企业未来发展也将更注重用户使用体验。
未来，谷歌也将投入更多安全防护成本，去保障用户的隐私安全及网络健康环境。此次下架近600款安卓应用程序为营造更加健康、安全的用户网络环境再发力，也证明谷歌在此方面优秀成绩。
