苹果、谷歌下架多款恶意AI应用 更严峻的问题是.....
财联社4月27日讯(编辑 史正丞)随着AI技术快步迈入大规模应用的阶段,技术遭到恶意滥用的问题再度浮上水面。前阵子一度引发微博热议的“一键修图变成一键去衣”,正在美国以更加恶意的形式上演。
据美国技术媒体404 Media周五报道,在该媒体的推动下,苹果、谷歌分别从应用商店内下架了多款标榜能够进行“一键去衣”的应用。真正的问题在于,包括收广告费推广这些应用的Meta在内,这些互联网巨头似乎并不能自行找到这些违反其政策的应用。
恶意AI应用“登堂入室”
报道称,通过比对Meta平台的广告资料库,404 Media找到一系列推广“一键去衣”软件的广告,投放记录显示宣传这些恶意AI软件的广告曾在3、4月间,在Meta旗下的多款社交媒体平台上投放。
这类软件标榜的功能,正是可以上传真人照片,并且可以“一键擦除任意衣服”,开发者通过收费来牟利。
更令人震惊的是,这类软件并不是存活在互联网的阴暗角落中,而是正大光明地出现在苹果应用商店里。当用户点击社交媒体上的广告后,会直接跳转至苹果应用商店。在商店里的应用被伪装成了AI艺术生成器,并没有披露应用背后的实际用处(因为这肯定违反应用商店政策)。
在本周这件事情被曝光前,这些广告仍一直在Meta的社交平台上挂着,非法应用也一直混迹在苹果、谷歌的应用商店里。
接到举报后,Meta找到爆料的媒体,请求他们“将所有看到的广告链接发给他们”,并迅速下架删除。公司发言人Daniel Roberts随后表示,Meta不允许存在成人内容的广告,一旦发现会迅速删除。公司接下来将加大审查力度,并对违反政策的账户采取行动。
周五的最新消息显示,苹果公司在收到举报后,也把媒体发现的3款应用程序做了下架处理。谷歌则在近期下架了一款AI“换脸”程序。
事实上,这类具有“深度伪造”(DeepFake)功能的app至少在2022年就已经出现在应用商店里,但当时苹果、谷歌接到举报后,仅仅是要求开发者停止投放广告宣传不法用途,而不是将其下架。
已有美国学生因此被捕
虽然互联网平台对这类app处理的方式颇为被动,但这些应用已经产生了恶劣的社会后果。
据《连线》杂志报道,去年12月有两名佛罗里达州的中学生,因为使用AI生成同学的裸照遭到警方逮捕和重罪控诉。
警方提供的报告称,两名男孩的年龄分别是13和14岁,所制作照片的对象是12至13岁之间的学生。根据佛罗里达州法律,他们的行为与重大汽车盗窃、非法拘禁同属三级重罪。
虽然该案被美国媒体称为“首个引发逮捕和起诉的案例”,但在公开报道中,加州、华盛顿州、新泽西州的中学都有过类似的事件,只不过没有提到是否引发刑事指控。
目前在美国只有十个州将此类行为入罪,并没有联邦层面的法律进行规管。转机出现在今年1月底,由于在马斯克的X平台上爆发使用AI制作泰勒·斯威夫特露骨照片的事件。在事态最严重的状态下,X平台不得不禁止使用“泰勒·斯威夫特”作为关键词进行搜索。
在这一事件后,美国参议院两党议员联合提起了一项名为《2024打击非法伪造图像和未经同意编辑法案》的立法。
联名提出这项法案的共和党参议员乔什·霍利当时对媒体表示,无论是明星还是普通人,都不应该发现自己出现在AI色情制品中。无辜者有权捍卫自己的名誉,并在法庭上追究加害者的责任。
最近更新
-
OpenAI推出专用AI检测工具识别DALL-E生成图像准确率达98%
22:36
-
英国初创公司刷新欧洲AI融资纪录为何能吸引软银、英伟达、微软齐出手?
21:36
-
科创板晚报|纵横股份回应造假:恶意诋毁、编造不实信息普冉股份股东拟减持不超2.02%
21:36
-
弘信电子算力服务器再接15亿新单AI新业务已贡献业绩
21:36
- 白领“必备”星巴克,一夜跌没1150亿
- 关注核心资产
- A股5月开门红!摩根中证A50ETF(560350)跟踪指数成份股超八成收涨
- 深圳跟进!限购政策放松再加一城
- 袁清茂掌舵汾酒两年,交出300亿成绩单
- 比特币类ETF再度集体“下挫”,到底发生了什么?
- 离开百度抱紧大众,死磕智驾的地平线“征程”能走多远?
- 联泰环保收到立案告知书,1.89万踩雷股东可报名挽损
- “大小合作”进入“蜜月期”跑通技术“变现”的小鹏汽车价值需要被重估
- 今年家电“以旧换新”政策的商业逻辑大变
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
2028人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
73人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
341人已购
¥588.00/月
推荐阅读
- 缩量了,明天不能在缩了
- 【20240508早评】短线背离之象调整压力升温
- 远大智能被立案调查面临索赔去年末股权转让项目被终止
- 比亚迪财险交强险业务获批!比亚迪上线保险服务入口,车险将开卖?
- OpenAI推出专用AI检测工具识别DALL-E生成图像准确率达98%
- 凯撒文化天眼风险信息1023条,还面临受损投资者维权
- 国货美妆进入新纪元之际,毛戈平打好“高端牌”了吗?
- 爱旭股份全球首创BC产品0BB技术及“星云”轻质组件
- 凯撒文化涉嫌信披违规被调查,投资者索赔麻烦待解
- 九号公司董事长高禄峰受邀出席中法企业家委员会第六次会议
- 英国初创公司刷新欧洲AI融资纪录为何能吸引软银、英伟达、微软齐出手?
- 凯撒文化被立案调查,或触发证券虚假陈述遭股民索赔