旧金山起诉苹果和谷歌为脱衣AI应用做分成,应用商店平台责任在美国首次被追
旧金山市检察官戴维·奇尤本周对苹果和谷歌的应用商店提起民事诉讼,指控两家公司明知部分应用是用于生成未经同意的人体裸露图片,依然接受它们上架并抽取三成佣金。这是美国司法系统第一次把应用商店本身放到未成年人保护案件的被告席上。
案件起点是十六款所谓"脱衣化应用"。这些应用允许用户上传任意女性照片,由AI模型生成"去除衣物后"的合成裸照。旧金山市府估算,苹果和谷歌两家在过去一年里从这些应用中抽取的分成累计接近四百万美元。诉状还指出,部分应用在广告文案中直接宣传可以用于生成未成年人照片。
技术上这类应用利用的是开源图像生成模型,主要基于稳定扩散和最新的通量模型。开发者通常在开源基础上微调专门的裸体数据集,再封装成手机端应用。生成过程完全在云端服务器完成,应用本身只是前端。这种架构让追查作者困难,但应用商店作为分发和收款的唯一入口,天然处在监管重点位置。
苹果和谷歌对未经同意生成人体裸露图片的应用早就有明面上的禁令。苹果应用商店的审查政策第一点第一项就写着禁止色情、骚扰和贬低性内容,谷歌应用商店有类似条款。但实际执行完全靠机器审核,加上人工抽查,大量此类应用通过换名字、换图标、换描述关键词绕过审查。旧金山市府的调查显示,有些应用被下架后一周之内就以新名字重新上架。
诉状的核心法律主张是,苹果和谷歌不能既收取三成分成、又推卸内容责任。美国《通信规范法》第二百三十条历来给互联网平台提供了"内容仅传输者"的免责保护,但脱衣化应用的商业模式不是纯粹的信息传递,是明确的商品销售。旧金山方面认为,只要商店抽取分成,就应对商品性质承担连带责任。
这个法律逻辑一旦被法院接受,美国应用商店的整个商业模式都要重写。任何非法或涉嫌违法的应用只要一上架,苹果和谷歌就可能被卷入诉讼,平台不能再借助算法审查来推卸责任。硅谷同行都在关注这个案子的走向,预计苹果和谷歌会全力抗辩,把它拖到联邦上诉法院层级。
案件对未成年人保护领域的影响更直接。加州从2025年起已经把生成未经同意的人体裸露图片列为独立犯罪,但执法一直卡在开发者匿名和跨境部署上。旧金山这次直接从收款渠道切入,是过去几年最有效的一次追责路径。硅谷内部有律师认为,这是应用商店平台责任在美国司法层面被真正撕开的第一道口子。
苹果和谷歌都在案件公开当天发表声明,称已经从应用商店下架涉案的十六款应用,并承诺加强人工审查。但从检察官办公室的表态看,单纯下架不足以避免诉讼,过去两年间抽取的分成必须退还,并且需要向受害者赔偿。案件预计在2026年秋季进入实质审理阶段。