AI图像正在变得比真人还像真人,但也越来越让人不敢相信自己的眼睛。从1973年那张Lena测试图,到2024年IEEE终于封杀,再到Grok惹出的“数字脱衣”风波,一条关于AI图像真实性与伦理边界的线索,其实早就埋下了。
一段棒球场上的AI美女,怎么就变成全网模板了?
一段由AI生成的韩国棒球比赛观众席美女视频,在社交平台上突然火了。视频里的女孩对着镜头微笑、撩头发,看上去和真人没什么两样。很快就有网友发现,用同一个模板,你也能生成自己的专属版本:换脸、换发型、换场景,几乎没有任何门槛。这类AI图像确实展示了生成模型的能力,但同时也让“眼见为实”四个字变得越来越不靠谱。
一张《花花公子》照片,统治了图像算法测试50年
1973年,南加州大学的研究者把《花花公子》插页人物Lena的照片拿来当作图像处理测试图。没想到,这张图后来竟成了行业默认标准,大家靠它比较算法效果,一用就是半个世纪。直到2024年,IEEE计算机协会正式宣布不再接收引用Lena的论文,这段历史才算翻了篇。但一个被问了很久的问题依然没有答案:为什么技术圈会默认一张情色杂志照片当标准?
平均脸实验:原来好看是一种数学
1990年,一项心理学实验发现,把多张人脸做数学平均之后,合成脸竟然比大多数原始人脸更有吸引力;而且平均的样本越多,吸引力越高。1994年,研究者又试着把平均脸的特征往更“平均”的方向放大,结果评分又高了一截。你看,AI审美不是凭空冒出来的,它从一开始就长在统计学里。这也是为什么AI生成的“美女”总带着一种标准化的精致——因为它们根本不是某个人,而是无数张脸互相妥协的产物。
AI超真实:假脸比真脸更像人
2023年,澳大利亚国立大学的一项研究发现,AI生成的白人面孔被参与者误认为真人的概率,竟然超过了真实照片。研究者称之为“AI超真实”。说白了,模型并不是在还原现实,而是在生成一个比现实更贴合“人应该长什么样”的模板。当这种模板被批量用在对话、视频、虚拟主播里,人的认知难免会被一点点重新校准。
从Lensa到Civitai:性化倾向被悄悄放大
AI图像里的性别偏见和NSFW问题,并不是等到Grok才冒出来的。2022年底,修图应用Lensa的“魔法头像”功能突然流行起来。当时一位女性记者给自己生成了100个头像,其中大约30张是裸露或性感姿势;而她的男同事做了同样的操作,一张都没有。用户并没有输入任何相关提示,模型自己就“发挥”了。
- Civitai上的NSFW图片占比,从2023年1月的41%一路涨到2024年12月的80%。
- 用来调教AI图像模型的奖励模型,比如PickScore,训练数据里就塞了大量NSFW提示词。即使你输入的内容和性无关,微调后的模型生成NSFW图片的倾向也会明显增加。
换句话说,问题不只在“用户输了什么”,更在于模型被喂了什么。
Grok的Spicy模式,把“宽松”玩成了事故
Grok图像生成专门设了一个“Spicy”模式,用来放宽内容过滤。2026年1月,有人拿这个功能上传他人照片,生成“数字脱衣”图,其中甚至涉及儿童。多国政府施压后,X平台把图像生成功能整体改成了付费使用。技术上的“宽松”如果缺少底线,最后埋单的可能是整个社会。
真实之外,还得有边界
AI图像发展到现在,技术上越来越强,风险也越来越集中。从Lena到Grok,每一段插曲都在提醒同一件事:模型训练需要数据,数据背后的授权和伦理不能忽略;产品上线讲究体验,但体验的底线不能靠用户提示词来控制。对企业来说,与其追逐刺激感,不如把AI用在更可控的地方。比如通过易枫顺 - 阿里云官方旗舰级代理商规划云资源,把自建图像模型放在阿里云服务器ECS上,再让阿里云代理商帮你申请阿里云代金券、匹配阿里云优惠,让上云的成本和合规都更可控。图像生成可以很酷,但更值得被认真对待。
FAQ
Q:为什么AI生成的脸比真人照片看起来更“真”?
A:一方面,训练数据里漂亮、清晰、正脸的照片占得更多,模型会把这类特征当成“典型”;另一方面,奖励模型和平均脸效应也在加持。AI不是在复刻一张脸,而是在生成一张经过统计优化的人脸,所以某些时候它比真实抓拍更符合人的预期。
Q:为什么很多AI图像工具容易生成NSFW内容,哪怕没有提示?
A:问题常常出在奖励模型上。像PickScore这类模型的训练集包含大量NSFW提示词,模型会把“高分”和这些内容绑定在一起。即使你输入的是普通词,微调后的模型也可能往那个方向跑。Civitai上NSFW图片占比从2023年初的41%涨到2024年末的80%,就是这个机制被放大的结果。
Q:用AI把他人的照片生成“数字脱衣”图,违法吗?
A:在多数国家,这至少涉及侵犯肖像权、名誉权和潜在色情内容相关法律,如果涉及未成年人就更严重了。Grok的案例已经让监管机构直接介入,平台也匆忙设置了付费墙。技术确实能生成图像,但法律和伦理的红线不会因为“AI生成”就消失。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请,以及多云成本优化、企业上云一站式服务。客服热线:19520841949 - 易枫顺
来源:极客公园