一根画脸手指骗过年龄验证:AI 未成年保护为何这么容易翻车?

AI 年龄验证被画脸手指骗过,暴露隐私、监管与模型鲁棒性的矛盾。

原文标题:小学生画了撇胡子骗过AI年龄验证,硅谷工程师沉默了

原文作者:机器之心

冷月清谈:

Discord 为应对监管推出默认未成年模式,用户若想解锁部分功能,需要通过本地 AI 年龄验证或上传身份证。近期有人用画了五官的手指、游戏截图、3D 模型甚至画胡子等方式绕过验证,引发热议。文章解释称,这类年龄估算通常在设备端运行,优点是隐私风险较低、体验轻便,但受限于算力,模型较轻量,主要依赖眼睛、嘴巴、轮廓、皮肤纹理和简单运动信号判断年龄与活体。面对抽象化、非标准输入时,模型鲁棒性不足,加上平台上线初期往往会降低门槛以避免误伤正常用户,就容易被低成本手段钻空子。与此同时,Meta 等平台开始尝试更主动的 AI 判别方式,结合照片视频中的身高、骨骼结构以及账号文本、互动行为来识别未成年用户。文章指出,平台加强监管与用户绕过限制之间的猫鼠游戏仍会持续。

怜星夜思:

1、你觉得年龄验证应该优先保护隐私,还是优先保证准确率?
2、用 AI 判断未成年人身份,会不会造成新的误伤和歧视?
3、如果你是平台,会怎么设计一个更难被手指、截图骗过的年龄验证系统?
4、Meta 这种通过照片、视频和互动行为主动识别未成年人的做法,你能接受吗?

原文内容

图片
编辑|杨文

魔法打败魔法的「骚操作」,属实把我看乐了。


今年年初,社交平台 Discord 为响应全球监管压力,搞了个「teen-by-default」,默认把大家都当未成年人,部分功能直接锁死。要想解锁成人模式,就得过年龄验证这一关。


验证方式主要有两种:要么对着摄像头自拍一段小视频,让 AI 在我们手机本地估算年龄;要么老老实实上传身份证。


结果互联网老哥们开始各种极限测试,有人拿游戏截图糊弄,有人用 3D 模型,最离谱的是用手指简笔画。


有人在大拇指上画了俩眼睛一张嘴,举到摄像头前,按照系统提示居中、对准、左转头、右转头……AI 分析完了,给出的结论是:年龄在 13-15 岁之间,验证通过!


视频来源:https://www.instagram.com/reels/DUqrCoWDRI0/


互联网在「钻空子」这块从来不缺想象力,还有 12 岁男孩用眉笔画了撇胡子,被系统判定为 15 岁,顺利过审。


为啥会这样?


这些平台为了应对监管,同时尽量减少隐私争议,选了一套设备端面部年龄估算方案,也就是用户对着摄像头录一段视频,AI 模型完全在本地手机或电脑上运行,只把最终的年龄区间判断结果发回服务器,不会上传完整视频或人脸数据。


这听起来隐私风险小,验证过程也相对轻便,但代价是可用的计算资源有限,模型不能太复杂,更没法依赖服务器端的重型分析。 


这些模型主要靠眼睛、嘴巴、脸部轮廓、皮肤纹理等视觉特征来推断年龄,一个简单画了两个点和一条线的拇指,在特定光线、角度和低分辨率下,意外符合了「年轻光滑脸部」的抽象特征模式。


系统要求「脸」居中并左右转动时,手指的自然轻微抖动和跟随动作,又提供了基本的运动信号,足以让相对轻量的活体检测认为这是「活的」物体,直接放行。 


AI 年龄估算模型主要是用海量真实人脸数据训练出来的,对这种高度非标准、抽象化的输入本来就缺乏足够鲁棒性。


rollout 初期,平台为了不让正常用户因为光线不好、角度不对或长相特殊而频繁失败,不得不把阈值设得相对宽松,也就给了这种低技术含量邪修方法可乘之机。


Roblox 等平台也出现过类似情况。由此可见,当前的面部年龄技术,在面对精心设计的欺骗手段时,还远没到滴水不漏的程度。


平台们也没坐以待毙。


前段时间,Meta 宣布要用 AI 主动扫描用户上传的照片和视频,通过身高、骨骼结构等通用视觉线索,判断账号主人是否未满 13 岁,进而直接移除。


Meta 特意强调:「这不是人脸识别」,它只做大概的年龄区间判断。」



而且 Meta 不只看图片,还会结合整个账号的文本内容和互动行为全方位画像,比如发生日蛋糕、提到学校年级等,这些都会被纳入判断。


一旦 AI 觉得疑似未成年,就会先把账号干掉,想找回来得走官方验证流程。目前这套系统已在部分国家上线,后续会逐步推向更多地区,还计划扩展到 Instagram Live、Facebook 群组等场景。


平台在用 AI 堵漏洞,用户想方设法钻漏洞。


这场猫鼠游戏,大概率还会持续下去。


参考链接:

https://techcrunch.com/2026/05/05/meta-will-use-ai-to-analyze-height-and-bone-structure-to-identify-if-users-are-underage/

https://www.instagram.com/reels/DUqrCoWDRI0/



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com

我最怕的是“先封再说”。平台一句系统判断你疑似未成年,账号没了,申诉入口藏得比彩蛋还深。最后受伤的往往不是想钻漏洞的人,而是正常用户。

3 个赞

这个方案的争议点在于比例原则。为了识别少数违规未成年账号,是否有必要持续扫描大量用户的内容?如果平台无法证明必要性和有效性,那它很容易越过合理边界。

3 个赞

回答“隐私还是准确率”这个问题,我会偏向隐私优先。年龄验证本质上是在处理敏感身份信息,一旦平台把人脸、证件、行为数据都收走,后果可能比未成年人误入某些功能更难补救。准确率可以慢慢迭代,但隐私泄露很难撤回。

2 个赞

说实话,最难骗的是身份证,但最劝退用户的也是身份证。要我设计的话,可能会引入第三方年龄凭证:平台只知道你是否满某个年龄,不知道你的具体生日和证件号。这样比直接上传证件温和一点。

1 个赞

回答“会不会误伤和歧视”,我觉得会,而且概率不低。年龄估算模型很依赖训练数据,如果某些肤色、地区、体型、发育特征的人在数据里代表性不足,模型就可能系统性地判断错误。未成年人保护不能建立在一套大家都看不见的黑箱上。

2 个赞

回答“怎么设计更难被骗”,我会先加强活体检测,比如随机动作、深度信息、多帧一致性、反射和纹理检测等。单纯让用户左右转头太容易被模拟了,手指抖一抖都能过,说明检测维度确实太少。

3 个赞

我会做多信号组合,不只看脸。比如账号注册时间、社交关系、内容偏好、历史发言里是否提到年级生日等。当然这些都要注意边界,不能变成无上限监控。

2 个赞