哈佛生开发AI眼镜识破路人身份,无需征求同意引隐忧

原文标题:一张人脸照片,Meta眼镜识别全部个人信息,两位哈佛开发者:只为警醒世人

原文作者:机器之心

冷月清谈:

**简介**

近日,两名哈佛学生研发出一种AI眼镜,只需一张面部照片就能识别出陌生人的身份和个人信息,包括姓名、住址和亲属关系。该眼镜利用了Meta Ray-Ban智能眼镜、公共数据库和LLM(大语言模型)技术,引发了对隐私侵犯的担忧。

关键技术

该眼镜使用“I-XRAY”技术,流程包括:

  • 检测视频中的人脸
  • 将照片输入公共数据库搜索更多信息
  • 利用LLM处理和汇编信息,并与其他来源建立联系
  • 反向人脸搜索查找家庭住址、电话号码和亲属

开发者动机

开发者表示,开发该眼镜是为了警醒世人,让人们意识到仅仅一张人脸就可以提取个人信息,而不是为了滥用。

隐私担忧

该眼镜的潜在用途引发了隐私担忧,因为人们可能在不知情或不同意的情况下被识别和记录。Meta敦促用户在使用智能眼镜时尊重他人隐私,但如何保障实际执行仍是问题。

自我保护措施

用户可以通过删除自己在面部搜索识别网站上的数据来减少个人信息被滥用的风险。但完全从互联网上消失是不现实的。




怜星夜思:


1、这种AI眼镜是否对隐私构成严重威胁?
2、如何平衡AI技术的发展与个人隐私保护?
3、面对智能眼镜带来的隐私挑战,个人有哪些自我保护措施?




原文内容



机器之心报道

编辑:杜伟

不知不觉中,智能眼镜也成为了隐私窥探器。


在现代生活中,隐私一直是智能眼镜存在的主要问题之一。我们以谷歌智能眼镜项目为例,它失败的部分原因就在于人们对于在公共场所未经同意被拍摄表达了强烈反对。


不过,随着视频博主、TikTok 等短视频应用的兴起,很多人似乎慢慢习惯了被拍摄。尤其是当智能眼镜与一幅普通眼镜的区别没有那么大时,你可能已经走进了别人的影像中。


近日,两名哈佛学生 AnhPhu Nguyen 和 Caine Ardayfio 在推特上发布的一段视频火了。视频中,他们表示构建了一款能够识别出大街上任何人的眼镜,只需要收集一张面部照片就能实现


开发者之一AnhPhu Nguyen


我们先来看下面一些动图演示,比如识别出同学的身份以及来自哪里。


图片


随机识别出大街上行人的身份并分析找出家庭住址等个人信息。


图片


正确叫出行人的姓名。


图片


注:以上动图演示均来自原始视频:https://x.com/AnhPhuNguyen1/status/1840786336992682409


仅从这些演示来看,这个眼镜的功能似乎强大到了令人不寒而栗,你的身份和个人信息将无所遁形。据了解,该演示使用了当前广泛使用的技术,包括了 Meta Ray-Ban 智能眼镜和一些公共数据库


如何实现的呢?两位开发者使用了一种名为「I-XRAY」的技术,其工作原理依次如下:


  • 首先,利用 Meta 智能眼镜录制的视频上传到 Instagram,并使用计算机程序监控视频传输;

  • 其次,利用 AI 来检测人脸是否在画面中;

  • 再次,将人脸照片输入到公共数据库,搜索更多关于此人的图片,并查找并识别出姓名、地址、电话号码甚至亲属。

  • 最后,此人的信息被反馈给手机上的 App。



技术报告:https://docs.google.com/document/d/1iWCqmaOUKhKjcKSktIwC3NNANoFP7vPsRvcbOIup_BA/preview?pli=1


I-XRAY 的独特之处在于它完全自动运行,这要归功于大语言模型(LLM)的最新进展。该系统利用了 LLM 理解、处理和汇编不同来源大量信息的能力,并对在线来源之间的关系进行推理,例如将一篇文章中的姓名链接到另一篇文章,并通过文本从逻辑上解析一个人的身份和个人详细信息。


LLM 和反向人脸搜索之间的协同允许完全自动和全面的数据提取,这在以往仅靠传统方法无法实现。从 LLM 提取的姓名中,FastPeopleSearch 查找可以识别此人的家庭住址、电话号码及其亲属。


当谈到开发 I-XRAY 的动机时, 开发者表示它最初是一个附带项目,但很快引发了人们对隐私问题的关注。开发这个工具不是用了滥用,否则也不会发布。他们的目的是展示智能眼镜、人脸搜索引擎、LLM 和公共数据库的现有功能,让人们意识到,如今仅凭人脸就可以提取家庭住址和其他个人信息了



但无论动机如何,这套系统都有侵犯隐私之嫌,Meta 眼镜也可能受到非议。其实 Meta 在 Ray-Bans 智能眼镜的隐私政策中敦促用户要尊重人们的偏好,并在拍摄视频、拍照或直播时明确地使用手势或使用语音控制。


然而现实却是,人们可能选择不遵守可穿戴设备的使用礼仪。当外媒 The Verge 就该系统向 Meta 置评时,该公司发言人在回复中引用了上述服务条款,并重申了同样的指导政策。



面对智能眼镜可能被滥用和个人隐私可能被侵犯的现实,开发者提醒人们可以删除自己在面部搜索识别网站 Pimeyes 和 FastPeopleSearch 等数据源中的个人信息。



但即使这样,人们想要完全删除在线状态几乎是不可能的,能做的只有让自己的信息更难被获取。


参考链接:

https://www.theverge.com/2024/10/2/24260262/ray-ban-meta-smart-glasses-doxxing-privacy




© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

一种方法是使用面部识别软件屏蔽自己的面部。该软件将在您的面部周围创建一层数字模糊,从而使面部识别系统难以识别您的身份。

首先,可以从面部识别识别网站上删除自己的数据。其次,在公共场所时,尽量避免使用智能眼镜。最后,了解智能眼镜的隐私风险和相关法律非常重要。在不了解这些风险的情况下,最好不要使用智能眼镜。

个人隐私权应受到最高级别的保护,人工智能技术的发展绝不能以牺牲个人隐私为代价。我认为政府和企业有责任制定必要的法规和技术保障,以确保人工智能技术在尊重个人隐私的情况下得到负责任地使用。

养成良好的网络习惯,例如使用强密码,避免在公共Wi-Fi上登录个人账户。还要定期查看您的隐私设置,并仅与您信任的网站和应用程序共享您的个人信息。

我觉得这还好吧,只要大家都在遵守规则,不过度使用这些技术就可以了。就像我们用手机和社交媒体一样,只要注意保护自己的隐私,一般不会出什么问题。不过,如果有人滥用这些技术,肯定是要严厉打击的。

从技术的角度来看,它确实有侵犯隐私的可能,但我们也不能忽视开发者最初的动机是好的,他们只是想让人们意识到隐私问题的重要性。

我觉得这个问题很难回答,因为在隐私和发展之间划清界限非常困难。不过,我认为我们应该努力找到一种方法来让这两者共存,也许可以通过立法来规范这些技术的用途,或者通过教育公众来提高人们对隐私重要性的认识。

我认为一个好的平衡点是要求这些眼镜制造商在出售或使用这些眼镜之前获得用户的知情同意。此外,还应该制定明确的法律法规来规范这些眼镜的用途,并对滥用行为进行处罚。

我认为这种眼镜对隐私构成了极大的威胁。它允许人们在未经同意的情况下收集和存储我们的个人信息,这可能会被用于跟踪我们的行踪、监视我们的活动,甚至勒索我们。