大模型数据破解之道:WAIC 专家共话隐私计算助力

原文标题:大模型如何破解数据困局,WAIC产学研专家共话突围之道

原文作者:机器之心

冷月清谈:

**大模型与数据可信融合发展新格局**

随着大模型技术的蓬勃发展,数据的大规模应用面临安全和隐私挑战。隐私计算作为解决之道,为大模型与数据可信融合发展提供安全底座。

WAIC 隐私计算论坛聚焦前沿

为深入探讨隐私计算如何助力大模型与数据可信融合发展,WAIC 将于 7 月 6 日举办「2024 WAIC 隐私计算:助力大模型与数据可信融合发展论坛」。论坛将汇聚学界业界大咖,从学术、标准、产业三个维度,共同分享隐私计算前沿技术、可信流通标准及体系、行业实践案例。

论坛议程设置

  • **隐私计算技术学术前沿:**专家解析大模型时代隐私安全挑战及前沿技术。
  • **数据可信流通标准及技术体系:**解读数据可信流通相关标准、体系及规范。
  • **密态计算产业发展与实践:**蚂蚁集团发布「隐语 Cloud」大模型密态计算服务,探讨医疗场景下的密态计算应用。
  • 圆桌对话:大模型时代的数据安全与隐私挑战:业内专家深入剖析大模型数据运用中的安全与隐私挑战,并提出应对策略。



怜星夜思:


1、未来大模型技术普及后,我们个人信息还安全吗?
2、大模型时代,个人与企业在数据安全和数据共享中应该承担怎样的责任?
3、大模型训练中如何平衡数据规模和数据安全?

原文内容


AGI 时代,大模型技术为行业带来颠覆式变革。大模型技术的快速迭代离不开海量数据的支撑,高质量专业数据的流动与共享,是促进大模型技术应用加速发展的一个重要环节。

然而,大模型在创造巨大价值的同时,也为数据的大规模应用带来安全和隐私挑战。高质量行业数据的提供者担心大模型“记住”明文训练数据而导致数据价值丧失,因此不愿提供行业数据;用户访问大模型时的信息也有可能被模型方违规收集和使用,导致个人隐私和商业机密被泄露的风险。隐私计算对于解决这个过程中存在的数据安全与隐私问题极具意义和价值。

由世界人工智能大会组委会办公室指导,蚂蚁集团、中国电信集团有限公司、中国信息通信研究院华东分院、浙江大学区块链与数据安全全国重点实验室主办,机器之心协办的「2024 WAIC 隐私计算:助力大模型与数据可信融合发展论坛」将于 7 月 6 日上海·世博中心金厅 B+C 举办。

作为世界人工智能大会历年来的重要分论坛之一,WAIC 隐私计算系列论坛旨在打造每年一度的隐私计算领域高规格交流平台,今年已是第四年举办。四年来,隐私计算系列论坛从学术探讨逐渐延伸到产业探索和规模化应用,再到行业标准的不断成熟。2024年,论坛将继续紧跟科技发展前沿趋势,聚焦探讨隐私计算如何为大模型规模化应用以及数据跨行业流通提供可信安全底座,从学术、标准、产业三个维度,设置主旨演讲、成果发布、圆桌对话等多种形式,邀请政产学研各方代表共同参与讨论分享。


直击大模型时代隐私安全痛点
全球视角分享隐私计算前沿技术

论坛广邀学界业界大咖,从学术、应用等多个角度,直击大模型时代下数据隐私安全面临的新挑战、新实践以及新发展,并且立足全球,邀请了拥有国际视野的嘉宾分享隐私计算前沿技术。

在「隐私计算技术学术前沿」部分,邀请到中国科学院院士、国际密码协会会士(IACR Fellow)、清华大学高等研究院“杨振宁讲座”教授王小云,以及浙江大学计算机科学与技术学院院长、区块链与数据安全全国重点实验室常务副主任任奎分享前沿观察。

行业标准逐渐成形
数据可信流通技术进入体系化阶段

随着隐私计算相关技术的成熟,以及产业落地实践增多,数据产业链在政策法规、行业标准等多方面的共识和规范已经逐步完善,面向数据流通的可信框架已经建成。

在「数据可信流通标准及技术体系」部分,本次论坛邀请到中国信息通信研究院华东分院总工程师陈俊琰、 对外经济贸易大学数字经济与法律创新研究中心主任许可以及北京银联金卡科技有限公司(国家金融科技测评中心)副研究员、研发中心负责人杨波,三位专家将深入解析数据可信流通中的重要标准、体系以及规范。

“隐语 Cloud”大模型密态计算服务重磅发布
密态计算最新实践案例出炉

大模型的技术发展不仅为密态计算带来了更大的市场空间,同时也在促进密态计算技术的不断演进。通过与大模型技术的结合,蚂蚁集团将正式对外发布“隐语 Cloud” 大模型密态计算服务,“隐语”隐私计算技术和产品将更加适配大模型技术的发展要求,也将更加智能高效地为数据可信流通服务。

在「密态计算产业发展与实践」部分,蚂蚁集团副总裁兼首席技术安全官韦韬、浙江蚂蚁密算科技有限公司 CEO 王磊等人将对此做进一步介绍。

此外,来自北京左医科技有限公司的首席执行官张超将结合大模型行业应用实践,介绍在数据价值很大,同时数据隐私保护要求很高的医疗场景,密态计算技术是如何释放数据价值,推动数据可信流动的。

针对整个大模型大规模数据运用中存在的安全和隐私挑战,蚂蚁集团科技有限公司技术战略与执行部副总经理彭晋,中国电信大模型首席专家、大模型团队负责人刘敬谦,中国信息通信研究院云计算与大数据研究所副主任、隐私计算联盟副秘书长袁博,浙江大学“百人计划”研究员、博士生导师刘健,以及蚂蚁集团隐私计算部技术总监余超凡等嘉宾将带来精彩分享与讨论。

一图读懂论坛设置
「2024 WAIC 隐私计算:助力大模型与数据可信融合发展论坛」全日程
                        

以上日程仍在持续更新中

论坛报名及参会福利

论坛现已开放线下专业观众席位,欢迎扫描下图二维码报名参会。同时,活动当天,现场参会者需在开场前签到并领取号签,即可在论坛结束后于签到处凭号签免费领取包括《机密计算:AI 数据安全和隐私保护》、《隐私计算——推进数据“可用不可见”的关键技术》、《隐私计算》、《隐私计算与密码学应用实践》等在内的多款行业书籍(数量有限,先到先得,每位观众仅限领取一本)。

如果您想与我们进一步交流或对大会有任何疑问,请添加机器之心小助手微信(id:13661489516),备注「隐私计算论坛」进行咨询。


从技术层面来看,大模型技术带来的隐私风险主要在于明文训练数据被泄露导致数据价值丧失或个人信息被滥用。隐私计算技术通过提供安全计算环境,可以有效降低这些风险。

数据规模是影响大模型性能的关键因素,但同时也会带来数据安全风险。一方面,可以通过采用联邦学习、同态加密等隐私保护技术来保护数据隐私,另一方面,需要在数据规模和安全性之间进行权衡,根据具体场景和应用需求选择合适的数据处理方式。

个人应该提升隐私保护意识,妥善保管个人信息,并有选择性地授权数据使用。企业则需要建立健全数据安全管理机制,遵守数据保护法规,并在使用大模型时遵守伦理规范,保障用户数据安全和隐私。