Apple 2026年隐私保护机器学习和人工智能研讨会

在苹果，我们相信隐私是一项基本人权。随着人工智能能力的提高并越来越融入人们的日常生活，推进隐私保护技术的研究对于确保隐私在用户享受创新人工智能体验的同时受到保护变得越来越重要。

苹果的基础研究一直在推动该领域的最新发展，今年早些时候，我们举办了隐私保护机器学习和人工智能研讨会。这次为期两天的活动汇集了苹果研究人员和更广泛的研究界的成员，讨论了保护隐私的ML和人工智能的最新动态，重点关注三个关键领域：私人学习和统计、基础模型和隐私以及攻击和安全。

研讨会上的演讲和讨论探讨了隐私和ML方面的进展和悬而未决的问题，包括联邦学习、统计学习、信任模型、攻击、隐私会计以及基金会模型带来的独特挑战。这些研究领域以严格的隐私和安全评估为基础进行创新，将理论框架与现实世界的应用程序连接起来。

在这篇文章中，我们分享了精选演讲的录音以及研讨会上讨论的出版物的回顾。

发表了演讲研讨会上展示的已发表作品自适应方法在高隐私环境中是可行的：一个可操作的视角，作者：Enea Monzio Compagnoni（巴塞尔大学）、Alessandro Stanghellini（巴塞尔大学）、Rustem Islamov（巴塞尔大学）、

Aurelien Lucchi（巴塞尔大学）和Anastasia Koloskova（苏黎世大学）由标题捕捉：关于剪辑模型中的精简化及其缓解作者：Wenhao Wang（CISPA）、Adam Dziedzic（CISPA）、Grace C。

Kim（佐治亚理工学院）、Michael Backes（CISPA）和Franziska Boenisch（CISPA）苹果研究人员在苹果生态系统中结合机器学习和同形加密Monika Henzinger（奥地利科学技术研究所）、

Roodabeh Safavi（奥地利科学技术研究所）和Salil Vadhan（哈佛大学）的《差异私人连续机制的并发构成》上下文代理安全：

针对各种目的的政策作者：Lillian Tsai（Google）和Eugene Bagdasarian（Google）少废话，多适应：训练数据修剪改善了事实同步化作者：Jiayuan Ye、Vitaly Feldman和Kunal Talwar扩散模型中的前景-背景分解。

Di（滑铁卢大学），Yiwei Lu（渥太华大学），Yaoliang Yu（滑铁卢大学），Gautam Kamath（滑铁卢大学），

Adam Dziedzic（CISPA）和Franziska Boenisch（CISPA）高效和隐私保护的软提示传输为LLM由Xun Wang（CISPA），

Jing Xu（CISPA），Franziska Boenisch（CISPA），Michael Backes（CISPA），Christopher A.

Choquette-Choo（Google DeepMind）和Adam Dziedzic（CISPA）Vitaly Feldman和Moshe Shenfeld（耶路撒冷希伯来大学;

在苹果工作期间完成的工作）对二次抽样和随机分配进行了有效的隐私损失考虑不要看我的数据：探索不同的私人联邦统计数据，通过与人工智能工作人员的合作来支持跨人口群体的种族偏见评估寻找NeMo：

Dominik Hintersdorf的本地化神经元（德国人工智能研究中心（DFKI）、

达姆施塔特工业大学）、卢卡斯·斯特鲁佩克（德国人工智能研究中心（DFKI）、达姆施塔特工业大学）、克里斯蒂安·克斯廷（德国人工智能研究中心（DFKI）、达姆施塔特工业大学、黑森人工智能中心）、Adam Dziedzic（CISPA）、

和Franziska Boenisch（CISPA）成群的随机鹦鹉：针对大型语言模型的差异私人即时学习，作者：Haonan Duan（多伦多大学和Vector Institute）、Adam Dziedzic（多伦多大学和Vector Institute）、

Nicolas Papernot（多伦多大学和Vector Institute）和Franziska Boenisch（多伦多大学和Vector Institute）本地节点差异隐私，

作者：Sofya Raskodjolva（波士顿大学）、Adam Smith（波士顿大学）、Connor Wagaman（波士顿大学）和Anatoly Zavyalov（波士顿大学）自我监督学习中的简化改进了下游概括作者：Wenhao Wang（CISPA）、

Muhammad Ahmad Kaleem（多伦多大学和Vector Institute）、

Adam Dziedzic（CISPA）、Michael Backes（CISPA）、Nicolas Papernot（多伦多大学和Vector Institute）和Franziska Boenisch（CISPA）资源受限移动设备上微调LLM的内存高效反向传播作者：

Song Conzheng和Xinyu Tang开放式法学硕士对于当前的私人改编来说是必要的，并且优于其封闭替代方案作者：Vincent Hanke、Tom Blanchard、Franziska Boenisch、Iyiola E。

奥拉通吉、迈克尔·巴克斯和亚当·齐耶季奇（CISPA）辛辣的e：两服务器模型中的私人分位数估计作者：Hannah Keller（奥胡斯大学）、Jacob Imola（RSC，哥本哈根大学）、Rasmus Pagh（RSC，哥本哈根大学）、

Fabrizio Boninsegna（帕多瓦大学）和Amrita Roy Chowdhury（密歇根大学）模糊语境中的隐私推理作者：

Ren Yi（谷歌研究）、Octavian Suciu（谷歌研究）、Adrià Gascón（谷歌研究）、Sarah Meiklejohn（谷歌）、Eugene Bagdasarian（谷歌研究）和Marco Gruteser（谷歌研究）拉万：

Arian Raje（CMU）、

Baris Askin（CMU）、Divyansh Jhunjhunwala（CMU）和Gauri Joshi（CMU）的联邦微调多头低等级自适应罗宾汉和马修效应：差异隐私对合成数据的差异影响作者：Georgi Ganev（伦敦大学学院，Hazy）、

Bristena Oprisanu（伦敦大学学院）和Emiliano De Cristofaro（伦敦大学学院）水族馆：

Mason Nakamura重新审视多代理安全、隐私和安全研究黑板（马萨诸塞大学阿默斯特）、阿比纳夫·库马尔（马萨诸塞大学阿默斯特）、Saaduddin Mahmud（马萨诸塞大学阿默斯特）、Sahar Abdelnabi（图宾根ELLIS研究所、MPI智能系统、

图宾根人工智能中心）、Shlomo Zilberstein（马萨诸塞大学阿默斯特）和Eugene Bagdasarian（马萨诸塞大学阿默斯特）《离散的重要性：衡量端到端差异私有合成数据中离散化的影响》作者：Georgi Ganev（UCL，SAS）、

Meenatchi Sundaram Muthu Selva Annamalai（UCL）、

Sofiane Mahiou（SAS）和Emiliano De Cristofaro（加州大学河滨分校）基于相似性的隐私收件箱的不足：对“真正匿名”合成数据集的隐私攻击作者：Georgi Ganev（UCL，

SAS）和Emiliano De Cristofaro（加州大学河滨分校）通过强数据处理不等式进行数据并行化的权衡作者：Vitaly Feldman、Guy Kornowski（魏茨曼科学研究所;

在苹果期间完成的工作）和Xin Lyu（加州大学伯克利分校;在苹果期间完成的工作）致谢许多人都对这次研讨会做出了贡献，包括维塔利·费尔德曼、克里斯蒂娜·伊尔文托、古贺达树、奥德拉·麦克米伦、宋从正、库纳尔·塔尔瓦尔、安德烈亚斯·托马斯和叶家远。

相关阅读和更新。Apple 2025年隐私保护机器学习研讨会2025年8月12日苹果认为隐私是一项基本人权。随着人工智能体验变得越来越个性化并成为人们日常生活的一部分，在提高人工智能能力的同时创建新颖的隐私保护技术非常重要。

苹果的基础研究一直在推动将差异隐私与机器学习结合起来的最新水平，今年早些时候，我们举办了隐私保护研讨会.苹果2024年以人为本的机器学习研讨会2025年7月24日研究领域无障碍性、研究领域公平性、

研究领域人机交互以人为本的机器学习（HCML）方法涉及设计优先考虑n的ML和AI技术