近日,国际多媒体领域顶级会议ACM International Conference on Multimedia (ACM MM 2026)公布了论文录用结果。深圳北理莫斯科大学工程系陈昌盛教授团队的论文“Beyond Visual Evidence: Revealing and Mitigating Relational Privacy Leakage in Document MLLMs”(超越视觉证据:揭示并缓解文档多模态大模型中的关系型隐私泄露)被正式录用,其中工程系2023级本科生徐北宁、王海睿为共同第一作者,计算数学与控制系2024级本科生汪嘉歆为第三作者。
该论文重点关注文档多模态大模型在面临图像缺失、模糊或噪声干扰等复杂情况下的隐私泄露问题。研究发现,当视觉证据不足时,模型可能依赖训练阶段记忆的字段关联,同时生成姓名、出生日期、证件号码等多个相关敏感字段,从而引发严重的关系型隐私泄露。针对这一痛点,论文创新性地提出了动态关系遗忘框架(DRUF),通过关系解耦遗忘和动态遗忘集合更新,显著降低了高风险敏感字段被联合泄露的概率,同时确保模型能够保持正常的文档信息抽取能力。

研究团队在 DocXPand-25k、IDNet 和含噪 IDNet 数据集及多类文档多模态模型上进行了详尽的实验。结果显示,该方法在 Prompt-Driven 设置下可将泄露风险成功降至 0,并在 Image-Driven 设置下进一步降低 4.8 个百分点,为文档多模态大模型的隐私评估与安全部署提供了全新的技术思路与理论支撑。
该论文展现了深北莫本科生扎实的科研素养与创新潜力,同时也是一项高质量的国际合作成果。研究团队与印度科学研究所(Indian Institute of Science)的学者展开深度合作,双方充分发挥各自优势,实现了科研资源的互补与融合。
会议简介:
ACM International Conference on Multimedia(简称ACM MM)是国际多媒体领域的顶级学术会议。该会议是中国计算机学会(CCF)推荐的A类国际学术会议,在多媒体、人工智能及计算机科学领域享有极高的国际学术声誉与影响力。ACM MM的研究领域极其广泛,主要涵盖多模态人工智能、计算机视觉、音视频处理与人机交互等前沿方向。