蚂蚁集团新专利可删除大模型中的隐私数据

天眼查知识产权信息显示，近日，蚂蚁科技集团股份有限公司申请的“隐私擦除模型的训练方法、隐私擦除方法及装置”专利获授权。

摘要显示，该专利将大模型分别在原始训练数据和原始训练数据的脱敏数据上进行训练，并记录同一个大模型在原始训练数据上的权重和脱敏数据上的权重，从而形成新的擦除数据训练集。利用该擦除数据训练集即可训练一个隐私擦除模型，来擦除大模型中与隐私数据相关的权重数据。该方法通过训练隐私擦除模型来直接修改大模型的参数，从根本上删除大模型记忆中的隐私数据，具有极高的安全性。该方法也不需要对大模型进行重新训练，大大降低了大模型的优化成本。本说明书实施例所述的隐私擦除模型的训练装置、隐私擦除方法及装置同样具有上述效果。