Meta AI推出革命性LIGER模型:高效精准的混合推荐系统

2025-01-02 15:50:28   |   棠糖   |   3528

1月2日,Meta AI对外宣布推出一种全新的推荐系统AI模型——LIGER(LeveragIng Dense retrieval for GEnerative Retrieval),该模型巧妙地结合了密集检索和生成检索的优势,LIGER的推出,标志着推荐系统技术的一次重要突破,尤其在计算资源需求、存储需求以及冷启动项目处理方面具有显著优势。

传统的推荐系统通常依赖于密集检索(Dense retrieval),这种方法通过序列建模来计算项目和用户的表示,能够提供高精度的推荐。然而,随着数据量的增加,密集检索对于计算和存储的要求急剧上升,限制了其可扩展性。而另一种较新的方法——生成检索(Generative retrieval),虽然在存储需求方面具有优势,但由于性能问题,尤其在冷启动项目中,常常无法提供有效的推荐。

LIGER正是针对这些挑战而提出的创新性解决方案。Meta AI与威斯康星大学麦迪逊分校、ELLIS Unit、LIT AI Lab、JKU Linz等多个研究机构合作,采用混合的检索机制,将生成检索的计算效率与密集检索的高精度相结合,成功克服了冷启动项目处理和计算资源瓶颈等难题。

LIGER模型通过将生成检索和密集检索技术相结合,显著提高了推荐系统的效率和准确性。具体来说,LIGER在生成检索部分首先通过生成模型预测项目索引,生成候选集并计算项目的语义ID。然后,密集检索部分利用双向Transformer编码器和生成解码器精炼这些候选集,通过余弦相似度优化项目的文本表示、语义ID和位置嵌入,确保推荐质量。

这种双阶段的推理过程不仅大幅降低了计算需求,还有效保持了推荐的高精度,尤其在冷启动项目上表现突出。

根据Meta AI团队在多个基准数据集上的评估结果,LIGER的表现持续超越了现有最先进的推荐系统模型,包括TIGER和UniSRec等。例如,在Amazon Beauty数据集上,LIGER在冷启动项目的Recall@10得分为0.1008,而TIGER的得分则为0.0。在Steam数据集上,LIGER的Recall@10达到了0.0147,同样高于TIGER的0.0。这一成绩显示了LIGER在处理冷启动问题时的显著优势。

随着生成检索候选集数量的增加,LIGER与密集检索的性能差距逐渐缩小,展现了其在不同数据集和应用场景中的适应性与高效性。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字、图片等内容的真实性、完整性、及时性本站不作任何保证或承诺,请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时发送相关信息至bireading@163.com,本站将会在48小时内处理完毕。

Meta AI推出革命性LIGER模型:高效精准的混合推荐系统

2025-01-02 15:50:28 浏览量: 3528 作者: 棠糖

1月2日,Meta AI对外宣布推出一种全新的推荐系统AI模型——LIGER(LeveragIng Dense retrieval for GEnerative Retrieval),该模型巧妙地结合了密集检索和生成检索的优势,LIGER的推出,标志着推荐系统技术的一次重要突破,尤其在计算资源需求、存储需求以及冷启动项目处理方面具有显著优势。

传统的推荐系统通常依赖于密集检索(Dense retrieval),这种方法通过序列建模来计算项目和用户的表示,能够提供高精度的推荐。然而,随着数据量的增加,密集检索对于计算和存储的要求急剧上升,限制了其可扩展性。而另一种较新的方法——生成检索(Generative retrieval),虽然在存储需求方面具有优势,但由于性能问题,尤其在冷启动项目中,常常无法提供有效的推荐。

LIGER正是针对这些挑战而提出的创新性解决方案。Meta AI与威斯康星大学麦迪逊分校、ELLIS Unit、LIT AI Lab、JKU Linz等多个研究机构合作,采用混合的检索机制,将生成检索的计算效率与密集检索的高精度相结合,成功克服了冷启动项目处理和计算资源瓶颈等难题。

LIGER模型通过将生成检索和密集检索技术相结合,显著提高了推荐系统的效率和准确性。具体来说,LIGER在生成检索部分首先通过生成模型预测项目索引,生成候选集并计算项目的语义ID。然后,密集检索部分利用双向Transformer编码器和生成解码器精炼这些候选集,通过余弦相似度优化项目的文本表示、语义ID和位置嵌入,确保推荐质量。

这种双阶段的推理过程不仅大幅降低了计算需求,还有效保持了推荐的高精度,尤其在冷启动项目上表现突出。

根据Meta AI团队在多个基准数据集上的评估结果,LIGER的表现持续超越了现有最先进的推荐系统模型,包括TIGER和UniSRec等。例如,在Amazon Beauty数据集上,LIGER在冷启动项目的Recall@10得分为0.1008,而TIGER的得分则为0.0。在Steam数据集上,LIGER的Recall@10达到了0.0147,同样高于TIGER的0.0。这一成绩显示了LIGER在处理冷启动问题时的显著优势。

随着生成检索候选集数量的增加,LIGER与密集检索的性能差距逐渐缩小,展现了其在不同数据集和应用场景中的适应性与高效性。

,

Copyright ©2018 铋读网 All Rights Reserved.

京ICP备18051707号

京公网安备 11011302001633号