【文献阅读分享】PAP-REC：个性化自动提示生成框架✨

标题	期刊	年份
PAP-REC: Personalized Automatic Prompt for Recommendation Language Model	ACM Transactions on Information Systems (TOIS)	2024

📈 研究背景

在信息爆炸的时代，我们每天都要面对海量的数据和选择，这时候推荐系统就像我们的智能小助手，帮助我们在茫茫信息海洋中找到真正需要的资源。但是，传统的推荐系统模型大多针对单一任务进行设计和训练，效率较低。而近年来，推荐语言模型（RLM）的出现改变了这一局面，它们通过将推荐任务转化为语言理解或生成问题，利用预训练语言模型的强大知识来解决多种推荐任务，无需额外参数学习或网络训练。不过，RLM依赖于手工设计的提示，这不仅耗费大量人力，还难以达到最优效果。基于此，PAP-REC框架应运而生，旨在自动生成个性化提示，提升推荐性能！

🛠️ 相关工作

在推荐系统领域，从早期的矩阵分解、梯度提升决策树，到各种深度神经网络，模型的设计和训练大多是针对特定任务独立进行的。而RLM的出现打破了这一传统模式，它通过将推荐任务转化为语言任务，利用预训练语言模型的强大能力来解决多种推荐任务。例如，P5和M6-Rec等模型已经在多种推荐任务中取得了显著的性能提升。然而，这些模型大多依赖于手工设计的提示，这不仅需要大量专业知识，还可能导致性能不稳定。因此，如何自动生成有效的提示成为了研究的热点问题。

🎯 方法介绍

PAP-REC框架的核心是自动生成个性化提示。它通过梯度方法来优化提示中的触发词，从而提高推荐性能。具体来说，PAP-REC将提示分为两部分：任务特定的触发词和用户特定的触发词。任务特定的触发词用于指导模型理解推荐任务的类型，而用户特定的触发词则用于捕捉用户的个性化偏好。通过这种方式，PAP-REC能够为不同的用户生成不同的提示，从而实现个性化推荐。具体有一下三个点

• 基于梯度的提示搜索：PAP-REC框架的核心是利用基于梯度的方法自动生成个性化提示。具体来说，它通过计算提示中每个位置的梯度，选择能够最大化目标值生成概率的词汇作为提示的一部分。

• 替代更新计划：为了应对个性化提示带来的庞大搜索空间，PAP-REC开发了一种替代更新计划。这种方法通过迭代和交替的方式更新提示中的词汇，从而在保证个性化的同时，有效减少了搜索空间。

• 替代指标：由于推荐系统通常关注top-k结果，而不仅仅是单一的最佳结果，PAP-REC设计了替代指标来评估提示的效果。这些指标能够更好地反映推荐系统在实际应用中的性能。

🌟 创新点

• 个性化提示生成：PAP-REC能够为不同的用户生成不同的提示，这在推荐系统中是非常重要的，因为每个用户的需求和偏好都是独特的。

• 高效的提示搜索算法：PAP-REC采用了基于梯度的提示搜索算法，能够快速找到最优的提示词，大大提高了提示生成的效率。

• 替代评估指标：由于推荐任务通常关注的是top-k结果，而不是单一的最佳结果，PAP-REC提出了替代评估指标来更好地评估提示的效果。

🧪 实验

实验部分，作者在三个真实世界的数据集上进行了测试，包括Beauty、Sports和Toys。实验结果显示，PAP-REC生成的提示在多个推荐任务上都取得了显著的性能提升。例如，在Beauty数据集上，PAP-REC生成的个性化提示在HR@5和NDCG@5指标上分别达到了0.0559和0.0414，显著优于手工设计的提示。