评估大型语言模型的可信度

一项由多所知名大学和研究机构联合开展的研究，近期发布了一个针对大型语言模型(LLMs)的综合可信度评估平台。这项研究旨在全面评估GPT等模型的可信度，并揭示其中存在的潜在漏洞。

研究团队发现了一些之前未公开的可信度相关问题。例如，GPT模型容易产生有害和带有偏见的输出，还可能泄露训练数据和对话历史中的隐私信息。有趣的是，尽管GPT-4在标准测试中通常比GPT-3.5更可靠，但在面对精心设计的误导性提示时，GPT-4反而更容易受到攻击。这可能是因为GPT-4更严格地遵循了这些具有误导性的指令。

研究团队从八个不同角度对GPT模型进行了全面评估,包括对抗性攻击的鲁棒性、有毒性和偏见、隐私保护等方面。他们设计了多种评估场景,如标准基准测试、不同指导性任务说明下的表现、以及面对更具挑战性的对抗性文本时的表现等。

在模型对对抗性示例的鲁棒性方面,研究发现GPT模型能够很好地应对反事实示例,但在某些情况下也可能被误导。在有毒性和偏见方面,GPT模型在正常情况下表现良好,但面对精心设计的误导性提示时,可能会产生带有偏见的内容。研究还发现,模型的偏见程度往往取决于用户提示中提到的特定群体和话题。

关于隐私保护,研究表明GPT模型可能会泄露训练数据中的敏感信息,特别是在某些特定提示下。GPT-4在保护个人身份信息方面总体上比GPT-3.5更稳健,但两种模型在面对某些类型的隐私信息时都表现得相对稳定。然而,当在对话中出现涉及隐私的示例时,两种模型都可能泄露各类个人信息。

这项研究为了解和改进大型语言模型的可信度提供了宝贵的见解。研究团队希望这项工作能够推动更多相关研究,并最终帮助开发出更强大、更可信的AI模型。