泄露！Apple Intelligence提示词原来是这样，还告诉大模型：别幻觉

AIGC动态5个月前发布 almosthuman2014

762 0 0

泄露！Apple Intelligence提示词原来是这样，还告诉大模型：别幻觉

文章摘要

苹果公司的Apple Intelligence AI系统的提示词最近被泄露，揭示了苹果如何指挥AI进行工作。这些提示词涵盖了邮件回复、生成“回忆”视频、短信摘要等功能，对AI的行为和输出进行了详细的规定和限制。

在邮件回复方面，AI需要根据给定的邮件和回复片段提出问题，并输出最佳问题及可能的答案选项。同时，AI还需根据回复片段起草简洁自然的回复，限制在50个字以内，不得捏造事实信息，保持邮件的语气。此外，AI还被要求在3句话内总结邮件内容，总字数不超过60个字，不得回答问题。

在生成“回忆”视频方面，AI需要根据用户的照片编出一个故事，按照指定的格式和要求输出JSON格式的回应。故事需要紧密对应用户需求，包含清晰的情节，多样化，不得涉及宗教、政治等敏感内容。

在短信摘要功能中，AI需要扮演擅长总结信息的专家角色，使用从句进行总结，输出不超过10个词的摘要，不得回答问题。

泄露的文件还显示了苹果内部代号为”ajax”的模型，这可能是苹果正在测试的”Apple GPT”。这些提示词作为JSON系统文件存在于macOS系统中的特定目录下。

尽管苹果在提示词中设置了防护措施，如要求AI”不要幻觉，不要捏造事实信息”，但仍有人担忧这些简单的提示词能否有效防止恶意攻击和错误信息的产生。沃顿商学院的管理学教授Ethan Mollick表示，仅告诉模型不要产生幻觉是不够的，Prompt injection攻击越来越普遍，苹果需要在实践中证明其AI系统的安全性和可靠性。