PlanCoach 的 Context

LLM（大语言模型）是一位房间中的智者，但除了你提供给它的 context 之外，它对你一无所知。

PlanCoach是一款基于大模型的App，我们设计了多种context机制来让大模型更好的了解你，服务你，帮助你。

PlanCoach有诸多Context的设计巧思。
本篇文章介绍PlanCoach的整个context体系设计，从系统角度介绍其原理，相信理解原理后你会更愿意，也能够更好的使用它。

本篇文章偏硬核，如果没跟上请不要沮丧。 PlanCoach只需要用好“基础”档就已经上手了，可以解决大部分问题，只是个人喜欢为高级玩家提供更广阔的自由度。

“进阶”和“高级”档是为这部分像我一样喜欢探索、爱折腾的同学准备，但没有掌握也不影响日常使用。

当你某天突然感觉 “哎？要是有个什么什么功能就好了” 时，可以来看下是不是已经包含在中高级技巧里。

基础：任务提示词

任务提示词是你在首页输入的待拆解任务，会作为主提示词提供给大模型。

任务提示词技巧

核心观念：所有基于LLM的应用，不管界面多么花哨，LLM看到的都是token。

你可以在这里其实你可以写任意的对教练的要求，比如拆解字数长短，步骤多少等。
比如你可以试试在这里要求“提供的步骤不超过5个” “每个步骤结尾要包含一两个❤️”等奇葩要求试试看。
毕竟…… why not？

基础：个人画像

一开始的PlanCoach只有任务提示词，很快有位叫@Abby的同学反馈能否把跨任务重复的个人信息提炼成“个人画像”，这样每次教练都能看到。
PlanCoach采纳了这个建议，事实证明这个功能极大提升了App对使用者的帮助。因为它解决了一个大问题：当大模型不了解你的时候它就无法准确的戳中你。

后来我们基于大家的反馈一路优化个人画像功能，比如提供“个人画像填写助手”，“杂货铺|个人画像扩展包”等，但最核心的是：
个人画像是你相对不变的部分，可以在每次执行任务的时候被教练看到，参考，从而针对性的提出最适合你的方案。

基础: 教练

在Agent领域有个叫“Skill”的概念现在越来越普及：

Skill的核心可以理解为Agent的“技能包”。

每个技能包教它完成一种具体任务，包括该用什么工具、按什么步骤做、需要遵守什么规则。Agent 装的 Skill 越多，能独立完成的事情就越多。

在概念上，PlanCoach的每个“教练”其实就是一门Skill的人格化设计。

PlanCoach自带4个教练，也可以下载很多教练，让PlanCoach可以从不同的专业角度帮助你。

教练的本质

如同前面所讲的，“不管界面多么花哨，LLM看到的都是token。”，Skill也好，教练也好，对大模型而言只是一段Token。
举例而言，大模型的世界知识库里包括了人类所有的菜谱，也包含了人类记载的所有谈判技巧。

但具象化为一个“谈判教练”后，引导大模型的一段token是：

“用户现在遇到了沟通难题，我要充分利用我知识库里的谈判技巧（而不是菜谱），来帮助用户演练谈判中可能会遇到的情况，每个步骤要对应一个情况。”

当你在PlanCoach中选择了谈判教练，这段行为描述会自动约束和引导大模型，从而得到符合期望的输出，最终成为了PlanCoach界面中的一个个谈判模拟步骤。

“教练”的设计凝聚了我们很多心思和精力，也成为了PlanCoach一个广受欢迎的设计。
我们围绕它花了非常多的时间做了很多开发，比如自捏教练，教练接头暗号等。
本文章的后续部分也会覆盖到一部分。

基础：记忆（抢先版）

记忆很好理解：它是你曾经和教练共同度过的事情。

小知识

• 每个教练只知道他/她和你一起共处的部分，不同教练之间的记忆是隔离的。
• PlanCoach目前的记忆机制还很简单，它并不能记住你说的每一句话。随着时间流失，早期的事情教练也会淡忘。
• 如果是需要长期的、确定的记住的事情，请写到“个人画像”或者是后面的“教练调校”。

进阶：世界书

世界书（Lorebook）的机制借鉴了酒馆（SillyTarven）的context管理机制，它让你的教练既能知道你所提的专属词条，又不会心智负担过重而注意力分散。

你可以把世界书理解成一本你提供给教练的小词典，里面每个词条（lore）是类似：

• 练背：“先热身，引体向上3组，俯身划船3组，然后拉伸。要带水壶和钥匙。”
• 周六上午日程: “8点30起床，早餐，去健身房练背，复习英语”

当你在任务提示词里提到词典中的一个词条时，教练能查到词条的具体内容。
没有提及就不在教练的视野里。
这样如果你的生活中有10000个词条，如果使用任务提示词或者个人画像一次性塞给教练，教练会出现注意力分散而忽略重点。但提到哪条让教练看哪条就不会有这个问题了。

技巧

• 世界书是可以嵌套的。
  在前面举的例子里，周六上午日程包含了练背，当你跟教练说你要进行周六上午日程时，教练也知道你去练背时需要“带水壶和钥匙”。
• 世界书词条不止可以是名词，也可以是方法论，长期计划。
  比如[给我画饼],驾照学习

进阶：教练调校

随着“教练”机制被大家广泛使用，有一个问题变得越来越尴尬：

你拥有“大臣”和“Miss S”，你希望大臣叫你叫“武则天”，于是你在个人画像里写道：“我是你的女皇，武则天”。一切都很完美，除了职场白领Miss S也受到了影响称呼你武则天。

解决方法是每个教练可以拥有隔离有关你的个人画像。针对不同的教练展现不同的部分。

高级：自定义教练

基础: 教练 可以切换现有教练，而通过 Coach Maker App，你可以完完全全自己捏一个教练出来。

点击这里查看详细。

进阶：教练级别世界书

前面介绍了世界书，介绍了教练，什么是教练级别世界书？

顾名思义，它是随着教练被下载和使用，专属于教练的世界书。

一些常见的使用场景：

• 创作一个“班长”教练：把课程表做成世界书，这样以后任务提示词里可以直接“安排周五业余时间学习计划”。周五会命中“班长”自带的世界书，展开成周五当天的课程表，然后结合课程表和空余时间、你的个人画像给你安排合理的业余学习计划。
• 把你的偶像蒸馏成教练：把TA的100条名言录制为世界书，并勾选总是激活，并让教练把名言使用在开场词中。这样每次开场词都会随机选择一条名言。

公式

最终LLM看到的 = 记忆 + 任务提示词 + 个人画像 + (教练 + 教练调校) x1 + (教练级别世界书 + App内世界书) x N