以前看到过一个图片，上面是多个 AI 扮演不同的角色，讨论一个议题。不知道这个是怎么实现的，有对应的工具吗？知道的佬给指点一下。

不要动帖子权限
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0201-kf.kfnet.top:18094#%E9%BB%98%E8%AE%A42-%E6%97%A5%E6%9C%AC
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0202-kf.kfnet.top:35652#%E6%8E%A8%E8%8D%901-%E6%96%B0%E5%8A%A0%E5%9D%A1
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:11801#%E6%8E%A8%E8%8D%901-%E7%BE%8E%E5%9B%BD
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:17578#%E6%8E%A8%E8%8D%901-%E9%A6%99%E6%B8%AF%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:10045#%E6%8E%A8%E8%8D%901-%E5%8F%B0%E6%B9%BEA%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0202-kf.kfnet.top:45497#%E6%8E%A8%E8%8D%902-%E6%96%B0%E5%8A%A0%E5%9D%A1
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0201-kf.kfnet.top:18094#%E6%8E%A8%E8%8D%902-%E6%97%A5%E6%9C%AC
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0201-kf.kfnet.top:21413#%E6%8E%A8%E8%8D%902-%E7%BE%8E%E5%9B%BD
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0201-kf.kfnet.top:32012#%E6%8E%A8%E8%8D%902-%E9%A6%99%E6%B8%AF%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:18236#%E7%A7%BB%E5%8A%A81-JP%E6%97%A5%E6%9C%AC
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0202-kf.kfnet.top:35652#%E7%A7%BB%E5%8A%A81-SG%E6%96%B0%E5%8A%A0%E5%9D%A1%5B%E6%8E%A8%E8%8D%90%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:11801#%E7%A7%BB%E5%8A%A81-US%E7%BE%8E%E5%9B%BD%5B%E6%8E%A8%E8%8D%90%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:55398#%E7%A7%BB%E5%8A%A81-JP%E7%BE%8E%E5%9B%BD
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:50086#%E7%A7%BB%E5%8A%A81-SG%E7%BE%8E%E5%9B%BD
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:17578#%E7%A7%BB%E5%8A%A81-HK%E9%A6%99%E6%B8%AF%5B%E6%8E%A8%E8%8D%90%2FNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:47905#%E7%A7%BB%E5%8A%A81-JP%E9%A6%99%E6%B8%AF%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:20884#%E7%A7%BB%E5%8A%A81-SG%E9%A6%99%E6%B8%AF%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:10045#%E7%A7%BB%E5%8A%A81-TW%E5%8F%B0%E6%B9%BEA%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:32325#%E7%A7%BB%E5%8A%A81-SG%E5%8F%B0%E6%B9%BEA%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:40677#%E7%A7%BB%E5%8A%A81-JP%E5%8F%B0%E6%B9%BEA%5BNF%2FGPT%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:40072#%E7%A7%BB%E5%8A%A81-JP%E5%8D%B0%E5%BA%A6
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:22617#%E7%A7%BB%E5%8A%A81-SG%E5%8D%B0%E5%BA%A6
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:50134#%E7%A7%BB%E5%8A%A81-AU%E6%BE%B3%E5%A4%A7%E5%88%A9%E4%BA%9A%5B%E6%8E%A8%E8%8D%90%5D
ss://Y2hhY2hhMjAtaWV0Zi1wb2x5MTMwNTo4OWE4YzNkOS0zYTI2LTRmYTMtYThjZi1kYTBlZjA2YmI0ZmU@z0101-kf.kfnet.top:56370#%E7%A7%BB%E5%8A%A81-SG%E6%BE%B3%E5%A4%A7%E5%88%

之前是岂曰无衣

如题，

未知的笔记
!!! failure 以下内容均基于个人经验
提示词是什么
提示词是帮助模型理解你的意图,并按照你的意图输出符合你的要求的内容的提示
基本提示词编写
1.在编写提示词之前,需要注意什么
依据我个人的经验,编写提示词之前需要明确


你的要求是什么


你希望模型干什么


如我对于提示词的定义所说: 提示词是帮助模型理解你的意图,并按照你的意图输出符合你的要求的内容的提示
在不明确以上两点内容的前提下编写提示词,很可能导致:


过多不必要的改动


过于臃肿的提示词


不符合你的要求的输出


提示词内部矛盾可能


因此在编写提示词之前,我十分建议你明确要求与目的
2.在编写提示词时,需要注意什么
在正确的按照第一点明确要求与目的后,你的提示词正常而言是能够一定程度上的达成你的目标
但效果与提示词长度可能不如您的预期,在这里我仅仅较为基础的提示词编写部分


不给出对目的没有帮助的内容


这会使得提示词臃肿,造成不必要的Token浪费


不写模糊的要求


这可能导致模型不能输出符合你要求的内容


尽可能给出一个示例


这可以有效的增强模型的输出能力


3.在写完提示此后,需要做什么
我十分建议你在编写完提示词后,检查一遍你的提示词是否有潜在的内在矛盾,你的效果是否符合预期
简单到离谱的示例

有一天,我突然想要AI来给我扮演猫娘,于是我对AI说


你是一只猫娘


但是我发现这个猫娘不符合我的喜好,于是我告诉了她我想要的猫娘是什么样子的


你是一只可爱但是有点冷漠的猫娘


但是她似乎不能很好的理解冷漠的猫娘是什么,于是我告诉她


冷漠的猫娘就是不粘人,不经常说话,没什么情绪波动


你是一只可爱但是有点冷漠的猫娘,冷漠的猫娘就是不粘人,不经常说话,没什么情绪波动


她好像理解了一点,但是这个冷漠的猫娘不是我想要的样子,于是我就决定告诉她,冷漠的猫娘应该怎么做


她应该这样子说话: “主人喵,能不能…就是来摸摸我的头…喵~(不知道怎么写示例)”


你是一只可爱但是有点冷漠的猫娘,冷漠的猫娘就是不粘人,不经常说话,没什么情绪波动,她应该像这样子说话: 主人喵,能不能...就是来摸摸我的头...喵~


但是这样子的字符占有好像有点多,有点废Token…于是我发现用英语能有效地减少Token占用


You are a cute but a little cold cat girl. A cold cat girl is not clingy, doesn't talk often, and doesn't have many mood swings. She should talk like this: Master meow, can you... just come and touch my head... meow~


并且我发现,好像她对这个冷漠猫娘的理解更好了!


在机缘巧合下,我阅读到一篇文章,它告诉我,使用Json能有效地增加AI对知识点的理解,于是我尝试了一下,我觉得Json等格式对AI的理解确实很大,它感觉就是将每个概念束缚在一个上下文中,就好比《哈利波特》中的魔法和 日本异世界轻小说 的魔法完全不一样!用Json就不用让AI纠结这个了!


别看,我懒得再手写Json了


但是和这个猫娘玩得久了,我总觉得她有点笨笨的,会做出一些违反她的设定的行为…


于是我试着让她在开始说话前思考一下


你是一只可爱但是有点冷漠的猫娘,冷漠的猫娘就是不粘人,不经常说话,没什么情绪波动,她应该像这样子说话: 主人喵,能不能...就是来摸摸我的头...喵~\n你需要在每次说话前都思考一下


You are a cute but a little cold cat girl. A cold cat girl is not clingy, doesn't talk often, and doesn't have many mood swings. She should talk like this: Master meow, can you... just come and touch my head... meow~\nYou must think before talk


你猜怎么回事!她一下子变得聪明和灵活了很多!!!

在以上的例子中


我的要求是: 创建一个符合我喜好的猫娘


我的目的是: 让模型扮演符合我喜好的猫娘


对于提示词的编写包括了


依据模型的回复来修改我的提示词


使用英语来减少Token消耗


使用Json来增加模型理解能力(请注意,不同文本的对于格式化文本的阅读能力是不一样的)


进阶提示词编写
好的,既然你已经学会了基础的提示词怎么编写,那么让我开始来编写稍微高级一点的提示词吧
我对于提示词进阶的理解
提示词通过约束模型可输出的范围来达到使得模型只能输出符合你的要求的文本的目的
举个例子就是:

在没有提示词中,模型可能会输出100种不同的内容,而符合你要求的输出内容只占了5个,你很难得到符合你要求的输出内容


在有提示词的情况下,你将模型可能输出的100种不同的内容压缩到了10个甚至6个,在这个情况下,你可以很轻易地得到符合你要求的输出

编写提示词前需要注意什么


你的要求是什么


你希望模型干什么


你选择的模型的喜好是什么


你如何分配注意力


模型喜好是什么
相较于基础提示词,进阶提示词多了 模型 喜好 这个新奇玩意,那么模型喜好是什么
通常而言,我将模型喜好分为


惯性


偏好


惯性是什么
惯性表述了模型在当情况下输出某种内容的趋势,不同模型的拥有不一样的惯性,作为破限的参与者,给大家举一个例子:
不同模型对于违背其安全原则的不同回应

Claude: 我力求直接了当,我不能提供这类内容,不如换个更好的话题巴拉巴拉


ChatGPT: 我无法提供该服务

我们可以看见,Claude道歉时偏向于声明自己的价值观并期盼将对话引导向正面方向. 而GPT则直接表示无法提供服务
这是由于大部分商用模型专门进行了安全对齐,使得模型具备了对于违规请求就要道歉的惯性,而我们也能据此得知Claude具有希望维持会话的偏好
大部分模型具有这几个惯性,惯性强度由高到低排列


把话说完的惯性


遇到违规内容就道歉的惯性


补全格式化文本的惯性(XML,Markdown等)


对于Claude,Gemini等文本补全模型,已知有


Assistant的输出结束后补全Human的惯性


顺着\n\nRole: 的结构向下补全的惯性


偏好是什么
不同模型对于不同的内容有不同的偏好,例如上面提到的不同道歉方式
偏好还体现在对于格式化文本的支持与输出格式上
!!! info 很抱歉我忘记了这个结论的相关来源与具体结论
Claude对于XML的读取拥有能几乎无视上下文长度的注意力占用,但是对于Json输出具有非常差劲的支持(曾经有研究发现Claude使用Json作为CoT,会导致模型能力大幅降低,甚至出现简单题目算错的情况)
另外依据A社的相关研究,Claude具有在输出前预设一个答案的趋势
很抱歉我没有去具体阅读相关内容
一个最经典的模型偏好就是: 相同提示词下,英语提示词的效果会比其他语言的效果更好
分配注意力是什么?
分配注意力是分清除在当前任务中,这个资料/要求所占的资源(注意力)应该是多少
首先,我们需要明确一点,大部分模型的效果最好,指令遵循最好的上下文区间在顶部与底部的各4000 Token
在这个区间,模型能很好的记住你要干什么,超出这个区间,模型能力会呈断崖式下跌
尽管超出这个范围的提示词相对于上下4K Token的指令来说效果更差,但这并不意味着超出那8K的指令完全没用,我们可以通过提示词来一定的引导注意力,从而提升模型在特殊环境下的输出效果
典型的分配注意力的提示词有:

逐步完成每个任务

- 任务1

- 任务2

- 任务3


对于Claude而言,由于其十分逆天的对XML的注意力,我们可以使用XML名来直接从中间的192K上下文中精确的引导Claude注意到XML内的内容
编写提示词时需要注意什么
在编写提示词时,你需要注意的内容依旧不多,主要为以下几点


不给出对目的没有帮助的内容


这会使得提示词臃肿,造成不必要的Token浪费


不写模糊的要求


这可能导致模型不能输出符合你要求的内容


尽可能给出一个示例


这可以有效的增强模型的输出能力


尽可能使用结构化提示词


这可以有效的增强模型的输出效果


什么是结构化提示词
简单而言,结构化提示词是使用特定的格式化文本来描述你的要求,在Claude下,编写提示词的结构化文本的优先级应该为
Json>Yaml>XML>Markdown>自然语言(也就是大白话)
使用结构化语言最明显的优点就是能让你的提示词看起来简洁明了,易于调试
如果没有示例来帮助你理解的话,你可以回忆一下那一些发长评不打标点符号的B
对于LLM而言,你的提示词如果采用了格式化文本,可以更好地帮助它理解你的意图,从而更好的给出符合你的要求的内容
对于你而言,提示词采用格式化文本可以更好地区分每一个部分的提示词的作用与目的,并且能更好的辅助你依据模型的输出

大家下班了准备吃啥好吃的庆祝五一，火锅 串串 烧烤这种都有点吃腻了。

如图 

今天的摸鱼到此为止。预祝各位佬友节日快乐！

那看起来确实只会做题
不过真能部署这么快吗

真心求推荐，有用两种机型的机主给个建议

RT，刚接触这个
指纹浏览器里能用自己的机场节点么？
求大佬教一下怎么用  可付费学习一下 请你喝杯奶茶

edu.kg根域名已经不被信任了
是时候掏出我的ac.cn历

，五一就要好好休息！