前辈我想咨询一下针对角色扮演技术的问题

[Franklin-L]

前辈目前我也想做一个让模型可以成为一个特定领域的角色，并具有相应的语气，具体就是想做一个景区导游，然后可以针对不同年龄段和性别的游客回复的语气不同，也就是个性化服务，想咨询一下该如何像您这样实现这种效果呢

[Nobody-ML]

首先你可以将年龄段和性别细化，比如10-15岁，男性，等等，通过细化后的这些来搜集对应数据或者写脚本通过API造对应语气的数据，达到你想要实现的个性化效果。

[Franklin-L]

首先你可以将年龄段和性别细化，比如10-15岁，男性，等等，通过细化后的这些来搜集对应数据或者写脚本通过API造对应语气的数据，达到你想要实现的个性化效果。

是的我在看完您的工程后也是按照这个思路来做的，但是现在就是有一个疑惑就是，我们想做专属黄鹤楼的导游，那么在搜集资料或者通过API生成数据集的时候，可以先生成通用的导游对话数据让他学会语气然后再加入关于黄鹤楼的对话来让他成为黄鹤楼的专属导游吗，就是比如先搜集的对话数据可以和黄鹤楼不相干可以是其他景区的，目的就是为了让他学会针对不同年龄和性别生成不同的语气，前辈请问这种思路可行吗，还是就是搜集的资料就是模拟一些只关于黄鹤楼的对话让他学会语气呢？

[Nobody-ML]

如果你是只针对黄鹤楼的话搜集资料只关于黄鹤楼就可以了，可以加一点通用数据，最后如果要高准确回答建议加上 RAG。

[Franklin-L]

如果你是只针对黄鹤楼的话搜集资料只关于黄鹤楼就可以了，可以加一点通用数据，最后如果要高准确回答建议加上 RAG。

嗷嗷原来如此，那只针对黄鹤楼的话是不是针对单轮对话呀，我看前辈您的数据集都是单轮对话，如果想要大模型学会特定的语气是不是只要单轮对话就行了 ，而且我看您还添加了一些自我认知的数据集没有添加system，是不是自我认知的数据集可以不用加system呀

[Nobody-ML]

如果你的对话场景里有多轮对话的需求还是需要多轮对话的，比如游客想要连续询问，自我认知可以不用添加system的～

[Franklin-L]

如果你的对话场景里有多轮对话的需求还是需要多轮对话的，比如游客想要连续询问，自我认知可以不用添加system的～

嗷嗷好，前辈请问我用API帮我生成了一些对话，起初我是想通过标签的方式让大模型学会针对不同年龄和性别的不同语气，就是在user 的content里面加上提问者的性别年龄和提问的内容方面，具体如下，这样的效果有一些但是可能针对一些问题回答不是我预期的，例如我问介绍岳飞亭他会输出浙江的岳飞亭，但是我如果给的提示词比较多，请介绍黄鹤楼公园的东区景点岳飞亭，他可以输出我预期的内容。

后来参考您的项目我改用提问的方式，具体如下

不知道这俩种方式哪一个效果更好，感觉我起初的用标签的方式用的人很少
然后我在每个user的content里面都加了其对应的性别和年龄的标签，通过这样能否让大模型学会针对不同的年龄性别的不同语气呢，或者有没有其他的制作数据集方法让大模型学会这个语气呢？

[Nobody-ML]

可以尝试把标签放在 system 里面，然后基座模型可以尝试不同的，比如 internlm2，qwen1.5 指令跟随能力都比较强，关于模型幻觉的问题，这个可以通过 RAG 缓解，微调对于缓解幻觉效果不佳。

[Franklin-L]

可以尝试把标签放在 system 里面，然后基座模型可以尝试不同的，比如 internlm2，qwen1.5 指令跟随能力都比较强，关于模型幻觉的问题，这个可以通过 RAG 缓解，微调对于缓解幻觉效果不佳。

嗷嗷前辈就是因为固定要求必须要用chatglm3进行微调，所以没办法尝试其他的模型，请问这个标签放在system里面是以什么形式呀，是直接把性别年龄和问题放在system吗，那这样的话每个对话的system不就不一样了么

[Franklin-L]

可以尝试把标签放在 system 里面，然后基座模型可以尝试不同的，比如 internlm2，qwen1.5 指令跟随能力都比较强，关于模型幻觉的问题，这个可以通过 RAG 缓解，微调对于缓解幻觉效果不佳。

前辈是不是每个system不一样啊，例如针对5岁男生的system就是你是一个黄鹤楼导游，请你给一个5岁男孩回复一下他的问题，类似这种的

[Nobody-ML]

可以把性别年龄放system里，问题就是user，system可以不一样的，可以比如这样：“你是一个专业的负责黄鹤楼的导游，对于游客的问题你需要根据其不同的性别和年龄以不同的语气回答问题，要求问题回答准确并且具有针对性，现在你在对年龄为{age}，性别为{gender}的游客回答问题。”然后这两个地方可以填不同的词。

[Franklin-L]

可以把性别年龄放system里，问题就是user，system可以不一样的，可以比如这样：“你是一个专业的负责黄鹤楼的导游，对于游客的问题你需要根据其不同的性别和年龄以不同的语气回答问题，要求问题回答准确并且具有针对性，现在你在对年龄为{age}，性别为{gender}的游客回答问题。”然后这两个地方可以填不同的词。

嗷嗷这个想法好新奇，谢谢前辈，那如果像您这样设计的话，我训练完然后启动微调后的模型，用户输入的格式为性别#×年龄#×岁提问内容，比如性别#女年龄#15岁你能告诉我黄鹤楼公园的历史背景吗？，这样他能够识别到年龄性别的差距吗，或者用什么其他的方式构建用户输入的格式吗？

[Nobody-ML]

微调完成后对话，标签也可以填在system prompt呀，每一轮对话system不同，然后user就是正常的问题就可以，或者system按照你原来的格式，然后把user prompt写的格式化一些，比如：</role/>:guide ##label:{age,gender} ##question:{}，都是可以尝试的

[Franklin-L]

微调完成后对话，标签也可以填在system prompt呀，每一轮对话system不同，然后user就是正常的问题就可以，或者system按照你原来的格式，然后把user prompt写的格式化一些，比如：</role/>:guide ##label:{age,gender} ##question:{}，都是可以尝试的

微调完启动不是直接进行对话了么，还要输入system吗，不是直接一问一答了么

[Nobody-ML]

每个模型在一段对话开始前都可以设置system prompt的噢

[zemu121]

如果你是只针对黄鹤楼的话搜集资料只关于黄鹤楼就可以了，可以加一点通用数据，最后如果要高准确回答建议加上 RAG。

请问下，（1）黄鹤楼的数据和通用数据，大概占比是如何分配的（2）RAG如何发挥作用