深色模式
对话体验
系统中预置了紫东太初系列大模型、第三方开源模型。
注意:同时在线体验的模型服务可以选择1~3个,且仅能选择同一类型(语言大模型、图像大模型)的模型体验测试,图像大模型的在线体验需上传图片后才可进行图文对话。
模型选择
在对话体验中体验模型效果,可以选择官方模型、我的模型(部署的模型服务)进行体验测试,但语言大模型、图像大模型不支持同时选择体验测试。
模型参数
当前预置服务紫东太初大模型服务支持进行temperate、top_p、repetition_penalty和系统人设的参数调整,均支持多轮对话功能。选择处于运行中的模型服务进行体验测试。最多可以选择3个服务同时测试。
temperate:模型生成过程中的温度值,数值越大,输出越随机,数据越小,输出越集中。
top_p:输出文本的多样性,数值越大,文本生成的多样性越强。
repetition_penalty:模型生成过程中的重度惩罚数值,用于减少重复生成的控制,数值越大惩罚越大。
系统人设:需要模型扮演的角色,已填写相关人设说明,如:“你是小初,是一个AI助手”。
停止问答:模型生成过程中,若对结果不满意,可直接点击“停止问答”按钮中断模型输出操作。
prompt模版
在对话体验中使用prompt模版库中的系统预置模版和用户自定义模版,点击“Prompt模版”,搜索并选择模版,修改模版参数,即&{}框住部分