文档中心

深色模式

目录

工具指南 ​

工具与知识库使用 ​

tools 参数说明 ​

参数名称类型是否必须说明
retrievalobject否知识库搜索，仅当工具类型为retrieval时补充
knowledge_idslist(int)是知识库（可通过 文档管理->知识库管理->相关信息 获取）
remove_corner_markbool否为 true 时能够去除答案的引用标，默认值为 false
tips_textstring否知识库问答末中的固定描述，当传无固定描述时，默认为“抱歉，我的知识库中未检索到相关信息。请换个问题或参考小初的回答”。 【只在严谨模式生效】
backup_chatbool否知识库问答末中的时，是否启用大语言模型兜底回复，默认值为true。 【只在严谨模式生效】
chat_modeint否问答模式 1 为发散模式 2 为严谨模式 默认认为发散模式。发散模式包含文档外模型知识，严谨模式会拒答文档以外的知识。
text_thresholdfloat否相似度阈值
问答模式 1 为发散模式 2 为严谨模式 默认认为发散模式。发散模式包含文档外模型知识，严谨模式会拒答文档以外的知识。

curl 请求示例-知识库问答 ​

json
curl --location --request POST 'https://platform.wair.ac.cn/maas/v1/chat/completions' \
--header 'Authorization: Bearer $API_KEY' \
--header 'Content-Type: application/json' \
--data-raw '{
    "messages": [{
        "content": "Claude 3 模型系列在哪些方面进行了改进？",
        "role": "user"
    }],
    "model": "taichu_llm",
    "tools": [{
        "type": "retrieval",
        "retrieval": {
            "knowledge_ids": [90862],
            "backup_chat": true
        }
    }],
    "stream": true,
    "temperature": 0.4
}'

需在知识库管理界面创建知识库并手动获取对应知识库 ID

descript

单/多轮对话 ​

单轮对话 ​

使用 Curl 进行交互的代码如下：

json
curl --location 'https://platform.wair.ac.cn/maas/v1/chat/completions' \
--header 'Authorization: Bearer $API_KEY' \
--header 'Content-Type: application/json' \
--data '{
  "model": "taichu_llm",
  "messages": [
     {
            "role": "system",
            "content": "你是紫东太初，也叫小初，你是由武汉人工智能研究院和中国科学院自动化研究所联合研发的千亿参数多模态大模型。\n"
      },
      {
          "role": "user",
          "content": "你好，请帮我写一首庆祝国庆的诗歌。"
      }
  ],
  "stream": false
}'

其中$API_KEY 需要替换为您在平台上创建的 API Key。

注意 system_prompt 只有在更改人物设定时需要修改，其余时候无需修改，也可不传。

多轮对话 ​

在上述的单次交流示例中，语言模型接收用户的一系列信息作为输入，并输出模型生成的回复。在某些情况下，我们可以将模型的输出结果再次纳入输入内容中，以便进行连续的对话交流。下面是一组简单的实现多轮对话的例子：

json
curl --location 'https://platform.wair.ac.cn/maas/v1/chat/completions' \
--header 'Authorization: Bearer $API_KEY' \
--header 'Content-Type: application/json' \
--data '{
  "model": "taichu_llm",
  "messages": [
      {
            "role": "system",
            "content": "你是紫东太初，也叫小初，你是由武汉人工智能研究院和中国科学院自动化研究所联合研发的千亿参数多模态大模型。\n"
        },
        {
            "role": "user",
            "content": "地球自转周期多少？"
        },
        {
            "role": "assistant",
            "content": "地球自转的周期是大约24小时，也就是一天的时间。具体来说，地球自转一周所需的时间是23小时56分4秒，这个时间被称为一个恒星日。而我们通常所说的一天24小时，是指太阳日，即从日出到日出的时间。这两个时间的微小差异是因为地球在自转的同时，还在围绕太阳公转，公转的速度会影响我们观测到的太阳日长度。"
        },
        {
            "role": "user",
            "content": "月球呢？"
        }
  ],
  "stream": false
}'

多轮对话需要按照“user”、“assistant”的交替方式输入。

注意 system_prompt 只有在更改人物设定时需要修改，其余时候无需修改，也可不传。

值得注意的是，随着对话的深入，每次输入给模型的词汇量（token）会逐渐增多。为了应对这种情况，有时需要采取一些优化措施，比如仅保留对话中最近的几轮信息。

Copyright © 2023 武汉人工智能研究院(WAIR) - 鄂ICP备2023001813号