深色模式
参数说明
1. 语言大模型 Taichu-2.0
接口请求
传输方式 | https |
---|---|
请求地址 | https://ai-maas.wair.ac.cn/maas/v1/chat/completions |
调用方式 | 同步调用,等待模型执行完成并返回最终结果或 SSE 调用 |
字符编码 | UTF-8 |
接口请求格式 | JSON |
响应格式 | JSON 或标准 Stream Event |
接口请求类型 | POST |
开发语言 | 任意可发起 HTTP 请求的开发语言 |
接口请求参数
Header 参数说明
字段 | 类型 | 必选 | 描述 | 示例值 |
---|---|---|---|---|
Content-Type | string | 是 | 请求类型 | application/json |
Authorization | string | 是 | API Key,格式为 Bearer $ | Bearer ayvs***vufp |
Body 参数说明
参数名称 | 类型 | 是否必填 | 参数说明 |
---|---|---|---|
model | string | 是 | 所要调用的模型编码,模型可选模型 taichu_llm |
messages | list | 是 | 一个由历史消息组成的列表,详细说明,参照 messages 信息说明 |
stream | bool | 否 | 使用同步调用时,此参数应当设置为 fasle。表示模型生成完所有内容后一次性返回所有内容。如果设置为 true,模型将通过标准 Event Stream ,逐块返回模型生成内容。Event Stream 结束时会返回一条data: [DONE]消息。默认值为 true |
temperature | float | 否 | 生成过程中的温度值,取值范围[0.01,1.00] 闭区间,默认值为 0.8,调节最小细粒度为0.01 |
top_p | float | 否 | 生成过程中的token几率阈值取值范围是:(0.0, 1.0) 开区间,默认值为 0.9,调节最小细粒度为0.1 |
max_tokens | int | 否 | 模型输出最大 tokens,最大输出为8192,默认值为3000 |
tools | list | 否 | 可供模型调用的工具。详细说明,参照 tools参数说明 |
tool_choice | string | 否 | 用于控制模型是如何选择要调用的函数,仅当工具类型为function时补充。默认为auto,当前仅支持auto |
messages参数说明
参数名称 | 类型 | 是否必填 | 说明 |
---|---|---|---|
role | string | 是 | system:系统,user:用户,assistant:模型,tool:工具调用 |
content | string | 是 | role=system 时为系统提示信息,role=user 时为用户输入信息,role=assistant 时为模型返回信息,role=tool 时为工具调用返回信息 |
tools参数说明
参数名称 | 子参数名称 | 类型 | 是否必须 | 说明 |
---|---|---|---|---|
type | string | 是 | 工具类型,目前支持function 、retrieval | |
function | object | 否 | function工具,仅当工具类型为function 时补充 | |
name | string | 是 | 函数名称 | |
description | string | 是 | 函数描述,模型会根据这段描述决定函数调用方式。 | |
parameters | object | 是 | 需要传入一个 Json Schema 对象,以准确地定义函数所接受的参数。若调用函数时不需要传入参数,省略该参数即可。 | |
retrieval | object | 否 | 知识库搜索,仅当工具类型为retrieval 时补充 | |
knowledge_ids | array | 是 | 知识库id(可通过 文档管理->知识库管理->相关信息 获取) | |
document_id | int | 否 | 知识库下对应的文档id,若为空,针对整个知识库问答(可通过 文档管理->我的文档->相关信息 获取) | |
document_name | string | 否 | 知识库下对应的文档名称,可通过 文档管理->我的文档->相关信息 获取) | |
remove_corner_mark | bool | 否 | 为true的时候能去除答案的引用角标,默认值为false | |
tips_text | string | 否 | 知识库问答未命中时的固定描述,当不传无固定描述,默认值为"抱歉,我的知识库中未检索到相关信息。请换个问题或参考小初的回答:"。 | |
backup_chat | bool | 否 | 知识库问答未命中时,是否启用大语言模型兜底回答,默认开启,默认值为true |
返回参数说明
参数名称 | 子参数名称 | 类型 | 说明 |
---|---|---|---|
id | string | 本次请求唯一标识 | |
model | string | 本次使用的模型名称 | |
choices | list | ||
messages | object | 同步响应时,返回该字段,详细说明见 messages 和 delta 参数说明 | |
delta | object | 流式响应时,返回该字段,详细说明见 messages 和 delta 参数说明 | |
finish_reason | string | stop: 表示模型输出结束length: 表示模型输出长度达到max_tokens tool_calls: 表示模型命中函数 content_filter: 表示模型输出被安全审核拦截,针对此类内容,请用户自行判断并决定是否撤回已公开的内容。 | |
usage | object | token使用数量 | |
completion_tokens | int | 内容生成的 tokens 数量 | |
prompt_tokens | int | prompt 使用的 tokens 数量 | |
total_tokens | int | 总 tokens 用量 |
messages 和 delta 参数说明
2.多模态大模型 Taichu-2.0V
接口请求
传输方式 | https |
---|---|
请求地址 | https://ai-maas.wair.ac.cn/maas/v1/model_api/invoke |
调用方式 | 同步调用,等待模型执行完成并返回最终结果 |
字符编码 | UTF-8 |
接口请求格式 | JSON |
响应格式 | JSON |
接口请求类型 | POST |
开发语言 | 任意可发起 HTTP 请求的开发语言 |
请求参数说明
参数名称 | 类型 | 是否必填 | 说明 |
---|---|---|---|
api_key | string | 是 | apikey管理页面获取 |
model_code | string | 是 | 模型code,此处为taichu_vqa |
question | string | 是 | 用户输入信息 |
picture | string | 是 | 图片base64编码 |
context | string | 否 | 上下文信息,首次请求不需要带,后续请求使用接口返回的context值,当picture发生变化时,context需要重置为空 |
temperature | float | 否 | 生成过程中的温度值,取值范围[0.01,1.00] 闭区间,默认值为 1.0,调节最小细粒度为0.01 |
top_p | float | 否 | 生成过程中的token几率阈值取值范围是:(0.0, 1.0) 开区间,默认值为 0.9,调节最小细粒度为0.1 |
repetition_penalty | float | 否 | 生成过程中的惩罚值取值范围是:(1.0, 2.0) 开区间,默认值为 1.0,调节最小细粒度为0.1 |
请求参数示例
{
"picture":"base64编码",
"question":"你好",
"model_code": "taichu_vqa",
"api_key":"xxx"
}
返回参数说明
参数名称 | 二级参数名称 | 类型 | 说明 |
---|---|---|---|
code | int | 错误码,非0异常 | |
msg | string | 错误信息 | |
data | object | ||
content | string | 返回的文本内容 | |
context | string | 问答上下文,后续请求使用该值带入参数 |
返回数据示例
{
"code": 0,
"msg": "OK",
"data": {
"content": "你好!我是小初,你有什么需要我帮忙的吗?",
"context":""
}
}