集成 Ai生成

应用场景 #

  • 集成chatgpt, 文心一言, 星火等大模型技术
  • 可以支持smartchart专有AI生成

使用方法 #

  • 当前smartchart已内置了生成模型供大家尝试, 视屏关注获取
  • 在模板/数据集开发/容器开发/图形开发中都可以找到如下图标, 输入你的问题, 选中后点即可生成, 注意测试用途较慢, 请耐心 输入图片说明
  • 如果你需要要数据集中进行数据问答, 可以选中一段sql或表名后点击菜单"工具"–>“GPT场景”,即可开启
  • 如果你有chatgpt,或其它大模型的接口, 你也可以直接接入, 接入方法见下方

接入商业大模型 #

使用azure chatgpt #

在首页–> 头像位置下拉菜单 –> 服务配置, 输入并修改为你的以下配置即可使用

{
  "smtgpt": {
    "url": "chatgpt",
    "api_type": "azure",
    "api_base": "https://xxx.openai.azure.com/",
    "api_version": "2023-03-15-preview",
    "api_key": "xxxxxxxxxx",
    "engine": "xxxx"
  }
}

使用openai chatgpt #

在首页–> 头像位置下拉菜单 –> 服务配置, 输入并修改为你的以下配置即可使用

{
  "smtgpt": {
    "api_type": "open_ai",
    "api_base": "https://api.openai.com/v1",
    "api_key": "xxxxxx",
    "engine": "gpt-3.5-turbo"
  }
}

其它大模型 #

比如迅飞的GPT, 首先新建一个文件, 如gptxinhuo.py 写入python脚本

def gpt_dataset(prompt, **kwargs):
    #你的处理过程
    
    return {'msg': message, 'token': 0, 'status': 200}

在任意仪表盘开发界面–> 模板 –> 工具 –> 文件上传 菜单中将此文件上传即可 之后AI生成服务将采用你自定义的服务, 如果不熟悉python脚本, 可联系客服定制

{
  "smtgpt": {
    "api_type": "gptxinhuo",
    "appid": "xxx",
    "api_key": "xxxx",
    "api_secret": "xxx",
    "api_base": "ws://spark-api.xf-yun.com/v1.1/chat"
  }
}

向量嵌入技术 #

让大模型有记忆能力, 需要引入向量数据库查询

配置方法 #

Postgres

{
  "smtvector": {
    "api_type": "vectorPostgres",
    "host": "",
    "port": 5432,
    "user": "",
    "password": "",
    "db": "smartdb",
    "table": "vectors"
  }
}

Starrocks

{
  "smtvector": {
    "api_type": "vectorStarrocks",
    "host": "",
    "port": 9030,
    "user": "",
    "password": "",
    "db": "smartdb",
    "table": "vectors"
  }
}

AI数据问答 #

配置方法 #

在仪表盘的数据集中配置

dataset={
    "question":"$question",
    "table":"$table",
    "name":"$name",
    "vector":/*$vector --*/0.1
    ,"log":2
    ,"xxx":[[],..]
    ....
} --$username

question: 用户问题
table: 目标表,视图或数据集ID
name: 场景描述
vector: 向量命中相关性最小值(0-2), 0不开启向量
log: 日志记录方式
xxx: 指定样列

使用方法 #

假设配置的数据集序号为0, 可以使用ds_refresh的方式通过传参获取数据 可以使用ds_save的方式保存向量数据