Fastgpt本地或服务器私有化部署常见问题

一、错误排查方式

遇到问题先按下面方式排查。

  • docker ps -a 查看所有容器运行状态,检查是否全部 running,如有异常,尝试docker logs 容器名查看对应日志。
  • 容器都运行正常的,docker logs 容器名 查看报错日志
  • 带有requestId的,都是 OneAPI 提示错误,大部分都是因为模型接口报错。
  • 无法解决时,可以找找Issue,或新提 Issue,私有部署错误,务必提供详细的日志,否则很难排查。

二、通用问题

能否纯本地运行

可以。需要准备好向量模型和LLM模型。

其他模型没法进行问题分类/内容提取

  • 看日志。如果提示 JSON invalid,not support tool 之类的,说明该模型不支持工具调用或函数调用,需要设置toolChoice=false和functionCall=false,就会默认走提示词模式。目前内置提示词仅针对了商业模型API进行测试。问题分类基本可用,内容提取不太行。
  • 如果已经配置正常,并且没有错误日志,则说明可能提示词不太适合该模型,可以通过修改customCQPrompt来自定义提示词。

页面崩溃

  • 关闭翻译
  • 检查配置文件是否正常加载,如果没有正常加载会导致缺失系统信息,在某些操作下会导致空指针。
  • 95%情况是配置文件不对。会提示 xxx undefined
  • 提示URI malformed,请 Is

相关推荐

  1. Fastgpt本地服务器私有化部署常见问题

    2024-07-17 12:10:01       25 阅读
  2. 部署私有知识库项目FastGPT

    2024-07-17 12:10:01       41 阅读
  3. fastgpt本地详细部署以及配置

    2024-07-17 12:10:01       43 阅读
  4. FastGPT本地手动部署(一)mongodb和pgvector的安装

    2024-07-17 12:10:01       28 阅读
  5. 2024-03-21 AIGC-FastGPT-本地知识库问答系统

    2024-07-17 12:10:01       36 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-17 12:10:01       67 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-17 12:10:01       72 阅读
  3. 在Django里面运行非项目文件

    2024-07-17 12:10:01       58 阅读
  4. Python语言-面向对象

    2024-07-17 12:10:01       69 阅读

热门阅读

  1. 跟ChatGPT学习go语言-float64转成int

    2024-07-17 12:10:01       23 阅读
  2. Redis--布隆过滤器

    2024-07-17 12:10:01       22 阅读
  3. geometry_msgs

    2024-07-17 12:10:01       23 阅读
  4. c语言(7.15)

    2024-07-17 12:10:01       20 阅读
  5. 如何解决隐藏游戏服务器的源IP问题

    2024-07-17 12:10:01       22 阅读
  6. Python中的条件语句与三元运算符

    2024-07-17 12:10:01       25 阅读
  7. 计算机网络 VPN技术

    2024-07-17 12:10:01       20 阅读
  8. Hbase、hive以及ClickHouse的区别?

    2024-07-17 12:10:01       25 阅读
  9. electron中app.whenReady()和app.on(‘ready‘)的区别

    2024-07-17 12:10:01       22 阅读
  10. Scikit-Learn 基础教程

    2024-07-17 12:10:01       22 阅读
  11. 八部金刚功1.0.9-july 17th-冥想1.1.7

    2024-07-17 12:10:01       25 阅读