【大模型】基于大模型聊天websocket断掉重连的问题

业务场景:

基于大模型聊天场景下,页面一般与服务端是通过websocket建立的连接,服务端再与大模型建立连接。
由于网络不稳定的情况下,页面与服务端的websocket会容易发生请求中断,有时候服务端在往页面推送消息的时候,只是展示了一半就终止了。

问题分析:

通过上述的业务场景描述,网络稳定性不一定好控制,但是问题核心在于websocket断掉了,
那么断掉就要重连,并且还有接上之前的输出,这种情况又该如何处理呢?

解决方案:


1、无可厚非,重新连接websocket这个是肯定要做的。
2、关键是如何能够和之前的会话能够衔接呢?
    1)、继续要传之前的sessionID,
    2)、重新向大模型问没有回复全的答案的那个问题
    3)、基于第2点的前提下,页面擦除掉回复一半的那个文本,替换第2点大模型回复的内容
    
通过上述2大点的方法,用户就可以感受到连贯性了~

相关推荐

  1. 模型websocket连接频繁问题

    2024-02-01 19:42:03       51 阅读
  2. 支Vue3WebSocket插件并支持线

    2024-02-01 19:42:03       43 阅读
  3. WebSocket 、心跳检测功能封装

    2024-02-01 19:42:03       8 阅读
  4. 模型-文本扩展&聊天机器人

    2024-02-01 19:42:03       37 阅读
  5. C# 通信线问题说明与示例

    2024-02-01 19:42:03       19 阅读
  6. 如何解决模型【幻觉】问题?

    2024-02-01 19:42:03       31 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-02-01 19:42:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-02-01 19:42:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-02-01 19:42:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-02-01 19:42:03       20 阅读

热门阅读

  1. jQuery html的使用

    2024-02-01 19:42:03       26 阅读
  2. R语言入门笔记2.1

    2024-02-01 19:42:03       20 阅读
  3. 24校招,小鹏汽车自动驾驶测试工程师二面

    2024-02-01 19:42:03       23 阅读
  4. MySQL InnoDB是如何实现ACID的?

    2024-02-01 19:42:03       28 阅读
  5. AUTOSAR内存篇 -Flash EEPROM Emulation(FEE)

    2024-02-01 19:42:03       42 阅读
  6. ROS2 学习笔记12:使用 colcon 构建软件包

    2024-02-01 19:42:03       32 阅读
  7. advPython-2

    2024-02-01 19:42:03       29 阅读
  8. SpringBoot工程web模式与非web模式和谐共处运行

    2024-02-01 19:42:03       35 阅读
  9. 【数据结构1-4】图的基本应用

    2024-02-01 19:42:03       38 阅读
  10. react经验10:与jquery配合使用

    2024-02-01 19:42:03       29 阅读