合并多个大语言模型文件的方法

合并多个大语言模型文件的方法

1. 合并多个大语言模型文件的方法

运行下面命令,

(示例)Linux and macOS:

cat swallow-70b-instruct.Q6_K.gguf-split-* > swallow-70b-instruct.Q6_K.gguf && rm swallow-70b-instruct.Q6_K.gguf-split-*
cat swallow-70b-instruct.Q8_0.gguf-split-* > swallow-70b-instruct.Q8_0.gguf && rm swallow-70b-instruct.Q8_0.gguf-split-*

(示例)Windows command line:

COPY /B swallow-70b-instruct.Q6_K.gguf-split-a + swallow-70b-instruct.Q6_K.gguf-split-b swallow-70b-instruct.Q6_K.gguf
del swallow-70b-instruct.Q6_K.gguf-split-a swallow-70b-instruct.Q6_K.gguf-split-b

COPY /B swallow-70b-instruct.Q8_0.gguf-split-a + swallow-70b-instruct.Q8_0.gguf-split-b swallow-70b-instruct.Q8_0.gguf
del swallow-70b-instruct.Q8_0.gguf-split-a swallow-70b-instruct.Q8_0.gguf-split-b

refer: https://huggingface.co/TheBloke/Swallow-70B-instruct-GGUF

完结!

相关推荐

  1. 合并语言模型文件方法

    2024-01-17 20:40:04       62 阅读
  2. 语言模型应用方向

    2024-01-17 20:40:04       49 阅读
  3. pyhton合并Excel文件

    2024-01-17 20:40:04       50 阅读
  4. coco数据标注文件合并

    2024-01-17 20:40:04       52 阅读
  5. 语言模型常见文本切分方式整理汇总

    2024-01-17 20:40:04       63 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-01-17 20:40:04       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-01-17 20:40:04       100 阅读
  3. 在Django里面运行非项目文件

    2024-01-17 20:40:04       82 阅读
  4. Python语言-面向对象

    2024-01-17 20:40:04       91 阅读

热门阅读

  1. Docker 设置 Redis 的密码失效

    2024-01-17 20:40:04       40 阅读
  2. 为 Web3 项目撰写智能合约(Web3项目三实战之二)

    2024-01-17 20:40:04       55 阅读
  3. 【软件测试学习笔记4】HTML入门

    2024-01-17 20:40:04       51 阅读
  4. 手机常用的root方案

    2024-01-17 20:40:04       49 阅读
  5. iOS block以及变量捕获

    2024-01-17 20:40:04       56 阅读
  6. Python 实践——外星人入侵小游戏(上)

    2024-01-17 20:40:04       48 阅读
  7. C语言经典算法之归并排序算法

    2024-01-17 20:40:04       54 阅读
  8. ZooKeeper 应用场景深度解析

    2024-01-17 20:40:04       59 阅读
  9. 并发安全问题:挑战与解决方案

    2024-01-17 20:40:04       53 阅读
  10. 通过浏览器判断是否安装APP

    2024-01-17 20:40:04       50 阅读
  11. Python考试———部分填空题

    2024-01-17 20:40:04       52 阅读
  12. 排序算法-堆排序(含C语言代码示例)

    2024-01-17 20:40:04       68 阅读