大语言模型下载,huggingface和modelscope加速

huggingface 下载模型

如果服务器翻墙了,不用租机器
如果服务器没翻墙,可以建议使用下面的方式
可以租一台**autodl**不用显卡的机器,一小时只有1毛钱,启动学术加速,然后下载,下载完之后,用scp拷贝到目标机器

autodl学术加速启动
source /etc/network_turbo
在这里插入图片描述

from huggingface_hub import snapshot_download
model_path = "baichuan-inc/Baichuan-13B-Chat"
cache_dir = "model/Baichuan-13B-Chat"

snapshot_download(repo_id=model_path, local_dir=cache_dir, local_dir_use_symlinks=False)

魔塔下载模型

不需要翻墙

pip install modelscope

下载模型代码

from modelscope import snapshot_download
model_path="Qwen/Qwen-14B-Chat"
cache_path="/root/autodl-tmp/Qwen-14B-Chat"
snapshot_download(model_path, cache_dir=cache_path)

huggingface镜像

huggingface镜像不好用,下载特别慢,几十k,而且下载到80%左右就报错,停止,建议用上面的两种方法

huggingface-cli download --resume-download --local-dir-use-symlinks False Qwen/Qwen-14B-Chat --local-dir /root/autodl-tmp/Qwen-14B-Chat

本站域名 hf-mirror.com,用于镜像 huggingface.co 域名。

更多用法(多线程加速等)详见这篇文章。简介:
方法一:使用huggingface 官方提供的 huggingface-cli 命令行工具。
(1) 安装依赖

pip install -U huggingface_hub

(2) 基本命令示例:

export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m

(3) 下载需要登录的模型(Gated Model)
请添加–token hf_***参数,其中hf_***是 access token,请在huggingface官网这里获取。示例:

huggingface-cli download --token hf_*** --resume-download --local-dir-use-symlinks False meta-llama/Llama-2-7b-hf --local-dir Llama-2-7b-hf

方法二:使用url直接下载时,将 huggingface.co 直接替换为本站域名hf-mirror.com。使用浏览器或者 wget -c、curl -L、aria2c 等命令行方式即可。
下载需登录的模型需命令行添加 --header hf_*** 参数,token 获取具体参见上文。

方法三:(非侵入式,能解决大部分情况)huggingface 提供的包会获取系统变量,所以可以使用通过设置变量来解决。

HF_ENDPOINT=https://hf-mirror.com python your_script.py

不过有些数据集有内置的下载脚本,那就需要手动改一下脚本内的地址来实现了

相关推荐

  1. 下载huggingface上的模型文件

    2024-01-17 16:12:03       6 阅读
  2. Huggingface镜像网站下载语言模型方法

    2024-01-17 16:12:03       35 阅读
  3. HuggingFace模型下载

    2024-01-17 16:12:03       23 阅读
  4. Linux,使用魔搭modelscope下载ChatGLM3-6B-32K模型

    2024-01-17 16:12:03       15 阅读
  5. git lfs使用(huggingface下载模型文件)

    2024-01-17 16:12:03       17 阅读
  6. HuggingFace模型与文件下载

    2024-01-17 16:12:03       18 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-17 16:12:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-17 16:12:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-17 16:12:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-17 16:12:03       20 阅读

热门阅读

  1. 向量数据库如何解决大语言模型的“幻觉”问题

    2024-01-17 16:12:03       30 阅读
  2. FreeBSD上安装mysql数据库

    2024-01-17 16:12:03       27 阅读
  3. 【cuda】四、基础概念:Cache Tiled 缓存分块技术

    2024-01-17 16:12:03       29 阅读
  4. Day 37 贪心算法 6

    2024-01-17 16:12:03       36 阅读
  5. c#之枚举类型和结构体

    2024-01-17 16:12:03       30 阅读
  6. Redis面试题15

    2024-01-17 16:12:03       30 阅读
  7. 编程语言的发展未来?

    2024-01-17 16:12:03       35 阅读
  8. 【VTKExamples::PolyData】第二期 曲率

    2024-01-17 16:12:03       30 阅读
  9. openssl3.2 - 官方demo学习 - mac - hmac-sha512.c

    2024-01-17 16:12:03       31 阅读
  10. element ui日期选择器清除后报错了

    2024-01-17 16:12:03       36 阅读
  11. C 练习实例26

    2024-01-17 16:12:03       31 阅读
  12. Apache Camel Jbang的dep和classpath 及-O 简单记录

    2024-01-17 16:12:03       33 阅读