大模型仓库huggingface下载指南

浏览器

打开网页使用浏览器下载

huggingface-cli 和 hf_transfer 是 hugging face 官方提供的专门为下载而设计的工具链。前者是一个命令行工具，后者是下载加速模块。

下载依赖

1

pip install -U huggingface_hub

使用方法

下载模型

1

huggingface-cli download Qwen/Qwen2.5-3B-Instruct-GGUF qwen2.5-3b-instruct-fp16-00001-of-00002.gguf --local-dir .

这条命令的含义：下载 Qwen/Qwen2.5-3B-Instruct-GGUF 下 qwen2.5-3b-instruct-fp16-00001-of-00002.gguf 文件，指定目录为当前目录

下载数据集

1

huggingface-cli download --repo-type dataset lavita/medical-qa-shared-task-v1-toy

下载依赖

1

pip install -U hf-transfer

启用 hf_transfer

1

export HF_HUB_ENABLE_HF_TRANSFER=1

1

export HF_ENDPOINT=https://hf-mirror.com

设置以上，速度就可以飞起来了

图片.png