Hugging Face Transformers Docker 镜像封装了 Transformers 库及其依赖环境,提供了一个便捷的容器化解决方案,用于在各种环境中快速部署和使用预训练模型。该镜像支持自然语言处理(NLP)、计算机视觉、音频处理等多模态任务,适用于模型推理、微调训练及研究实验。
核心用途包括:
pipeline API:3 行代码实现端到端任务推理AutoClass 接口:自动加载模型及配套 tokenizer/preprocessor从 Docker Hub 拉取最新版本镜像(假设镜像名为 huggingface/transformers):
bashdocker pull huggingface/transformers:latest
如需特定版本(如包含 PyTorch 2.0 的版本),请指定标签:
bashdocker pull huggingface/transformers:py39-torch2.0-cuda11.7
运行交互式容器,挂载当前目录到容器内 /workspace,并设置模型缓存目录:
bashdocker run -it --rm \ -v $(pwd):/workspace \ -v $HOME/.cache/huggingface:/root/.cache/huggingface \ huggingface/transformers:latest \ /bin/bash
启用 GPU 支持,运行文本生成任务(以 Mistral 模型为例):
bashdocker run -it --rm \ --gpus all \ -v $(pwd):/workspace \ -v $HOME/.cache/huggingface:/root/.cache/huggingface \ -e TRANSFORMERS_CACHE=/root/.cache/huggingface/hub \ huggingface/transformers:latest \ python -c "from transformers import pipeline; generator = pipeline('text-generation', model='mistralai/Mistral-7B-Instruct-v0.2'); print(generator('Explain quantum computing in simple terms:'))"
创建 docker-compose.yml 文件,配置包含 GPU 支持的开发环境:
yamlversion: '3.8' services: transformers: image: huggingface/transformers:latest runtime: nvidia # 或使用 deploy.resources 配置(适用于 Docker Swarm) volumes: - ./workspace:/workspace - ${HOME}/.cache/huggingface:/root/.cache/huggingface environment: - TRANSFORMERS_CACHE=/root/.cache/huggingface/hub - PYTHONPATH=/workspace tty: true deploy: resources: reservations: devices: - driver: nvidia count: all capabilities: [gpu]
启动服务:
bashdocker-compose up -d docker-compose exec transformers /bin/bash
pythonfrom transformers import pipeline classifier = pipeline("sentiment-analysis") result = classifier("We are very happy to use Transformers in Docker!") print(result) # 输出:[{'label': 'POSITIVE', 'score': 0.9997}]
pythonimport requests from PIL import Image from transformers import pipeline # 下载示例图像 url = "[***]" image = Image.open(requests.get(url, stream=True).raw) # 加载目标检测 pipeline detector = pipeline("object-detection") results = detector(image) print(results) # 输出包含检测到的物体(如猫、遥控器、沙发)及其边界框和置信度
| 环境变量名 | 描述 | 默认值 |
|---|---|---|
TRANSFORMERS_CACHE | 预训练模型缓存目录,建议挂载为宿主机卷以避免重复下载 | /root/.cache/huggingface/hub |
HF_HOME | Hugging Face 配置文件及缓存根目录 | /root/.cache/huggingface |
PYTORCH_CUDA_ALLOC_CONF | PyTorch GPU 内存分配配置(如 max_split_size_mb:128) | 无 |
TF_FORCE_GPU_ALLOW_GROWTH | TensorFlow GPU 内存动态分配开关 | false |
TRANSFORMERS_OFFLINE | 是否启用离线模式(使用本地缓存模型,不联网下载) | 0 (禁用),设为 1 启用 |
| 参数 | 描述 | 示例 |
|---|---|---|
--gpus | Docker GPU 设备分配(需 NVIDIA 运行时) | all(使用所有 GPU) |
-v <host>:<container> | 挂载宿主机目录到容器,用于数据持久化或代码共享 | -v $HOME/data:/data |
-e <VAR>=<VALUE> | 设置环境变量 | -e TRANSFORMERS_OFFLINE=1 |
--shm-size | 共享内存大小(训练大型模型时可能需要增大,如 16g) | --shm-size 16g |
nvidia-docker2)如需基于***源码构建镜像,可使用以下 Dockerfile 示例:
dockerfileFROM python:3.9-slim # 安装系统依赖 RUN apt-get update && apt-get install -y --no-install-recommends \ git \ && rm -rf /var/lib/apt/lists/* # 安装 Transformers 及依赖(以 PyTorch 为例) RUN pip install --no-cache-dir \ transformers[torch] \ pillow \ requests \ accelerate # 设置工作目录 WORKDIR /workspace # 默认启动命令 CMD ["/bin/bash"]
构建命令:
bashdocker build -t custom-transformers .
镜像支持 100+ 种模型架构,涵盖 NLP、CV、音频及多模态领域,包括但不限于:
完整模型列表及框架支持情况(PyTorch/TensorFlow/JAX)可参考 Hugging Face 模型文档。
如在研究中使用该镜像,请引用 Transformers 库论文:
bibtex@inproceedings{wolf-etal-2020-transformers, title = "Transformers: State-of-the-Art Natural Language Processing", author = "Thomas Wolf and Lysandre Debut and Victor Sanh and Julien Chaumond and Clement Delangue and Anthony Moi and Pierric Cistac and Tim Rault and Rémi Louf and Morgan Funtowicz and Joe Davison and Sam Shleifer and Patrick von Platen and Clara Ma and Yacine Jernite and Julien Plu and Canwen Xu and Teven Le Scao and Sylvain Gugger and Mariama Drame and Quentin Lhoest and Alexander M. Rush", booktitle = "Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing: System Demonstrations", month = oct, year = "2020", address = "Online", publisher = "Association for Computational Linguistics", url = "[***]", pages = "38--45" }
来自真实用户的反馈,见证轩辕镜像的优质服务
免费版仅支持 Docker Hub 加速,不承诺可用性和速度;专业版支持更多镜像源,保证可用性和稳定速度,提供优先客服响应。
免费版仅支持 docker.io;专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。
当返回 402 Payment Required 错误时,表示流量已耗尽,需要充值流量包以恢复服务。
通常由 Docker 版本过低导致,需要升级到 20.x 或更高版本以支持 V2 协议。
先检查 Docker 版本,版本过低则升级;版本正常则验证镜像信息是否正确。
使用 docker tag 命令为镜像打上新标签,去掉域名前缀,使镜像名称更简洁。
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
在 Linux 系统配置镜像加速服务
在 Docker Desktop 配置镜像加速
Docker Compose 项目配置加速
Kubernetes 集群配置 Containerd
在宝塔面板一键配置镜像加速
Synology 群晖 NAS 配置加速
飞牛 fnOS 系统配置镜像加速
极空间 NAS 系统配置加速服务
爱快 iKuai 路由系统配置加速
绿联 NAS 系统配置镜像加速
QNAP 威联通 NAS 配置加速
Podman 容器引擎配置加速
HPC 科学计算容器配置加速
ghcr、Quay、nvcr 等镜像仓库
无需登录使用专属域名加速
需要其他帮助?请查看我们的 常见问题 或 官方QQ群: 13763429