本文介绍了一种轻便部署Hugging Face镜像站的解决方案。通过安装Python 中的 Olah 包即可快速启动服务,并启用磁盘缓存等加速功能。可灵活控制缓存策略及访问权限。
阅读 74
评论 3
本文介绍了一种轻便部署Hugging Face镜像站的解决方案。通过安装Python 中的 Olah 包即可快速启动服务,并启用磁盘缓存等加速功能。可灵活控制缓存策略及访问权限。
DeepSeek-R1可通过VLLM进行多卡单机部署。首先使用UV创建虚拟环境并安装vllm。然后设置环境变量,包括可选的镜像站和内存拓展配置
My-Dream-Moments是一个QQBot实现,项目代码托管在GitHub上,具体地址为:https://github.com/umaru-233/My-Dream-Moments。
如果您看到这篇文章,表示您的 blog 已经安装成功.