昇腾 910B 通过 LMDeploy 部署 DeepSeek R1 Distill Qwen
本方案可以实现多卡推理 DeepSeek R1 Distill Qwen 模型，全程操作没有使用容器，特别适合在 Batch System (e.g., Slurm, CraneSched) 下...
包含标签 "Linux" 的文章
-
-
X11 的二段跳：在远程的容器中使用 X11 应用程序
背景介绍日常开发中，经常需要远程操作 Linux 服务器，并在其中的容器里运行 X11 图形应用程序（如 xclock、matplotlib 等）。典型的操作场景为：从 Windows PC 上...
-
SSH 三种端口转发总结（-D 动态转发、-L 本地转发、-R 远程转发）
网上关于 SSH 端口转发的文章有很多，但个人觉得都不够简单明了，甚至有些是错误的。因此在这里总结一下，供不时之需。首先需要明确，SSH 命令的用法还是以 Manpage 为准，参考：ssh(1...
-
Windows 11 配置 Hyper-V 虚拟机以 NAT 方式访问互联网
在 Hyper-V 中安装 PVE，涉及到嵌套虚拟化的问题。特别需要注意 Hyper-V 虚拟机的 NAT 设置，若配置不正确会出现以下问题：在 Hyper-V 虚拟机中安装好 PVE，然后在 ...
-
Docker 容器和镜像的备份迁移
Docker 有 export / import 和 save / load 两种方式来实现容器的迁移和备份。但应用场景有显著不同。TL,DR: 要迁移和备份成直接能在新设备上 Run 的镜像，...