脱离 Kubernetes,在 Docker / Nerdctl 中使用 RDMA 网卡
1. 背景:如何在非 K8s 场景下容器化 RDMA 网卡?在 Kubernetes 生态中,RDMA 网卡的容器化已经有了成熟的工程实践:SR-IOV Device Plugin + SR-I...
1. 背景:如何在非 K8s 场景下容器化 RDMA 网卡?在 Kubernetes 生态中,RDMA 网卡的容器化已经有了成熟的工程实践:SR-IOV Device Plugin + SR-I...
众所周知,在几个月前,Gemini 2.5 Pro 的 API 是可以免费调用的。但是近来 Google 关闭了这一优惠活动,为了白嫖,就得想想别的路子。Gemini 网页 / AI Studi...
本方案可以实现多卡推理 DeepSeek R1 Distill Qwen 模型,全程操作没有使用容器,特别适合在 Batch System (e.g., Slurm, CraneSched) 下...
通过选择适合设备内存的模型,如 7B 或 14B 参数量的模型,并使用 llama.cpp 推理框架,用户可以在 MacBook Air 上运行 LLM(通义千问为例)。文章介绍了 ollama 和 llamafile 两种工具,还提供了实用的调试建议。此外,通过 Tailscale 和 Docker 实现远程访问和共享,用户可以在不同设备上灵活使用 LLM。
VisageFuture 智颜未来:AI + 赝复产业主要业务是:用 AI 技术对残缺的人脸进行建模和修补,然后使用 3D 打印技术打印人面部的假体。这个项目是我在 港科广 参加 红鸟挑战营 时...