在 MacBook 上实现「大语言模型自由」—以通义千问 7B 模型为例
通过选择适合设备内存的模型，如 7B 或 14B 参数量的模型，并使用 llama.cpp 推理框架，用户可以在 MacBook Air 上运行 LLM（通义千问为例）。文章介绍了 ollama 和 llamafile 两种工具，还提供了实用的调试建议。此外，通过 Tailscale 和 Docker 实现远程访问和共享，用户可以在不同设备上灵活使用 LLM。
通过选择适合设备内存的模型，如 7B 或 14B 参数量的模型，并使用 llama.cpp 推理框架，用户可以在 MacBook Air 上运行 LLM（通义千问为例）。文章介绍了 ollama 和 llamafile 两种工具，还提供了实用的调试建议。此外，通过 Tailscale 和 Docker 实现远程访问和共享，用户可以在不同设备上灵活使用 LLM。
VisageFuture 智颜未来：AI + 赝复产业主要业务是：用 AI 技术对残缺的人脸进行建模和修补，然后使用 3D 打印技术打印人面部的假体。这个项目是我在 港科广 参加 红鸟挑战营 时...