标签：llama

本地部署开源大模型 最近在GitHub上发现一个开源项目llama.cpp，llama.cpp的主要目标是在本地和云端，以最小的设置和最先进的性能实现 LLM 推理。这让个人电脑本地部署开源大模型成为可能，如果你有兴趣可以前往llama.cpp的GitHub仓库查看更多详情。虽然llama.cpp使用还是比较简单，但他…