一个热爱技术、正在探索 AI 推理部署与本地模型应用的学习者。
你好!从接触第一行代码开始,就对「让机器理解世界」这件事充满好奇。 现在我的重心在 AI 部署方向——把大模型跑起来、优化推理速度、 搭建本地推理环境。
喜欢折腾各种开源模型和部署框架。从 llama.cpp 到 vLLM, 从 GGUF 量化到 API 封装,踩过的坑都变成了经验。 这里是我分享这些的地方。
(等你来填 🚀)
(按你的实际情况调整~)
记录折腾过程,分享踩坑经验。
比如:「如何用 llama.cpp 搭建本地推理服务」或者「AI 部署学习路线」
技术博客最重要的是真诚,踩过的坑就是最好的内容素材。