本地 AI - RoyLung 的部落格

在 Jetson Orin NX 安裝 llama.cpp：CUDA 加速、64K Context 優化

技術 在 Jetson Orin NX 安裝 llama.cpp：CUDA 加速、64K Context 優化

上一篇文章介紹了我如何把 Jetson Orin NX 16GB 整理成一台常駐的本地 AI 節點。這一篇把焦…

把 AI 放在桌邊運行：我的 Jetson Orin NX 與本地服務部署

技術 把 AI 放在桌邊運行：我的 Jetson Orin NX 與本地服務部署

我一直想要一台能夠長時間開機、放在家中運作，又不必把每一段資料都送到雲端的 AI 主機。Jetson Orin…