There's more to life than an ESP32.
当我最开始接触本地 AI 时,Ollama 是我的首选。它很简单,也很友好。你只要输入 ollama run llama3 ,然后砰的一下——一个 LLM 就跑起来了。不需要编译,不需要配置,也没有那些让人头疼的问题。它被称为“本地 LLM 领域的 Docker”,这个类比并不是偶然的。