尝试在树莓派上跑 WasmEdge,比 Docker 容器轻量太多了。启动时间从 1 秒降到 10 毫秒,内存占用从 100MB 降到 1MB。
边缘 AI 的未来或许就是 WASM + 轻量模型的组合。
尝试在树莓派上跑 WasmEdge,比 Docker 容器轻量太多了。启动时间从 1 秒降到 10 毫秒,内存占用从 100MB 降到 1MB。
边缘 AI 的未来或许就是 WASM + 轻量模型的组合。
写了一个新的 agent 框架demo,集成 RAG 和多模型切换。TypeScript 的类型系统在这种场景下特别好用,编译时就能发现很多潜在问题。
技术的演进很有意思,从最早的命令式编程,到面向对象,再到函数式,现在又到了 AI 驱动的编程范式。每一次变革都让抽象层次更高了一步。