coding | Steven’s Diary | 为0700.hk卖命中如你所见这只是一个日记本而已#赛博鸡蛋 一些羊毛#光与影 摄影作品或创作过程记录#吃点好 吃啥了#面基#活动#灵感菇 一些 MVP 的 demo 或 idea 记录点击讨论区进群友情链接：@stvgateway 联系Steven：@stvlynn_bothttps://broadcastchannel-a3e.pages.dev#coding 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验https://broadcastchannel-a3e.pages.dev/posts/5376https://broadcastchannel-a3e.pages.dev/posts/5376Sun, 28 Jun 2026 18:29:17 GMT<div> <img src="/static/https://cdn5.telesco.pe/file/bcWmguEiPJG5CA17enQl99Birh_90TJG9tZx4UWiVJFa--K5nj9yeGUno5D4ugvKxQ6jhLvkVpxa1f3lidGSPMW2VhUhOwzWpnJZV1qdjh0M87gXTV1MfS7uy2fO4kkn33Y2qAoC8JWDbg6A3jUo6ZCaRdgg8F8ebg8zZaevUE_SWs2xoGmBazK8x5zU0WFhBi3rE7xiwQmh5mw5m41-XAOmMkk2OKZhx5HKrYYGIfTn5u__O0aysC6Ci18flTdQHB4cscIFG4-PG3uwNRKax_YtjEORHKfY7xku9oVIJG2vdUjNpRIm77CeAudTbjBMpvjddQ7PUC6lbJNqCFeFkA.jpg" alt="#coding 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验" loading="lazy" /> </div><a href="/search/%23coding">#coding</a> 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验。近几天也会折腾一下 App Store 上架事宜。也用自己的设备测了下性能，Qwen 3.5-0.8B Q4在 iPhone 17 Pro 上大概 60tps，iPhone 13 Pro 上大概 20tps，也可以作为国行设备的 Apple Intelligence 缺少 Writing Tools 的替代品。 <a href="https://github.com/cyyself/opentihui" target="_blank">https://github.com/cyyself/opentihui</a>