What is Bodhi App?
Bodhi App 让你能够直接在你的机器上运行大型语言模型 (LLM),提供无与伦比的隐私、控制和易用性——这一切都无需传统设置带来的技术难题。无论你是开发 AI 驱动应用程序的开发者,还是只是探索 AI 的潜力,Bodhi App 都能使本地 LLM 推理变得易于访问、安全且高效。
主要功能
? 本地运行 AI,免费且私密
所有数据都保存在你的设备上。无需云端依赖,无需隐藏成本——完全拥有你的 AI 体验。
? 内置聊天界面
使用支持 Markdown、代码块和多会话管理的直观界面,立即开始与 AI 聊天。
? 简易模型管理
通过一键集成 HuggingFace,无缝下载和管理模型,充分利用庞大的开源模型生态系统。
?️ OpenAI API 兼容性
将 Bodhi App 用作 OpenAI API 的直接替代品,使你能够轻松地与现有工具和工作流程集成。
⚡ llama.cpp 高性能
体验利用 GPU 加速的优化推理,确保在你的硬件上获得快速可靠的性能。
? 高级安全性和身份验证
可在基于角色的访问权限的已认证模式或快速便捷的本地测试的未认证模式之间进行选择。
Bodhi App 适合谁?
开发者:在本地构建 AI 驱动的应用程序,拥有完全的控制权和无缝的 API 兼容性。
AI 爱好者:无需依赖云服务或复杂的设置,即可探索 LLM 的功能。
注重隐私的用户:通过在自己的机器上离线运行 AI 模型来确保数据安全。
使用案例
1. 本地开发 AI 应用程序
构建和测试 AI 驱动的工具,无需将敏感数据暴露给第三方服务。
2. 试验开源模型
访问和运行来自 HuggingFace 的数千个模型,根据你的特定需求定制解决方案。
3. 保护数据隐私
通过在本地处理机密信息来安全地处理它,确保它永远不会离开你的设备。
4. 与现有工作流程集成
使用 Bodhi App 的 OpenAI 兼容 API 来增强你的现有工具和应用程序,无需重写代码。
为什么选择 Bodhi App?
Bodhi App 以提供本地 LLM 推理的隐私优先、开源解决方案而脱颖而出。无需繁琐的设置,跨平台兼容性以及丰富的功能集,它是任何希望利用 AI 强大功能同时完全控制自己数据的用户的完美选择。
常见问题
Bodhi App 是否免费使用?
是的,Bodhi App 完全免费且开源。
Bodhi App 支持哪些平台?
目前适用于 macOS(M 系列设备),更多平台即将推出。
我可以将 Bodhi App 与我自己的模型一起使用吗?
当然!从 HuggingFace 下载模型或使用你现有的 GGUF 兼容模型。
如何开始?
下载适用于 macOS 的 Bodhi App,安装它,然后在几分钟内开始在本地运行 LLM。
准备好掌控你的 AI 体验了吗?立即下载 Bodhi App,体验本地 LLM 推理的自由。





