What is KoboldAI?
KoboldAI 让您能够完全掌控强大的大型语言模型(LLMs),因为它允许您直接在自己的硬件上运行它们。这是一个全面、开源的解决方案,专为重视隐私、个性化定制和离线使用以进行创意写作、角色扮演和文本生成的用户而设计。告别将数据发送至第三方服务的模式,以您自己的方式释放AI的全部潜力。
主要功能
⚙️ 使用 KoboldCPP 本地运行大型语言模型 这是系统的核心引擎。KoboldCPP 是一个高效的服务器,可以在您的电脑上直接运行各种流行的 GGUF 和 GGML 模型。通过本地处理所有内容,它确保您的数据100%私密和安全。模型一旦下载,即使没有互联网连接也可以使用。
🖥️ 直观的网页界面 (KoboldAI Lite) 告别日常使用中繁琐的命令行操作。KoboldAI Lite 是一个简洁、用户友好的网页界面,预打包,开箱即用。它让您可以通过浏览器轻松顺畅地与本地AI进行交互,从而简单地开始生成文本、聊天或发出指令。
🎭 多功能交互模式 提供四种独特的交互模式,让您可以根据具体需求定制AI的行为。您可以即时切换模式,以适应不同的任务场景:
Story Mode: 适用于创意小说和文学创作,AI将继续您的叙事。
Chat Mode: 用于模拟对话,并与交互式AI角色进行角色扮演。
Instruct Mode: 用于直接的、基于任务的交互,类似于 ChatGPT。
Adventure Mode: 用于创建“选择自己的冒险”风格的互动小说。
🎛️ 高级生成控制 您可以精准微调AI的输出。KoboldAI Lite 让您可以直接控制数十个技术参数(采样器),如 Temperature、Repetition Penalty 和 Top-P,从而精细管理AI的创造力、连贯性和风格。您可以将您喜欢的设置保存为自定义预设,以获得一致且可重复的结果。
KoboldAI 如何解决您的问题
对于注重隐私的创作者: 您是否正在构思新的故事或剧本,却又担心将作品输入到云端AI中?使用 KoboldAI,您的整个创作过程都将保留在您的机器上。您的提示、草稿和生成内容绝不会发送到外部服务器,为您提供完全的保密保障。
对于专注的角色扮演者: 告别公共聊天服务的局限性。您可以加载自定义角色卡片(例如来自 TavernAI 的),定义独特的个性,并参与无拘无束、篇幅更长的角色扮演。AI会记住您故事的上下文,提供更沉浸和一致的体验。
对于喜爱离线AI的用户: 需要在互联网连接不稳定或无法访问的环境下工作吗?只需提前下载您偏好的AI模型即可。KoboldAI 完全离线运行,是您旅行或需要专注、无干扰工作时的理想伴侣。
总结
KoboldAI 是一款为追求隐私、掌控与灵活性的创作者、开发者和AI爱好者量身打造的终极解决方案。通过结合强大的本地服务器和易于访问的界面,它打破了在个人电脑上运行复杂AI模型的障碍。它为您的所有文本生成需求提供了一个安全、可定制且充满无限创造力的环境。
即刻体验本地AI带来的无限自由!
常见问题
1. 运行 KoboldAI 需要什么样的电脑配置? 所需的内存取决于您希望运行的AI模型的大小。通常来说,对于标准上下文大小的模型,一个 7B 参数模型至少需要 8GB 内存,一个 13B 模型需要 16GB,而一个 30B 模型则需要 32GB。将层卸载到兼容的 GPU 有助于减少所需的系统内存量。
2. KoboldAI(含KoboldCPP)与 KoboldAI.net 有何不同? KoboldAI/KoboldCPP 是您在自己电脑上运行的软件,为您提供全面的隐私保护和离线使用体验。KoboldAI.net 是一个免费的在线版 KoboldAI Lite 界面,它连接到 AI Horde,这是一个众包的AI处理能力网络。这是一种无需本地安装即可体验界面的绝佳方式,但您的请求将由网络上的其他用户处理,而非您自己的机器。
3. 使用它需要编程知识吗? 不需要。KoboldAI 虽然为技术用户提供了高度可定制性,但其设计却优先考虑了易用性。预构建的可执行文件和用户友好的 KoboldAI Lite 界面,让您只需点击几下即可加载模型并开始生成文本,无需任何编码知识。





