What is KoboldAI?
KoboldAI 讓您能夠完全掌控強大的大型語言模型(LLMs),方式是允許您直接在自己的硬體上執行這些模型。這是一套全面且開源的解決方案,專為重視隱私、客製化和離線存取,並用於創意寫作、角色扮演及文字生成的用戶而設計。無須再將您的資料傳送給第三方服務,讓您能隨心所欲地釋放AI的全部潛力。
主要功能
⚙️ 透過 KoboldCPP 在本地執行 LLM 這是系統的核心引擎。KoboldCPP 是一個高效率的伺服器,能夠在您的電腦上直接執行多種流行的 GGUF 和 GGML 模型。透過在本地處理所有內容,它確保您的資料保持 100% 私密且安全。一旦模型下載完成,您甚至可以在沒有網路連線的情況下使用它。
🖥️ 直覺式網頁介面 (KoboldAI Lite) 日常使用時,告別複雜的命令列。KoboldAI Lite 是一個簡潔、使用者友善的網頁介面,隨附內建並隨裝即用。它讓您能透過瀏覽器與本地AI無縫互動,輕鬆開始生成文字、聊天或給予指令。
🎭 多功能互動模式 透過四種不同的模式,精確調整AI的行為以符合您的需求。您可以即時切換這些模式,以配合您的任務:
故事模式 (Story Mode): 適用於創意小說和文學寫作,AI將延續您的敘事。
聊天模式 (Chat Mode): 與互動式AI角色進行對話模擬和角色扮演。
指令模式 (Instruct Mode): 用於直接、基於任務的互動,類似於 ChatGPT。
冒險模式 (Adventure Mode): 創建類似「選擇自己的冒險」風格的互動式小說。
🎛️ 進階生成控制 精確微調AI的輸出。KoboldAI Lite 讓您能直接控制數十個技術參數(取樣器),例如 Temperature (溫度)、Repetition Penalty (重複懲罰) 和 Top-P,以管理AI的創造力、連貫性和風格。您可以將偏好的設定儲存為自訂預設,以獲得一致且可重複的結果。
KoboldAI 如何解決您的問題
對於重視隱私的創作者: 您是否正在撰寫新的故事或劇本,卻不願將作品輸入到雲端AI中?使用 KoboldAI,您的整個創作過程都會在自己的機器上進行。您的提示、草稿和生成內容絕不會傳送至外部伺服器,確保完全保密。
對於熱衷角色扮演的玩家: 超越公共聊天服務的限制。您可以載入自訂角色卡(例如來自 TavernAI 的角色卡),定義獨特個性,並進行不受限制的長篇角色扮演。AI會記住您故事的上下文,提供更具沉浸感和一致性的體驗。
對於離線AI愛好者: 需要在網路連線不穩定或不可用的環境中工作嗎?只需提前下載您偏好的AI模型。KoboldAI 完全離線運行,是旅行或專注、不受干擾工作的完美伴侶。
總結
KoboldAI 是為追求隱私、掌控和靈活性的創作者、開發者和AI愛好者量身打造的終極解決方案。透過結合強大的本地伺服器與易於使用的介面,它消除了在個人電腦上執行複雜AI模型的障礙。它提供了一個安全、可客製化且充滿無限創造力的環境,滿足您所有的文字生成需求。
立即體驗本地AI的自由!
常見問題
1. 運行 KoboldAI 需要什麼樣的電腦? 所需的記憶體(RAM)取決於您想要運行AI模型的大小。作為標準上下文大小的一般準則,一個 7B 參數模型至少需要 8GB 記憶體,13B 模型需要 16GB,而 30B 模型則需要 32GB。將圖層卸載到相容的 GPU 有助於減少所需的系統記憶體量。
2. KoboldAI (含 KoboldCPP) 和 KoboldAI.net 有什麼區別? KoboldAI/KoboldCPP 是您在自己電腦上執行的軟體,讓您擁有完全的隱私和離線使用能力。KoboldAI.net 則是 KoboldAI Lite 介面的一個免費線上版本,它連接到 AI Horde,一個由群眾貢獻AI處理能力的網路。這是一種無需任何本地安裝即可試用介面的絕佳方式,但您的請求是由網路上的其他使用者處理,而非您自己的機器。
3. 我需要是程式設計師才能使用它嗎? 不需要。儘管 KoboldAI 對於技術使用者而言高度可客製化,但其設計優先考慮了易用性。預先建置的可執行檔和使用者友善的 KoboldAI Lite 介面讓您只需點擊幾下即可載入模型並開始生成文字,無需任何程式碼。





