What is Turbopuffer?
turbopuffer 是一款專為現代企業資料工作負載打造的高效能搜尋引擎,旨在實現大規模擴展,同時避免高昂的基礎設施成本。turbopuffer 獨特地僅依賴低成本物件儲存作為其唯一的有狀態依賴項,能有效整合向量和全文搜尋功能,解決了以經濟實惠的方式維護 PB 級索引的核心挑戰。此平台專為 B2B 和企業客戶而設計,提供可靠、低於 10 毫秒的熱查詢延遲,並支援多租戶環境中的強大資料隔離功能。
主要功能
turbopuffer 的設計理念是透過將運算(NVMe SSD 和記憶體快取)與狀態(物件儲存)分離,以兼顧效能與效率。這種架構讓您能夠處理數十億個文件,同時有效管理成本。
🔍 統一向量與全文搜尋
您只需一次 API 呼叫,即可獲得現代混合搜尋的強大功能。turbopuffer 運用基於質心的近似最近鄰 (ANN) 索引 (SPFresh) 處理向量嵌入,並使用倒排 BM25 索引進行關鍵字搜尋。這種組合確保了高召回率,並能為後續的精煉處理生成強大的候選集合,提供卓越的開箱即用相關性。
☁️ 物件儲存原生架構
狀態獨家管理在低成本物件儲存(例如 S3 或 GCS)中,使系統能夠水平擴展至數兆個文件。運算節點則利用 NVMe SSD 和記憶體快取,僅快取活躍搜尋的資料。相較於傳統的重複磁碟系統,這種方法顯著降低了儲存成本,即使對於頻繁存取的命名空間也是如此。
✅ 強一致性與持久性 (ACD)
資料完整性和可靠性至關重要。turbopuffer 提供原子性 (Atomicity)、一致性 (Consistency) 和持久性 (Durability) (ACD) 特性。寫入會立即提交到 Write-Ahead Log (WAL),並在 API 回傳時即具備持久性。預設情況下,後續查詢會立即看到寫入,確保了強一致性,這對於可靠的應用程式而言不可或缺。
🛡️ 企業級隔離與安全性
turbopuffer 專為 B2B 多租戶環境設計,能將每個客戶的資料隔離在其物件儲存上各自的命名空間前綴中。針對高合規性的企業需求,我們透過單租戶叢集、將 Bring Your Own Cloud (BYOC) 部署到您的 VPC,以及客戶管理加密金鑰 (CMEK) 來支援隔離,確保您對資料加密金鑰擁有完全控制權。
應用場景
turbopuffer 在需要高吞吐量、大規模擴展和嚴格資料隔離,同時最大限度地降低總擁有成本 (TCO) 的情境中表現卓越。
1. 高效率的首階段檢索
當處理數百萬或數十億個文件時,您需要快速縮小搜尋範圍。利用 turbopuffer 的混合搜尋功能,能有效生成數十或數百個相關結果的候選集合。這項功能對於依賴第二階段重新排序或精煉的大規模應用程式至關重要,確保初始搜尋既快速又全面。
2. 提供低於 10 毫秒延遲的工作負載
對於搜尋速度直接影響使用者體驗的面向使用者應用程式,turbopuffer 讓您能夠善用其令人印象深刻的熱查詢效能 (p50=8ms)。您可以透過預先查詢,實施「預熱」關鍵命名空間或特定使用者資料區段的策略,確保後續使用者互動僅體驗到極低的熱查詢延遲。
3. 高合規性資料儲存與搜尋
處理敏感資訊(例如受保護健康資訊 (PHI))的企業,可受益於 turbopuffer 的安全堆疊。我們支援客戶管理加密金鑰 (CMEK) 並通過 SOC 2 Type 2 稽核。需要 HIPAA 合規性的客戶可以請求商業夥伴協議 (BAA),這將為您在所選區域內安全、合規地託管資料提供必要的框架。
為何選擇 turbopuffer?
相較於傳統的搜尋和向量資料庫,turbopuffer 獨特的架構提供了明顯的營運和財務優勢。
卓越的成本效益效能
turbopuffer 旨在於資料快取時 (p50 熱查詢延遲為 8ms) 達到與記憶體內搜尋引擎一樣的速度,但營運成本卻低廉許多。透過將絕大部分索引資料儲存在低成本物件儲存中,而非昂貴的重複磁碟系統,您將大幅減少整體儲存佔用空間和基礎設施開支。
針對物件儲存效率最佳化
我們的索引策略從根本上針對雲端儲存經濟學進行了優化。基於質心的 SPFresh 索引最大限度地減少了索引和查詢期間所需的隨機往返次數和寫入放大,這些是圖形基礎索引(例如 HNSW 或 DiskANN)在與高延遲物件儲存互動時常見的瓶頸。這項優化帶來更快的冷啟動時間和更低的營運成本。
簡化的營運與可靠性
由於物件儲存作為唯一的有狀態依賴項,系統的營運和維護得以大幅簡化。這種架構增強了可靠性和高可用性 (HA),因為任何查詢節點都可以即時為任何命名空間提供資料。此外,系統設計用於以高吞吐量(每秒約 10,000+ 個向量)處理大量寫入(附加、更新和刪除),確保您的索引保持最新和一致。
結論
turbopuffer 不僅提供了最密集的企業搜尋應用程式所要求的速度和可擴展性,同時透過其以物件儲存為中心的設計,從根本上降低了總擁有成本。如果您需要強大的混合搜尋、強一致性,以及多租戶資料的大規模可擴展性,turbopuffer 將為您提供所需的可靠且具成本效益的基礎。





