What is Hatchet.run?
Hatchet 是一個高吞吐、低延遲的編排平台,旨在簡化建構具備彈性的分散式網路應用程式和代理式 AI 管線的複雜性。Hatchet 作為一個持久執行層,取代了為了規模化而需管理複雜自建任務佇列或脆弱發佈/訂閱系統的需求。工程團隊運用 Hatchet,能夠輕鬆分配功能、管理流量控制並確保任務可靠完成,進而讓他們能夠純粹專注於業務邏輯,而非基礎設施的持久性。
主要功能
Hatchet 提供必要的控制和持久性,以便在大規模情況下可靠執行背景任務和資料管線。
1. 持久且容錯的執行
Hatchet 保證即使您的應用程式在任務執行中途崩潰,工作仍能順利完成。每次任務呼叫都會持久地記錄到 PostgreSQL,使系統能夠追蹤進度,並自動從上次中斷的地方精確地恢復工作流程。這種持久執行模型消除了遺失的工作,防止重複呼叫(對於 LLM 互動至關重要),並確保使用者請求永不遺失,即使在系統故障期間亦是如此。
2. ⚡️ 高吞吐、低延遲的任務分派
Hatchet Engine 針對速度進行了最佳化,為處理數千個並行任務的活躍工作者提供低於 25 毫秒的任務分派延遲。它運用智慧分配規則,無需複雜的手動配置,即可自動管理並行性、公平性和優先級,確保您的工作者以其可處理的速度接收任務。
3. ⚙️ 程式碼優先的工作流程編排
將複雜的邏輯定義為易於版本控制與測試的程式碼。您可以將簡單的函數(稱為任務)組合成複雜的父子關係或有向無環圖 (DAGs)。這讓開發人員能夠將大型複雜的操作分解為更小、可重複使用的步驟,從而簡化開發,並在 Python、Typescript 和 Go 環境中使部署更加便捷。
4. 📊 內建可觀察性和警報功能
Hatchet 內建即時監控工具,提供對分散式系統的即時可見性。您可以存取即時儀表板、指標和全面的日誌記錄,這些記錄能將任務失敗與系統日誌直接關聯起來。可自訂的 Slack 和電子郵件警報確保在任務或工作流程失敗時立即通知您,最大限度地縮短檢測和回應時間。
使用案例
Hatchet 在需要高可靠性、複雜排程和巨量吞吐的場景中表現卓越。
1. 即時資料擷取與 ETL 管線 對於需要最新上下文的應用程式,例如為大型語言模型 (LLMs) 提供資料的向量資料庫,Hatchet 提供快速且可靠的 ETL(擷取、轉換、載入)功能。您可以定義能夠以高吞吐量擷取、處理和更新資料來源的工作流程,並利用 Hatchet 的流量控制來管理並行性,同時在大量資料激增時防止瓶頸。
2. 擴展代理式 AI 系統 Hatchet 專門為支援現代 AI 代理人的複雜性而設計。事件觸發、子工作流程生成和動態路由等功能,讓您能夠建構多步驟、精密的代理人,這些代理人能響應外部事件、管理長時間執行的對話,並可靠地協調多個外部服務。
3. 平滑應用程式負載尖峰 如果您的應用程式遇到不可預測的流量激增(例如:限時搶購、突然爆紅),Hatchet 的持久佇列機制能立即接收所有傳入請求。隨後,它會平滑執行曲線,確保任務以受控且可持續的速度傳遞給您的工作者,從而防止工作者過載,並保證關鍵使用者請求能夠被處理而不會遺漏。
結論
Hatchet 賦能工程團隊,使其在不犧牲速度或可靠性的前提下,部署具備彈性、可擴展的分散式應用程式。透過提供一個用於任務編排、流量控制和容錯的統一平台,它顯著減少了營運開銷和開發複雜性。
準備好建立持久、可擴展的工作流程了嗎?立即探索完整的說明文件,或快速開始使用 Hatchet Cloud。





