Martian

Martian 是一家公司的目標是讓 AI 工具化成為可能，透過把 Transformer 轉換成程式，讓人們更了解它們是如何運作的。他們的第一個工具「模型路由器」，把詢問路由到最佳語言模型，達到比個別供應商更高的效能和更低的成本。此工具基於他們的模型對應手法，這包括將模型轉換成新的格式，同時保留重要的屬性。透過將模型對應到更大的模型或者將它們嵌入到向量空間中，他們可以獲得洞察並預測它們的效能，而不需要執行它們。

主要特色：

1. 模型路由器：模型路由器把詢問路由到最適合的語言模型。

2. 效能更高：在應用程式中使用一組模型，可以達到比單一語言模型更高的效能。

3. 成本更低：模型路由器透過選擇更實惠的模型，在不犧牲效能的情況下提供降低成本。

4. 效能超越 GPT-4：在 OpenAI 的評量套件（openai/evals）中，模型路由器在 91.8% 的任務上都超越了 GPT-4，在針對效能最佳化時，平均降低了 20% 的成本。

5. 模型對應：Martian 的手法包括將模型對應到新的格式，同時保留重要的屬性。

6. 了解模型：模型對應讓人們能夠更深入地了解 AI 模型如何運作，透過區分神經元中的不同功能，並建立更稀疏、更容易理解的模型。

7. 嵌入模型：將模型嵌入到向量空間中，讓人們能夠預測它們在特定提示上的效能，而不需要執行它們。

8. 將 Transformer 轉換成程式：透過將 Transformer 對應到程式，開發人員可以運用用於了解程式碼的工具，來更好地了解 AI 模型。

使用案例：

1. 模型間的高效路由：模型路由器可以用在有可用多個語言模型的應用程式中，以根據詢問需求達到最佳路由，並以降低的成本改善整體系統效能。

2. 效能需求下的成本最佳化：想要部署 AI 模型的公司可以使用模型路由器，選擇符合其效能需求、最具成本效益的模型，這將帶來顯著的成本節省。

3. 改善模型理解：模型對應技術可以應用於深入了解 AI 模型，讓研究人員和開發人員能夠更有效地分析和詮釋其行為。

Martian 的模型路由器是一個創新的工具，它利用模型對應技術在 AI 應用程式中達到更高的效能和更低的成本。透過模型對應了解語言模型如何運作，Martian 的目標是建立真正令人驚豔的 AI 工具。這只是他們邁向建立強大工具的旅程的開始，這些工具將有助於人們更好地了解人工智慧，並讓新類型的 AI 基礎建設成為可能。隨著每一次突破，他們致力於讓我們更接近完全理解 AI，並發展出強大的智慧理論。