OpenAI投資的110億美元估值法律AI獨角獸，開始「套殼」中國開源模型

原文標題：《OpenAI投資的110億美元估值法律AI獨角獸，開始「套殼」中國開源模型》
原文作者：動察Beating

8 月 20 日，OpenAI 投資的法律 AI 公司 Harvey 發布 Tenet。這家 2022 年成立的公司現在估值 110 億美元，是全球估值最高的法律 AI 公司，服務上千家機構，股東名單裡還有紅杉、a16z 和 GIC。

Tenet 是它第一套自有模型，底座用的是月之暗面 7 月開放權重的 Kimi K3。Tenet 目前仍處在研究預覽階段，Harvey 計劃把其中驗證過的能力逐步放進產品。

Harvey 的創始人 Winston Weinberg 原本是 O'Melveny & Myers 的訴訟律師，Gabe Pereyra 做過 Google Brain 和 Meta 的大模型研究。OpenAI 很早就投了它，此後雙方還一起訓練過一套案例法模型，把約 100 億 token 的美國案例法數據加入訓練。OpenAI 當時發布的客戶案例裡，Pereyra 說 Harvey 評估過不同方案，最後只信任與 OpenAI 一起完成這次定制訓練。

過去幾年，它幾乎一直是閉源模型在專業服務行業最典型的客戶，也一直能調用全球最強的一批閉源模型。但當它第一次決定把自己的法律任務、律師的評分標準和兩個月的算力真正寫進一套權重，選中的底座卻是一個來自中國的開放權重模型。

一個模型發布以後，行業很快就會知道兩件事。它有多聰明，以及這些能力賣多少錢。幾個小時之內，基準測試更新，Arena 排名變化，各種智慧和價格的坐標圖開始流傳。一個訓練了幾個月、消耗大量算力的模型，最後被壓縮成圖上的一個點。

對多數開發者來說，這套方法依然有效。它背後的前提是，模型交到用戶手裡時，能力已經基本定型。閉源 API 佔主流時，這個前提是成立的。模型公司完成預訓練和後訓練，再把能力封裝成介面。下游企業可以改提示詞、做檢索、搭智能體，但很難繼續改變模型本身。

開放權重把這個前提打破了。企業拿到權重以後，可以繼續放入自己的數據和專家反饋，把真實任務和評價標準帶進訓練。同樣是發布時拿到 90 分的兩個模型，用同一批數據和算力繼續訓練，一個最後停在 91 分，另一個可以到 97 分。對準備投入幾個月時間、算力和專家資源的公司來說，發布時相同的 90 分，已經是天壤之別了。

不過這件事有個前提。企業願意押上幾個月時間和一批算力去繼續訓練，首先得有一套值得訓練的權重。過去幾年開放模型和最前沿的閉源模型之間始終隔著一段距離，通用問答和日常寫程式碼上差得不算多，一旦進入錯誤代價很高的專業場景，這段距離就會被放大。法律又是其中要求最高的那一類，過去能真正進入 Harvey 這類公司核心業務的，基本都是當時能力最強的一批閉源模型。開放權重當然更容易控制和改造，但如果連最基本的專業任務都完成不了，後面的訓練空間也就無從談起。

Kimi K3 讓這道長期存在的門檻第一次被跨過。它的總參數達到 2.8 萬億，支持 100 萬 token 上下文，在長程任務、工具使用和複雜推理上已經具備較好的基礎能力。對 Harvey 來說，開放權重模型第一次不再只是一個成本更低、控制權更多的備選方案，開始進入了可以和前沿模型一起被認真評估的範圍。

於是它們開始關心一個過去很少被單獨拿出來討論的問題，這套權重到底有多容易被繼續訓練。

Cursor 訓練 Composer 2 時就沒有按照常見的編程智能體榜單挑模型。它的判斷是，智能體和長程任務能力會在強化學習過程中發生很大變化，訓練開始前的排名未必能預測最後的結果。相比榜單分數，Cursor 更看重模型的編程知識、狀態追踪能力、在內部程式庫上的困惑度，以及它在自家基礎設施裡的運行效率。最後被選中的底座是 Kimi K2.5 模型。

Devin 背後的 Cognition 也有相同的判斷。K3 開放權重之後，它很快把模型接進 Devin Desktop 和 CLI，在自家的 FrontierCode 1.1 Extended 上，K3 拿到 58.2% 的分數和 63.6% 的通過率。這套測試考察的是真實工程任務，程式碼最後能不能合進主干、質量夠不夠都要計入。Cognition 還提到，K3 在複現 bug 和管理自己的運行環境上表現尤其好，這兩件事恰恰是長程編程任務裡最容易掉鍊子的環節。它隨後也在這套權重上做了後訓練。

真正稀缺的不是法律數據

Harvey 增長很快。今年 3 月，它服務約 1300 家機構和超過 10 萬名律師，五個月之後客戶數量就翻了將近一倍，覆蓋 70 個國家，AmLaw 100 中超過四分之三的律所都在使用 Harvey。

法律服務的專案金額高，對錯誤的容忍度很低。一份併購盡職報告，可能要從成百上千份文件裡找到控制權變更條款，判斷交易是否觸發，再識別風險並附上原文依據。中間往往有幾十個判斷需要連續成立，只要漏掉一個真正影響交易的問題，前面做對的大部分工作都沒有太大意義。

隨著服務的律所越來越多，Harvey 手裡也積累起一類基礎模型公司很難自己獲得的數據。它知道律師會怎樣佈置一項工作，也知道最後拿到結果的合夥人會從哪裡挑錯。

這些經驗後來被做成了 Legal Agent Benchmark。裡面已經有超過 1200 個長程法律任務，覆蓋 24 個執業領域。每個任務的說明平均只有約 50 個詞，模型隨後會進入一個封閉的客戶事項環境。相關文件和大量無關材料混在一起，它需要自己搜索、閱讀、判斷，最後交出一份能夠被逐項檢查的工作成果。

每項任務平均有約 50 條評分標準，複雜任務可以達到幾百條。事實有沒有找全，結論能不能成立，引用是否對應原文，風險等級和建議是否合理，都會被拆成可以單獨判定的評分項。一項任務最長可以持續超過 1000 輪，消耗幾十萬 token。

年輕律師工作幾年以後，會慢慢知道客戶真正擔心什麼，也會記住哪些看起來不起眼的條款不能漏掉。這些經驗過去很難被完整寫進教材，大多留在合夥人的修改、團隊內部的工作習慣，以及一份份已經交付的文件裡。

Harvey 把其中一部分拆成任務、材料和評分標準，模型每一次完成工作的過程，也就有了可以被計算和比較的反饋。

提示詞和檢索能告訴模型去哪裡找，評分標準則開始回答另一個問題，一項法律工作究竟做到什麼程度才算完成。Harvey 過去幾年真正積累下來的，除了客戶和法律數據，還有一套能夠直接用於模型訓練的專業評價體系。

把法律經驗寫進權重

那些任務和評分標準開始真正進入訓練，數據來自公開法律材料、合成數據和人類專家數據，執業律師參與任務構造、評分和合成數據複核。Harvey 一共準備了約 1750 個法律智能體任務環境。

模型進入帶有材料和工具的工作空間以後，要自己閱讀檔案、調用工具並提交結果，系統再按照律師制定的標準檢查整條工作軌跡，看具體要求完成了多少，法律問題解決到了什麼程度。關鍵要求全部通過，還會獲得額外獎勵。

每個訓練周期會產生超過一萬條任務軌跡。Harvey 使用組序列策略優化，也就是 GSPO，讓模型在同一個任務上產生多種做法，再根據結果之間的質量差異更新權重。兩條軌跡得分過於接近時，系統還會重新評分，減少評價噪音對訓練的影響。

整個過程持續約兩個月，使用約 150 張 NVIDIA B300。預訓練一套前沿模型通常要動用上萬張卡，Harvey 這次投入的算力是另一個量級。Harvey 採用 rank-64 LoRA，覆蓋 Kimi K3 的注意力層、前饋網路和路由專家權重，涉及約 50 萬個專家張量。

長軌跡訓練還面臨著一個工程問題。一項法律任務可能持續幾百輪，模型還在生成任務軌跡時，訓練端的權重已經發生了更新。等訓練器回頭計算這條軌跡時，如果兩邊的模型狀態對不上，當時每一步動作對應的機率也會發生變化，獎勵就很難準確作用到原來的決策上。

Kimi K3 的混合專家結構讓這個問題更複雜。每個 token 進入模型後，路由器會從 896 個專家中選擇 16 個參與計算。訓練端和執行端只要在數值精度、批處理方式上存在細小差異，同一個 token 就可能被分給不同的專家，原來的軌跡也就難以完整複現。

Harvey 和它的供應商因此把訓練器和執行環境在核心層做了數值對齊。權重每完成一次更新，就直接熱加載進執行環境，不需要反覆停下任務生成。系統還會記錄 token 對應的專家路由結果，讓訓練器重新計算時盡可能回到模型生成這條軌跡時走過的路徑。

做到這裡，Tenet 已經不太像一次把法律語料加入模型的常規微調。Harvey 搭起來的是一套可以反覆運行的訓練流程。法律任務不斷進入環境，模型完成工作，律師制定的標準評價整條軌跡，權重隨後更新，新模型再回到環境裡做下一輪任務。

Kimi K3 能不能被穩定地繼續訓練，也是在這樣的循環裡被實際檢驗出來的。

訓練後，它更像一個法律 Agent

Harvey 真正想提高的是模型完成長程法律工作的能力。它採用了很嚴格的 all-pass 口徑，一項任務裡的關鍵評分標準必須全部通過。按照 Harvey 公佈的內部結果，在沒有參與訓練的 LAB 保留集上，Tenet 完整完成的任務數量接近原始 Kimi K3 的兩倍，all-pass 率從約 11% 提高到 19.7%，增加約 9 個百分點。

在專門測試合同起草、審查和談判的 LAB Contracts 中，完成任務數量增加約 20%，all-pass 率達到 11.3%，提高約 2 個百分點。按照 Harvey 自己的榜單，Tenet 在 LAB Contracts 排名第一，在完整 LAB 中排名第二。

它隨後又把 Tenet 放進兩套外部測試，Mercor 的 APEX Agents Corporate Law 和 Crosby 的 Redline Bench。前者測試模擬工作環境中的長程專業任務，後者要求模型連續修改合同，再按照律師制定的標準評分。

Tenet 沒有接觸過這兩套測試的訓練數據，成績仍然明顯高於原始 Kimi K3，說明在 Harvey 任務環境裡練出來的能力，可以遷移到新的法律任務裡。

不過，另一個問題是，專業後訓練往往會讓模型越來越擅長某一類工作，同時丟掉一部分原來的知識和推理能力。

在 LegalBench、CUAD 和 MAUD 上，Tenet 沒有出現明顯退步。Scale Professional Reasoning Benchmark 的困難子集中，得分還從 36.0% 小幅升到 36.8%。至少從這組結果看，Kimi K3 在法律任務上變得更強以後，沒有出現明顯的能力遺忘問題。

Harvey 的獎勵設計會在結果質量接近時偏向更短的軌跡，因為法律智能體每多讀一份文件、多調用一次工具，都會增加 token 消耗和等待時間。訓練之後，Tenet 減少了一部分無效步驟，任務質量提高的同時，完成工作的成本基本保持穩定。

這次後訓練改變得更多的，是 Kimi K3 處理複雜法律工作的方式。它更會安排步驟、調用工具，也更少漏掉任務裡的關鍵要求。

Harvey 早在 2025 年就開始採用多模型策略，今年仍在持續接入 OpenAI 和 Anthropic 的新模型。Tenet 終於讓這套體系裡第一次多出了一套由 Harvey 自己訓練、自己控制的開放權重模型。

它需要的是一套底座本身就已經過關的模型。Harvey 的法律任務可能要處理大量文件，連續執行幾百甚至上千輪操作，模型還要在漫長的工作過程中維持狀態。後訓練可以繼續塑造它處理法律工作的方式，卻很難從頭補上一套底座原本並不具備的能力。

另一個條件是控制權。Harvey 可以通過 API 調用 GPT 和 Claude，卻沒辦法把 1750 個法律任務環境和律師的評估標準繼續寫進這些閉源模型。開放權重讓它可以自己決定怎樣訓練、怎樣設計獎勵，也可以把訓練出來的專業能力留在自己掌握的權重裡。

不過拿到權重之後，還要考察這套模型適不適合繼續訓練。長軌跡強化學習能不能穩定跑下去，混合專家的路由能不能準確複現，專業能力提高以後會不會丟掉原來的知識，推理成本還能不能控制在生產可用的範圍內，都要真正試過一次才知道。

Tenet 跑完兩個月以後，Kimi K3 給出了這一輪答案。訓練過程能夠穩定運行，法律任務能力出現明顯增長，沒有看到顯著的能力遺忘，成本也沒有隨著效果一起失控。

對 Harvey 來說，這些結果比「開放權重」本身更重要。權重可以下載，只說明企業有資格繼續訓練。訓練之後還能留下多少能力，才決定這套模型值不值得繼續投入算力、數據和專家時間。

模型公司的另一門生意

Harvey 說，它的目標是讓律所能夠在開放權重上訓練自己的專有模型，並且擁有訓練以後形成的能力。Tenet 交出來的與其說是一套模型，不如說是一套做法。

過去，基礎模型公司的生意大多發生在模型釋出以後的調用裡。開放權重帶來了另一種關係，一家公司可以拿現成的基礎模型繼續訓練，把自己的行業知識留進權重，最後得到一套更接近自身業務的模型。

這類需求以前很難形成一個真正的市場。通用模型能力不夠強時，垂直公司即使拿到權重，也很難只靠後訓練補齊長程推理、工具調用和複雜任務處理。自己從頭預訓練又太貴，多數公司根本沒有必要做。

Cursor 在編程裡訓練出了 Composer 2，Cognition 也在同一套權重上繼續訓練了 Devin 用的模型，Harvey 又在法律裡做出了 Tenet。編程和法律相距很遠，卻都選擇從 Kimi 已經訓練好的通用能力出發，再把自己最熟悉的專業工作繼續放進去。

Tenet 也讓這件事的門檻變得具體。兩個月，約 150 張卡，加上一套由執業律師定義的評價標準，一家公司就可以把一套通用權重推到自己行業的前沿。算力門檻已經下降了一個數量級，更難復製的部分開始落到另一端，有沒有人能夠說清楚，一項專業工作做到什麼程度才算完成。

軟件開發和法律只是已經出現的兩個案例。金融、咨詢、醫藥、會計，以及大量專業服務行業，都有自己的數據、工作流和專家判斷。這些行業本身就是規模以萬億美元計算的知識工作市場。裡面最頭部的公司未必會自己預訓練基礎模型，卻越來越有條件在一套成熟權重上繼續訓練屬於自己的模型。

如果這條路徑繼續成立，Kimi 面對的市場就不再只是有多少人調用它。接下來更值得關注的是，Harvey、Cursor 和 Devin 之後，還會有多少公司選擇在 Kimi 上訓練自己的模型。

原文鏈接