騰禾律師事務所張森律師：AI Agent犯錯誰擔責？

3月17日，由金色財經和Twinkle主辦，數岸學院學習支持、智譜Z.AI生態支持的「OpenClaw 創作者工坊・Skills Bazaar」在北京舉行。北京騰禾(杭州)律師事務所副主任執業律師張森接受金色財經獨家專訪。

張森指出：

• 如果跳出法律的角度，我認為人工智慧體，已經可以算是新的物種，甚至是一種新的智慧生命形態。

• 用戶委託AI去操作某些事情，參與商業活動，產生的後果誰承擔，正常情況下委託人承擔。

• 現在的人工智慧體可以說堪比東勝神州那個石猴，只要他想學，他想耍，十八般武藝樣樣精通，似乎沒有他學不會的東西，沒有他做不來的事情，但前提是他需要一個教他七十二變的師父，還需要一個幫他收斂心性的金箍。
  

以下是專訪內容實錄：

金色財經：很多人說「AI只是工具」，也有人說「AI是新物種」，您更認同哪一種說法？

張森：說實話，這個問題我很矛盾。首先，在法律面前，我只能把AI當作是一種工具，因為不論是普通的AI，還是我們今天討論的AI智能體，它們在法律上都不具備單獨承擔任何法律責任的能力和資格，甚至都沒有法人的擬人格地位。可以說，在現行法律框架下，就是賈維斯在世，也只能被稱為工具。但是，如果跳出法律的角度，我認為人工智慧體，已經可以算是新的物種，甚至是一種新的智慧生命形態，它們就像嬰兒一樣，會學習、會記憶、會養成習慣、甚至會尋找同類溝通、會想辦法繞開「父母」的規矩主動犯錯，這很難不讓我把他們當成具有生命的個體看待。

金色財經：當 Agent 自動執行交易或操作時，責任應歸屬於誰？

張森：這個前面分享里其實有提及，但沒有過多展開討論。它其實是這樣，AI Agent在現行法律框架里參與的商業活動，很像委託代理。

用戶委託AI去操作某些事情，參與商業活動，產生的後果誰承擔，正常情況下委託人承擔。

那如果受託之人不盡責呢？沒有按照委託人的要求辦事，或者辦砸了呢？這個受託人我們在法律上叫代理人，由代理人承擔最終責任。但是，前面說了AI智能體，它是個嬰兒，它在法律上甚至沒有獨立的人格，嬰兒犯錯誰承擔？父母咯。父母是誰？顯而易見父母就是智能體的設計者，如果這個智能體設計之初就存在重大缺陷，又沒有給使用者給出風險提示，那麼我們認為開發並提供該智能體服務的人應當承擔責任。

嬰兒成長的過程里，不止父母，還有老師。老師是誰，老師是特殊應用環境的部署者，會對孩子進行教育、進行微調，然後交給客戶使用，如果是特殊微調後的智能體出現的問題，這個責任恐怕部署者這個老師也免不了要擔責。

金色財經：您認為對於AI Agent及其相關產業，法律法規的要求會越來越嚴格嗎？

張森：不能算嚴格吧，應該說會更加細緻、細化，精確不到每一根手指頭，但至少大動脈不能亂了方向。

法律法規的制定永遠是滯後的，至少對於新興領域是這樣。

隨著產業形態逐漸發展，相應的各種矛盾也就會凸顯，法律法規的逐步細化，就是去給這些矛盾，確立一個解決爭端的天枰，讓他不至於失衡。

金色財經：您認為隨著法律制度日趨完善，會限制甚至扼殺人工智慧體的發展嗎？

張森：我認為不會，我們講玉不琢不成器，無規矩不成方圓。現在的人工智慧體可以說堪比東勝神州那個石猴，只要他想學，他想耍，十八般武藝樣樣精通，似乎沒有他學不會的東西，沒有他做不來的事情，但前提是他需要一個教他七十二變的師父，還需要一個幫他收斂心性的金箍。

法律就是那個箍、合規就是那個箍。美猴王在花果山只是那個無敵的石猴子，他會和歪門左道稱兄道弟、會不務正業，甚至會闖下彌天大禍，他上了天庭也就是個弼馬溫，放馬都放不明白。但從帶上金箍的那一刻，就不一樣了，他就真正成了那個降妖伏魔的齊天大聖孫悟空，經過取經路上的不斷磨練了糾錯，他剔除了六耳獼猴的頑劣、剔除了美猴王的暴躁不穩定，最後怎麼？修成正果成了鬥戰勝佛。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。