美股

Anthropic為Claude加AI浮水印引爆爭議!Reddit用戶正反激辯

鉅亨網編譯莊閔棻

Anthropic近期決定為旗下Claude聊天機器人的輸出內容加入隱形浮水印,在生成的文字中嵌入一般使用者肉眼無法察覺、但可由電腦系統辨識的程式碼,以標示內容是否由AI生成,引發一些用戶不滿。

cover image of news article
Anthropic為Claude加AI浮水印引爆爭議。(圖:Shutterstock)

根據《TechCrunch》報導,Anthropic此舉主要是為配合歐盟《人工智慧法案》(EU AI Act)旗下的透明度規範。相關規範要求科技公司對AI生成或經AI編輯的內容進行標記,而且標記方式必須能夠被電腦系統識別。


不過,這項政策雖符合監管方向,卻也在部分Claude使用者之間引發爭議。

從Reddit上的討論可以看到,不少使用者對AI浮水印持不同看法。其中,一名帳號註冊僅約3週、名為visionode的使用者認為,這套新的浮水印機制是一場嚴苛的陰謀,目的是讓全球無辜的聊天機器人使用者成為受害者。

visionode的核心論點似乎是,熟悉AI工具的Claude使用者,或許可以透過改寫內容,或利用其他AI服務對輸出內容進一步處理,來掩蓋自己使用AI的痕跡;但對一般Claude使用者而言,則可能無法躲過偵測。

該使用者舉例,學生若只是使用Claude協助重新整理段落、記者利用AI整理長達200頁的逐字稿,或作家因創作瓶頸請Claude提供同義詞,最後都可能留下AI生成的標記。

不過,這套說法也沒有獲得所有Reddit使用者認同。有網友認為,若記者只是利用Claude整理大量逐字稿,浮水印本身並不會造成太大問題,除非記者直接將AI整理出的內容原封不動放入報導;同樣地,學生若將Claude產出的文字直接貼進作業,也涉及學術誠信問題。

另一名使用者則直接要求原發文者「深呼吸」,顯示部分網友並不認為浮水印本身構成嚴重問題。

除了對使用情境的疑慮,也有使用者從「創作者權益」角度批評Anthropic的做法。其中一名網友認為,自己在使用Claude時提供指令、背景資訊、判斷與多次修改,Claude只是協助完成工作的工具,因此質疑如果Claude開始對生成的程式碼或其他內容加上浮水印,究竟是在主張什麼樣的「所有權」。

然而,其他使用者很快反駁這項觀點,指出浮水印並非代表Claude要對內容主張所有權,而是為了讓外界能夠辨識AI生成內容,降低AI產製內容可能帶來的各種風險。

甚至有網友調侃,批評Claude的文章本身似乎就是透過Claude撰寫,反而讓這場討論形成反差。

值得注意的是,並非所有批評者都採取如此強烈的立場。有使用者認為,真正值得討論的是AI浮水印背後的倫理問題,尤其考量部分大型AI模型本身就是透過大量人類創作內容進行訓練,在這樣的背景下,再由AI替使用者產出的內容加入浮水印,確實存在某種諷刺意味。

不過,從目前Reddit上的相關討論來看,支持Anthropic加入浮水印的聲音仍相當明顯。有使用者認為,讓AI生成內容具備可辨識性本身並沒有充分理由被反對,真正不希望內容被標示的人,主要是擔心他人知道內容曾經經過AI生成。


section icon

鉅亨講座

看更多
  • 講座
  • 公告

    Empty
    Empty