最後更新日期 2024 年 8 月 9 日 by SHIH HANG
OpenAI 近期宣布已開發出為 AI 生成內容添加浮水印的方法，此舉旨在幫助研究人員檢測內容的真實性，避免學生或內容創作者濫用 ChatGPT 生成內容。OpenAI 表示，他們正在推出新的工具，來幫助研究人員研究內容的真實性。他們透露，已經開發出為 AI 生成內容添加浮水印的方法，並且表示其準確度非常高，尤其是在局部篡改（如：改寫段落）特別有效。
OpenAI 也正在探索另一種「文字元數據」的方法，其加密簽名特性可避免誤報。然而，浮水印方法在處理大量文字內容時，可能會產生較高的誤報率。OpenAI 尚未公開浮水印的具體技術細節。
目前網路上已有許多工具可檢測文章是否由 AI 生成，但準確度仍存在爭議。許多創作者使用 ChatGPT 來提升創作效率，但目前大多數人尚未接受 AI 生成內容。外媒 TechCrunch 報導中指出，OpenAI 正採取 “慎重的方法”，因為 “涉及的複雜性及其對 OpenAI 之外更廣泛生態系統的可能影響”。
OpenAI 推出浮水印技術，有助於辨識 ChatGPT 生成內容，有助於避免濫用。但此舉可能引發創作者反彈，因為他們可能不希望自己的作品被識別為 AI 生成。部分人認為目前的 AI 偵測工具雖然不完美，但至少能提供參考，不至於影響創作者。OpenAI 正採取謹慎態度，尚未推出浮水印工具，可能考慮到其對更廣泛生態系統的影響。
根據調查，30% 的 ChatGPT 用戶表示，如果檢測系統推出，他們可能減少使用該工具。此數據顯示出 OpenAI 在推出浮水印技術時，需要謹慎評估其對用戶的影響。
