最後更新日期 2024 年 8 月 9 日 by SHIH HANG
OpenAI 正積極開發一款能夠偵測 ChatGPT 生成的文字的工具，旨在遏止學生利用 ChatGPT 作弊的行為。然而，該公司尚未決定是否要推出此工具，因為他們擔憂此舉可能導致用戶流失，並帶來其他負面影響。
OpenAI 的文字浮水印技術利用文字中的特定模式來識別 AI 生成的文字。該公司聲稱，他們的工具可以達到 99.9% 的準確度，並且能夠偵測到 ChatGPT 生成的全部或部分文件。他們甚至考慮向教育工作者或公司發行浮水印工具，以幫助學校識別抄襲作品。
然而，OpenAI 也意識到，他們的工具並非完美。學生可以透過重新組裝措辭、翻譯語言或刪除表情符號等方式規避偵測。為了避免誤判，OpenAI 正在測試使用文字中的加密簽名元資料。
OpenAI 執行長 Sam Altman 和技術長 Mira Murati 都表示，尚未正式發布該功能，因為它並非完全有效，並且可能會損害他們的業務。OpenAI 面臨著在透明度、盈利和道德責任之間取得平衡的挑戰。他們希望能夠盡可能地防止學生作弊，同時也不希望失去用戶或損害 ChatGPT 的聲譽。
根據民主與科技中心 (CDT) 的調查，高達 59% 的初中和高中教師發現學生在作業中濫用 AI 作弊，這比上學年大幅提高了 17 個百分點。這顯示出 AI 工具在教育領域的道德困境，以及 OpenAI 在開發偵測工具時所面臨的挑戰。
OpenAI 的目標是開發一種既能有效防止學生作弊，又能確保透明度和用戶信任的工具。這是一個複雜的議題，需要 OpenAI 在倫理、技術和商業利益之間取得平衡。最終，這項工具是否會問世，以及如何運用，將會是 OpenAI 在人工智能領域發展道路上的一項重要考驗。
