# OpenAI因準確度問題停用AI文本分類器

- 連結：https://leggie.co/openai%e5%9b%a0%e6%ba%96%e7%a2%ba%e5%ba%a6%e5%95%8f%e9%a1%8c%e5%81%9c%e7%94%a8ai%e6%96%87%e6%9c%ac%e5%88%86%e9%a1%9e%e5%99%a8/
- 發佈時間：2023-07-26T09:04:57+08:00
- 作者：Leggie

![OpenAI](data:image/gif;base64,R0lGODlhAQABAAAAACH5BAEKAAEALAAAAAABAAEAAAICTAEAOw
==)

Photo by [Levart_Photographer](https://unsplash.com/@siva_photography?utm_source=unsplash&utm_medium=referral&utm_content=creditCopyText)
on [Unsplash](https://unsplash.com/photos/7q-kE4SZzvQ?utm_source=unsplash&utm_medium=referral&utm_content=creditCopyText)

OpenAI近期停用了其AI文本分類器，該工具旨在識別AI生成的文本，但因準確度問題而受到
批評。OpenAI在其[部落格文章](https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text)
中更新，宣布自2023年7月20日起，該AI分類器已不再提供使用。OpenAI表示，他們正在努力
吸納反饋，並正在研究更有效的文本來源技術，並承諾開發和部署讓使用者能夠理解音頻或
視頻內容是否由AI生成的機制。

該分類器於2023年3月推出，是OpenAI努力開發AI分類器工具的一部分，該工具有助於人們理解
音頻或視頻內容是否由AI生成。該工具旨在通過分析語言特徵並分配“概率評級”來檢測文本
段落是由人類還是AI寫作的。該工具曾經受到歡迎，但最終由於其在區分人類和機器寫作方面
的不足而被停用。

OpenAI的文本分類器的突然停用，突顯出開發可靠AI檢測系統的持續挑戰。研究人員警告說，
如果不負責任地部署，不準確的結果可能導致意想不到的後果。研究人員發現，這些工具經常
將人類寫作的文本錯誤地標記為AI生成，尤其是對於非英語為母語的人來說。他們強調，AI
的持續進步將需要檢測方法的平行進步，以確保公平性、問責性和透明度。然而，批評者說，
生成AI的發展速度迅速超過了檢測工具，使得更容易逃避。

專家們警告不要過度依賴當前的分類器進行高風險的決策，如學術抄襲檢測。依賴不準確的
AI檢測系統可能會產生以下潛在後果：

 * 如果系統錯誤地將他們的原創作品標記為AI生成，可能會不公平地指控人類作家抄襲或作弊。
 * 如果系統未能正確識別非人類文本，可能會讓抄襲或AI生成的內容未被檢測到。
 * 如果AI更有可能將某些群體的寫作風格錯誤地分類為非人類，可能會加強偏見。
 * 如果一個有缺陷的系統未能檢測到偽造或操縱的內容，可能會傳播錯誤訊息。

隨著AI生成的內容變得越來越普遍，繼續改進分類系統以建立信任變得至關重要。OpenAI表示，
他們仍致力於開發更強大的技術來識別AI內容。然而，他們的分類器的快速失敗證明，完善
這種技術需要取得重大進展。
