OpenAI 近日宣布，他們已開始開發新的溯源方法，用于跟蹤內容并證明其是否由人工智能生成。其中包括使用人工智能來確定照片是否是由 AI 生成的新的圖像檢測分類器，以及一種耐篡改的水印技術，可為內容添加不可見信號。

　　這個分類器可以預測照片是否由 DALL-E3生成。OpenAI 聲稱，即使圖像被裁剪、壓縮或飽和度發生變化，該分類器也能以約98% 的準確率檢測出圖像是否由 DALL-E 生成。然而，該工具在確定內容是否來自其他 AI 模型的性能則不佳，只能標記出來自其他圖像生成器(如 Midjourney)的照片的5% 至10%。

　　此前，OpenAI 已經在圖像的元數據中加入了 Coalition of Content Provenance and AuthorityC2PA)提供的內容憑證。內容憑證本質上就是水印，包含有關圖像所有者和創建方式的信息。OpenAI 與微軟、Adobe 等公司一樣，是 C2PA 的成員之一。此外，本月，OpenAI 還加入了 CPA 的指導委員會。

　　除了圖像分類器，OpenAI 還開始向其文本到語音平臺 Voice Engine 的片段添加水印。這一功能目前處于有限預覽階段。

　　無論是圖像分類器還是音頻水印技術，都還在不斷完善中。OpenAI 表示需要從用戶處獲得反饋以測試其有效性。研究人員和非營利新聞機構可以通過 OpenAI 的研究訪問平臺測試圖像檢測分類器。

　　多年來，OpenAI 一直致力于檢測由 AI 生成的內容。然而，在2023年，他們不得不終止一項旨在識別 AI 寫作文本的計劃，因為 AI 文本分類器一直準確率很低。