隨著生成式人工智慧(Generative AI)技術的快速發展,AI 生成的圖像越來越難以與真實圖像區分。這不僅帶來創新的可能性,也帶來了新的風險,例如散播虛假資訊。Google DeepMind 和 Google Cloud 合作推出了一個名為 SynthID 的新工具,通過數位水印技術識別 AI 生成的圖像。
SynthID 的工作原理
SynthID 使用兩個深度學習模型進行水印添加和識別。這些模型經過多樣化的圖像集訓練,並在多個目標上進行優化,包括正確識別有水印的內容和提高水印的不可察覺性。這種技術將數位水印直接嵌入到圖像的像素中,使其對人眼不可察覺,但可用於識別。
應用場景與限制
SynthID 主要針對使用 DeepMind 的 Imagen 文字到圖像模型的 Vertex AI 客戶。儘管這項技術不是萬無一失的,但它對許多常見的圖像操作具有很高的準確性。此外,SynthID 也可以與基於元數據的其他圖像識別方法相兼容。
社會影響與未來發展
SynthID 不僅有助於識別 AI 生成的圖像,還有助於防止虛假資訊的傳播,從而增強社會對生成媒體的認識。DeepMind 正在積極收集用戶反饋,以不斷提升 SynthID 的功能和探索新特性。
結語
SynthID 提供了一個有前景的技術途徑,使人們和組織能夠負責任地使用 AI 生成的內容。隨著生成模型的不斷進步和擴展到其他媒體,這項技術有望與更廣泛的解決方案一起工作,為創作者和用戶提供更多選擇。