人工智慧助理 ChatGPT 推出了一項新功能，讓它能夠記住使用者的資訊並提供更個人化的體驗，但這項功能也引發了一些隱私疑慮。

ChatGPT 新記憶功能詳解

根據 OpenAI 的說明， ChatGPT 的新記憶功能可以跨對話儲存使用者分享的個人細節，例如姓名、興趣和工作等資訊。即使使用者沒有明確要求 ChatGPT “記住”，它也會自動記錄對話中值得注意的細節。不同的 AI 模型將擁有獨立的記憶空間，不會共享使用者資料。

使用者也可以主動要求 ChatGPT 記住特定的內容，讓對話更加貼近個人需求。 OpenAI 表示這項功能的目的是為了提高 AI 助理的個人化體驗，讓它能夠根據使用者的喜好和背景提供更加貼切的回應。

舉例來說， 一個使用者向 ChatGPT 提供了三個不同的事實：她有一個即將五歲的女兒 Lina 、 Lina 喜歡水母、 Lina 喜歡粉紅色。在第四次對話中，使用者要求 ChatGPT 為她的女兒製作生日賀卡， ChatGPT 便運用這些記憶，使用 DALL-E 生成了一張畫有粉色水母的粉色賀卡。

隱私和數據使用疑慮

儘管記憶功能預設為開啟狀態，但使用者可以透過設定選項將其關閉或清除記憶。 OpenAI 聲稱會試圖避免主動儲存使用者的敏感資訊，例如密碼或證件號碼，而新功能的一個設計就是拒絕保存此類數據。

然而，使用者對話中的記錄可能會被 OpenAI 用於進一步訓練和改進其 AI 模型，除非使用者選擇退出這項做法。此外，先前也曾發生過部分對話記錄外洩的事件，引發了人們對於儲存個人數據的隱私疑慮。

結語

ChatGPT 的新記憶功能無疑能夠提升 AI 助理的個人化體驗，但它也引發了人們對隱私權的疑慮。隨著 ChatGPT 的應用範圍越來越廣，社會對其合規性的呼聲也越來越高。 OpenAI 需要加強對 ChatGPT 的安全防護，避免其被利用從事違法犯罪活動。

附註：筆者實測結果，這個功能比較像是用戶告訴 ChatGPT 他想要什麼，打算讓 ChatGPT 固定用什麼方式回答，如同一個介於 Custom instructions (自訂指令) 與 GPTs 之間的輔助功能，用來增強 Custom instructions 無法涵蓋的交互細節。所以在使用時”建議”在對話中明確告訴 ChatGPT 我們想要它固定做的事，例如”請你在後續的對話中固定使用禮貌的口吻”、”後續的對話只使用繁體中文，不要用簡體中文”。筆者認為它與一般用戶所想像記憶每個對話的細節加以調整後續的對話的方式不太一樣(或許它會在對話中自動記憶用戶的關鍵資訊，但因為筆者的測試時間較短，目前還沒看到它主動將一般對話紀錄到 Memory 中)。如下圖所示：

而根據 GPT-4 Turbo 自己的說法，Custom Instructions 允許使用者向模型提供特定的指令，以指導生成內容的方向，這意味著使用者可以透過自定義指令來定制模型的行為，使其更符合特定任務或場景的需求；Memory 功能使模型能夠存儲和檢索資訊，從而在生成文本時能夠更好地保持上下文和一致性。通過將過去的資訊存儲在內部記憶中，模型可以更好地理解當前對話或文本的背景，並相應地調整其生成內容，以更好地滿足使用者的需求。