OpenAI 於2024年7月18日宣布推出其最新的生成式 AI 模型— GPT-4o Mini 。這款新模型以其高效能和低成本的特點，旨在使先進的人工智能技術更加普及和可負擔。
主要特點
成本效益
GPT-4o Mini 的定價為每百萬個輸入標記15美分和每百萬個輸出標記60美分，比之前的 GPT-3.5 Turbo 便宜超過60%。這使得它成為市場上最具成本效益的小型模型之一，適合需要大量API調用或大範圍上下文處理的應用程序。
性能表現
GPT-4o Mini 在多項基準測試中表現優異：
- 在 Massive Multitask Language Understanding (MMLU) 測試中得分82%，超過了 Gemini Flash (77.9%) 和 Claude Haiku (73.8%) 。
- 在數學和編碼測試中也表現出色， MGSM 測試得分87%， HumanEval 測試得分87.2%。
- 在多模態推理測試( MMMU )中得分59.4%，優於 Gemini Flash (56.1%)和 Claude Haiku (50.2%)。
多模態支持
目前， GPT-4o Mini 支持文本和視覺輸入，未來計劃支持圖像、視頻和音頻輸入和輸出。這使得它在處理多模態任務方面具有很大的潛力。
上下文窗口
GPT-4o Mini 擁有128K標記的上下文窗口，這意味著它可以處理相當於一本書長度的文本，適合需要長上下文的應用場景。
多語言支持
GPT-4o Mini 在多語言理解方面也有改進，能夠更有效地處理非英語文本。
應用場景
GPT-4o Mini 的低成本和高性能使其適合各種應用，包括：
- 客戶支持聊天機器人：能夠提供快速、實時的文本響應。
- 數據提取：如從收據中提取結構化數據。
- 自動化電子郵件回覆：根據郵件線索生成高質量的回覆。
安全性和合規性
GPT-4o Mini 採用了新的「指令層級」方法，這有助於提高模型對越獄、提示注入和系統提示提取的抵抗力。此外， OpenAI 還邀請了超過70位外部專家測試模型的潛在風險，並在訓練和後訓練階段進行了多項安全措施。
可用性和定價
GPT-4o Mini 已經在 Assistants API 、 Chat Completions API 和 Batch API 中上線，並且將取代 GPT-3.5 Turbo 成為 ChatGPT 的默認模型。免費用戶、 Plus 用戶和團隊用戶可以立即使用，企業用戶將於下週開始使用。
結語
GPT-4o Mini 的推出標誌著 AI 技術在成本效益和性能上的重大進步。這款模型不僅使開發者能夠更高效地構建和擴展強大的 AI 應用，還有助於推動 AI 技術的普及和應用。