OpenAI 正準備為 ChatGPT 推出新的“成人模式”，該功能將允許用戶進行更明確的基於文字的對話。該公司澄清說，這種模式將專注於生成淫穢或成人主題書面內容，但不會產生通常被認為是色情的內容。這種差異是 OpenAI 平衡使用者自由與內容安全的方法的關鍵。
OpenAI 的成人模式是什麼？
OpenAI 的 ChatGPT 延遲成人模式旨在實現生動活潑的文字對話。據報道，最初的發布將不包括生成圖像、語音或視訊的功能。
一位不願透露姓名的發言人告訴《華爾街日報》，此功能啟用的內容將被歸類為色情內容，而不是色情內容。這允許用戶透過文字互動探索成人主題，而無需進入明確的視覺或音訊媒體。
定義界線：淫穢內容與色情內容
那麼到底什麼時候色情內容被視為色情內容呢？區別通常在於媒介和明確性。
色情內容通常指具有成人主題的書面內容，而色情內容通常涉及視覺或圖形描述。 OpenAI 似乎正在劃清界限，以維持一定程度的安全性和合規性。
這種仔細的分類有助於公司避免更嚴格的監管審查。這也符合其對負責任的人工智慧開發的承諾。
初步公告與安全注意事項
該功能由 OpenAI 執行長 Sam Altman 在 10 月首次宣布。他表示，該公司在減輕與人工智慧相關的潛在心理健康風險方面取得了進展。
因此，OpenAI 放心地放寬了一些安全限制。這為「經過驗證的成人色情作品」的引入鋪平了道路。
為什麼現在只使用文字？
在發佈時將成人模式限制為文本生成是一項策略決策。影像、語音和視訊生成具有更高的誤用風險。
從文字開始，OpenAI 可以監控使用情況並收集資料。這種分階段方法允許在擴展到更敏感的媒體類型之前進行調整。
潛在影響與使用者反應
成人模式的引入可以顯著擴大 ChatGPT 的用戶群。許多成年人尋求能夠反映更廣泛的人類經驗的人工智慧互動。
然而，此舉並非沒有爭議。批評者擔心人工智慧生成的露骨內容的正常化。
其他人質疑過濾器和保護措施是否足夠強大。確保該技術不被濫用將是一項持續的挑戰。
即將推出的成人模式的主要特點
- 以文本為基礎的成人主題對話
- 啟動時不產生影像、音訊或視訊
- 年齡驗證以確保用戶安全
- 內容過濾器可防止極端內容
展望未來：人工智慧與成人內容的未來
OpenAI 的舉動可能為其他人工智慧公司樹立先例。創新與安全之間的平衡將繼續成為熱門話題。
如果純文字模式被證明是可管理的，未來的更新可能會包括更多媒體類型。目前，重點仍然是創建一個安全但寬鬆的文字環境。
隨著人工智慧越來越融入日常生活，成人模式等功能凸顯了它的潛力和陷阱。隨著這些技術的發展，及時了解情況至關重要。
有關負責任的 AI 工具和更新的更多見解，請造訪 Seemless。
