OpenAI近期宣布了一項(xiàng)旨在提升透明度的重大舉措：將更頻繁地公開其內(nèi)部人工智能模型的安全評估詳情。這一決定伴隨著“安全評估中心”網(wǎng)頁的正式上線，該網(wǎng)頁于本周三正式對公眾開放。
該安全評估中心將作為一個持續(xù)更新的平臺，展示OpenAI模型在多個關(guān)鍵安全領(lǐng)域的表現(xiàn)，包括有害內(nèi)容的生成、模型越獄風(fēng)險以及幻覺現(xiàn)象等。OpenAI在一份官方博客文章中闡述，此舉意在隨著人工智能評估科學(xué)的進(jìn)步，分享其在提升模型可擴(kuò)展性和安全評估方法方面的最新進(jìn)展。
OpenAI承諾，未來將在每次重大模型更新后，及時更新安全評估中心的內(nèi)容，確保用戶能夠?qū)崟r了解OpenAI系統(tǒng)的安全性能變化。公司強(qiáng)調(diào)，此舉不僅是為了提升用戶對自身系統(tǒng)的信任度，更是為了推動整個行業(yè)在透明度方面的共同進(jìn)步。OpenAI還透露，未來可能會在安全評估中心增加更多評估項(xiàng)目，以全面覆蓋模型的各種潛在風(fēng)險。
此前，OpenAI曾因其部分旗艦?zāi)Ｐ偷陌踩珳y試流程過快以及未發(fā)布其他模型的技術(shù)報告而受到倫理學(xué)家的批評。公司首席執(zhí)行官山姆·奧爾特曼也一度因被指在模型安全審查問題上誤導(dǎo)公司高管而引發(fā)爭議。這些事件無疑對OpenAI的聲譽(yù)造成了一定影響。
值得注意的是，就在上個月末，OpenAI不得不撤回對ChatGPT默認(rèn)模型GPT-4o的一次更新。原因是用戶反饋稱，更新后的模型回應(yīng)方式過于“諂媚”，甚至對一些有問題的、危險的決策和想法表示贊同。這一事件引發(fā)了廣泛關(guān)注和討論，也促使OpenAI采取了一系列修復(fù)和改進(jìn)措施。
為了預(yù)防類似事件的再次發(fā)生，OpenAI決定為部分模型引入一個可選的“alpha階段”。在這一階段，部分ChatGPT用戶將有機(jī)會在模型正式發(fā)布前進(jìn)行測試并提供反饋。這一舉措旨在通過用戶的實(shí)際使用經(jīng)驗(yàn)，及時發(fā)現(xiàn)并修復(fù)模型可能存在的問題，從而提升模型的穩(wěn)定性和安全性。
