近期，《自然》雜志對OpenAI的首席科學家雅庫布·帕喬茨基進行了一次深入訪談，話題涵蓋了人工智能（AI）在科研領域的原創性、人工通用智能（AGI）的發展前景，以及OpenAI即將推出的開源模型計劃。
在訪談中，帕喬茨基分享了對于AI模型未來五年內可能帶來的變革的見解。他指出，當前與AI模型互動時，模型更像是一個需要持續引導的助手，但這種情況即將發生顯著變化。OpenAI的Deep Research工具已經能夠在無監督的情況下工作一段時間，并產生有用的結果，盡管目前所需的計算資源相對較少。帕喬茨基預測，隨著計算資源的增加，AI將能夠進行原創研究，特別是在自動化軟件工程和硬件組件自主設計等領域，其他學科也將緊隨其后。
關于OpenAI推理模型的開發，帕喬茨基強調了強化學習的重要性。他提到，最初的ChatGPT版本通過無監督的預訓練階段構建世界模型，然后通過強化學習和人工反饋提煉出實用的助手。最新的推理模型進展更加側重于強化學習階段，使模型能夠找到自己的思維方式。帕喬茨基表示，他正在研究如何融合不同學習方法，理解它們的相互作用。
在談到AI模型是否真正在推理時，帕喬茨基指出，AI模型的工作方式與人類大腦不同。預訓練模型能夠學到一些世界知識，但并不真正理解學習過程和時間順序感。然而，他認為已經有足夠證據表明，模型能夠發現新的見解，這可以算作一種推理，盡管與人類的推理方式不完全相同。
帕喬茨基還透露了OpenAI即將發布開源模型的計劃。他表示，能夠為研究人員提供開源模型的機會讓他感到非常興奮，因為這將使他們能夠下載并進行進一步訓練。隨著模型的不斷進步，OpenAI需要承擔更多責任，了解模型部署方式對人類的影響。然而，發布具有開源權重的前沿模型將非常困難，主要是出于安全考慮。他希望能夠發布一個比現有開源模型更好的版本。
在談到AGI時，帕喬茨基表示他的時間表和定義都發生了很大變化。他提到，在剛進入研究生院時，他認為實現AGI還需要幾十年，但圍棋在2016年被攻克讓他感到震撼。加入OpenAI后，他一度是公司內的懷疑者之一，但里程碑的突破比他預期的要快。他認為，AI已經在圖靈測試方面取得了顯著進展，并在數學和問題解決能力方面取得了很大進展。他預計，最具挑戰性的基準測試將很快被超越。帕喬茨基表示，他目前關注的下一個重要里程碑是AI能否在經濟上產生實際的、可量化的影響，尤其是能否創造原創的科研成果。他預計，到本十年結束時，AI將取得非常顯著的進展。
