近期，科技界迎來了一項引人矚目的新進展。據科技媒體The Decoder報道，OpenAI的高級模型開發領軍人物Jakub Pachocki在一篇博文中提出了一個頗具顛覆性的觀點：AI推理模型正逐步展現出自主生成知識的能力。
Pachocki強調，這種推理機制并非是對人類思維的簡單模仿，而是一個基于大數據和先進算法的創新過程。他詳細闡述了AI學習的兩個階段。在第一階段，模型通過無監督預訓練，廣泛吸收各類數據，構建出一個無意識的“世界模型”，這個模型為理解現實世界的基本結構提供了基礎。
進入第二階段，模型則通過強化學習與人類反饋（RLHF）的結合，將基礎模型轉化為能夠解決實際問題的助手。Pachocki特別指出，在最新的推理模型中，這一階段發揮著至關重要的作用。他同時提到，OpenAI在處理有明確答案的任務時，仍采用傳統的強化學習方法，而RLHF則更適合應對復雜問題，盡管其擴展性受到一定限制。
Pachocki還對傳統的學習階段劃分提出了質疑。他認為，推理模型的“思考”能力實際上深深植根于預訓練數據中，因此預訓練與強化學習不應被視為兩個完全獨立的階段，而是需要更加緊密地融合。
近期一篇學術論文也指出，推理訓練并非為模型帶來了全新的能力，而是幫助它們以更高效的方式運用已有知識。例如，模型能夠以更加結構化的方式解決已知問題。Pachocki對這一觀點表示贊同，并進一步指出，模型已經開始展現出發現新見解的潛力，這為AI的未來發展奠定了堅實的基礎。
在談到通用人工智能（AGI）時，Pachocki表示自己的觀點一直在不斷演變。他回憶起自己作為學生時，曾認為AI掌握圍棋是一個遙不可及的目標。然而，2016年AlphaGo的勝利徹底顛覆了他的看法。如今，他將AI的經濟價值視為下一個重要的里程碑，并強調AI必須實現商業成果，同時開展自主研究。
Pachocki預測，到本世紀末，AI在自主研究方面將取得實質性進展。他甚至表示，今年內就有可能出現近乎自主的軟件開發系統，這將進一步推動AI技術的邊界。
