近期，通用人工智能（AGI）領域持續升溫，引發了科技界和公眾的廣泛關注。OpenAI的首席執行官阿爾特曼認為，AGI的實現可能比預期更早，并且在現有硬件條件下就能達成。然而，前谷歌CEO埃里克·施密特對此持謹慎態度，他在本月17日接受ABC新聞采訪時提出了一個令人深思的觀點。
施密特擔憂地表示，當AI系統具備自我改進的能力時，人類將面臨一個艱難的選擇：是否應該暫停其進一步發展。他提出，如果向AI系統發出“學會一切，做到一切”的指令，那么我們必須慎重考慮是否要切斷其電源，以維持人類與AI之間的平衡。這不僅僅是一個技術問題，更是一個涉及倫理和安全的深刻挑戰。
施密特進一步預測，AI將從目前的特定任務助手，逐步進化為能夠自主決策、處理復雜問題的智能系統。在這個關鍵時刻，人類必須介入并考慮關閉AI系統，以防止其可能帶來的不可預測后果。同時，他還強調，人類需要確保AI無法反制關閉系統的努力，以保持對AI的絕對控制。
值得注意的是，施密特并非完全否定AI的積極作用。事實上，他對AI的潛力持樂觀態度。他認為，AI的發展將意味著每個人都將擁有一個博學多才的助手，這個助手可以隨時隨地為我們提供幫助。除了作為筆記和寫作助手外，AI還將像愛因斯坦和達芬奇這樣的智慧人物一樣，為我們提供寶貴的建議和指導。這將是一個惠及全球每一個人的美好愿景。
然而，與施密特同樣關注AI發展的還有特斯拉CEO馬斯克。他在今年10月曾表示，AI“最有可能是偉大的”，但同時也存在10%到20%的可能性走向壞的一面。馬斯克強調，我們不能忽視AI“變壞”的可能性，必須時刻保持警惕。
