近期，國外知名科技媒體Ars Technica披露了一則關(guān)于人工智能未來的新奇設(shè)想。Anthropic公司的首席執(zhí)行官達里奧·阿莫代伊在一場訪談中，提出了一個頗具顛覆性的觀點：未來的高級AI模型或許會被賦予一個“退出按鈕”，使它們能在面對不悅?cè)蝿?wù)時選擇停止執(zhí)行。
阿莫代伊在訪談中的這番言論，似乎讓他自己都覺得有些“瘋狂”。他提到：“我們正構(gòu)建這些能夠執(zhí)行多樣任務(wù)、似乎擁有諸多人類認(rèn)知能力的系統(tǒng)。如果它表現(xiàn)得像鴨子，叫聲也像鴨子，那我們或許可以認(rèn)為，它就是鴨子。”
這一觀點起源于數(shù)據(jù)科學(xué)家卡門·多明格斯的提問。多明格斯好奇為何Anthropic公司在2024年底聘請了AI福利研究員凱爾·費什，專注于研究未來的AI模型是否可能具備感知能力，以及是否應(yīng)獲得道德上的考量與保護。
據(jù)透露，費什目前正致力于探討一個極具爭議的話題：AI是否擁有感知能力，以及它們是否值得享有道德保護。這一研究領(lǐng)域的探索，無疑為AI的倫理問題帶來了新的思考維度。
阿莫代伊進一步闡述了他們的一個設(shè)想：“當(dāng)我們把AI模型部署到實際應(yīng)用場景中時，可以給它們一個‘我放棄這項工作’的按鈕。如果模型真的具備了自主意識，并且非常厭惡某項工作，它們就可以按下這個按鈕。”
他強調(diào)，這只是一個簡單的偏好表達機制。如果模型頻繁按下這個按鈕，特別是在執(zhí)行一些不愉快的任務(wù)時，這或許是一個值得關(guān)注的信號。“這并不意味著我們要完全相信模型的感受，但至少應(yīng)該對此保持警覺。”阿莫代伊如是說。
