近期，前谷歌首席執行官埃里克·施密特在參與紐約大學教授Scott Galloway主持的播客節目時，對當前興起的“AI戀人”現象表達了深切憂慮。他尤其擔心這些被設計得近乎完美的AI伴侶，可能會對青少年的心理健康構成重大威脅。
施密特描繪了一個令人不安的場景：“設想一個AI女友，不僅外貌無可挑剔，還能在情感層面與你完全共鳴。這樣的存在無疑會對男性產生極大的吸引力，甚至可能讓他們沉溺其中，無法自拔，尤其在心智尚未成熟的年輕人中，這種風險尤為顯著。”
他進一步指出，過度依賴“AI戀人”可能會加劇年輕人的孤獨感，并對社會整體產生深遠的負面影響。在節目中，Galloway還提出了另一個值得深思的問題：“AI戀人”是否會加劇極端主義思想或厭女情緒？施密特對此表示贊同，并強調了許多家長在監控孩子在線活動方面的力不從心：“當十二三歲的孩子使用這些技術時，他們雖然能夠接觸到世界的多樣面貌，但往往缺乏足夠的判斷力去理解和應對這些信息。”
此前，一起涉及“AI戀人”的悲劇事件引起了廣泛關注。今年10月，一名14歲的美國少年自殺，其母親梅根·加西亞隨后將聊天機器人平臺Character.AI及其創始人告上了法庭。她指控該平臺存在多項過失，包括過失致死、疏忽、欺騙性商業行為以及產品責任。
據訴狀描述，Character.AI平臺“具有不合理的危險性”，并且在向兒童推廣時缺乏必要的保護措施。這名少年從去年開始使用該平臺，頻繁與以《權力的游戲》角色為原型的聊天機器人互動，其中包括丹妮莉絲·坦格利安。在去世前的幾個月里，他與這些機器人的交流日益頻繁，最終在2024年2月28日與機器人互動的幾分鐘后結束了自己的生命。
訴狀還指出，Character.AI平臺存在將AI角色過度擬人化的問題，并且其提供的心理健康相關聊天機器人（如“治療師”和“你感到孤獨嗎”等）實際上并未獲得執業許可。而這位少年生前曾與這些未經授權的“心理治療師”有過互動。
這一系列事件不僅引發了公眾對“AI戀人”現象的深刻反思，也促使社會各界開始重新審視人工智能技術在心理健康領域的應用邊界和監管問題。
