谷歌近日對其生成式人工智能工具的使用政策進行了重要更新，明確放寬了在“高風險”領域，如醫療保健中，客戶利用這些工具進行“自動決策”的限制，但前提是需要有人工監督。
根據谷歌周二發布的《生成式AI禁止使用政策》最新版本，客戶在特定條件下，可以使用谷歌的生成式AI技術來做出可能對個人權利產生重大影響的“自動化決策”。這些領域包括就業、住房、保險以及社會福利等。只要這些決策過程中包含某種形式的人類監督，谷歌便允許其實施。
自動化決策在人工智能領域指的是AI系統基于數據或推斷來作出的決策。例如，AI系統可能會根據申請人的數據來決定是否批準貸款，或者在招聘過程中篩選求職者。
值得注意的是，谷歌此前在條款草案中曾表示，涉及生成式AI的高風險自動化決策應全面禁止。然而，谷歌向外媒TechCrunch透露，實際上，只要有人工監督，高風險領域的自動化決策從未被完全禁止。
谷歌發言人對此解釋稱：“人工監督的要求一直存在，并且適用于所有高風險領域。我們只是重新分類了條款，并更清晰地列舉了一些具體例子，以便用戶更好地理解。”
監管機構對影響個人的自動化決策表示了關切，特別是擔心AI系統可能存在的潛在偏見。研究表明，用于信用和抵押貸款審批的AI系統可能會加劇歷史上存在的歧視問題。例如，某些AI系統可能會基于歷史數據，對某些群體做出不公平的貸款審批決定。
谷歌此次的政策更新，無疑是在平衡技術進步與監管要求之間做出的努力。盡管放寬了在某些高風險領域使用生成式AI的限制，但谷歌依然強調了人工監督的重要性，以確保決策過程的公正性和準確性。
