谷歌近日對(duì)其生成式人工智能工具的使用政策進(jìn)行了重要更新，明確放寬了在“高風(fēng)險(xiǎn)”領(lǐng)域，如醫(yī)療保健中，客戶利用這些工具進(jìn)行“自動(dòng)決策”的限制，但前提是需要有人工監(jiān)督。

根據(jù)谷歌周二發(fā)布的《生成式AI禁止使用政策》最新版本，客戶在特定條件下，可以使用谷歌的生成式AI技術(shù)來做出可能對(duì)個(gè)人權(quán)利產(chǎn)生重大影響的“自動(dòng)化決策”。這些領(lǐng)域包括就業(yè)、住房、保險(xiǎn)以及社會(huì)福利等。只要這些決策過程中包含某種形式的人類監(jiān)督，谷歌便允許其實(shí)施。

自動(dòng)化決策在人工智能領(lǐng)域指的是AI系統(tǒng)基于數(shù)據(jù)或推斷來作出的決策。例如，AI系統(tǒng)可能會(huì)根據(jù)申請(qǐng)人的數(shù)據(jù)來決定是否批準(zhǔn)貸款，或者在招聘過程中篩選求職者。

值得注意的是，谷歌此前在條款草案中曾表示，涉及生成式AI的高風(fēng)險(xiǎn)自動(dòng)化決策應(yīng)全面禁止。然而，谷歌向外媒TechCrunch透露，實(shí)際上，只要有人工監(jiān)督，高風(fēng)險(xiǎn)領(lǐng)域的自動(dòng)化決策從未被完全禁止。

谷歌發(fā)言人對(duì)此解釋稱：“人工監(jiān)督的要求一直存在，并且適用于所有高風(fēng)險(xiǎn)領(lǐng)域。我們只是重新分類了條款，并更清晰地列舉了一些具體例子，以便用戶更好地理解。”

監(jiān)管機(jī)構(gòu)對(duì)影響個(gè)人的自動(dòng)化決策表示了關(guān)切，特別是擔(dān)心AI系統(tǒng)可能存在的潛在偏見。研究表明，用于信用和抵押貸款審批的AI系統(tǒng)可能會(huì)加劇歷史上存在的歧視問題。例如，某些AI系統(tǒng)可能會(huì)基于歷史數(shù)據(jù)，對(duì)某些群體做出不公平的貸款審批決定。

谷歌此次的政策更新，無疑是在平衡技術(shù)進(jìn)步與監(jiān)管要求之間做出的努力。盡管放寬了在某些高風(fēng)險(xiǎn)領(lǐng)域使用生成式AI的限制，但谷歌依然強(qiáng)調(diào)了人工監(jiān)督的重要性，以確保決策過程的公正性和準(zhǔn)確性。