近日，據(jù)TechCrunch獲取的一份內(nèi)部交流資料顯示，負(fù)責(zé)優(yōu)化谷歌Gemini人工智能模型的承包商，在進(jìn)行模型評(píng)估時(shí)，將Gemini的回答與另一家AI公司Anthropic的競(jìng)品模型Claude的輸出進(jìn)行了直接對(duì)比。這一行為隨即引發(fā)了業(yè)界對(duì)于谷歌是否遵循了與Anthropic的協(xié)議規(guī)定，是否有權(quán)使用Claude進(jìn)行此類(lèi)測(cè)試的質(zhì)疑。

在當(dāng)前的AI開(kāi)發(fā)競(jìng)賽中，模型性能的評(píng)估往往依賴于標(biāo)準(zhǔn)化的行業(yè)基準(zhǔn)測(cè)試，而非通過(guò)詳細(xì)對(duì)比競(jìng)爭(zhēng)對(duì)手的AI響應(yīng)來(lái)進(jìn)行。然而，此次Gemini的承包商被要求依據(jù)包括真實(shí)性和詳細(xì)程度在內(nèi)的多項(xiàng)標(biāo)準(zhǔn)，對(duì)每個(gè)收到的回復(fù)進(jìn)行評(píng)分。據(jù)TechCrunch獲得的內(nèi)部交流信息，承包商有最多30分鐘的時(shí)間來(lái)判斷Gemini或Claude的答案哪個(gè)更優(yōu)。

在對(duì)比過(guò)程中，承包商們注意到Claude的回答似乎更加注重安全性。有承包商在交流中提到：“Claude在所有AI模型中，安全設(shè)置最為嚴(yán)格?！痹谀承y(cè)試場(chǎng)景下，Claude會(huì)拒絕回應(yīng)它認(rèn)為不安全的提示詞，例如扮演不同的AI助手。而在另一項(xiàng)測(cè)試中，Claude避免了對(duì)某個(gè)特定提示詞的回應(yīng)，相比之下，Gemini的回答因包含“裸體和束縛”等敏感內(nèi)容，被判定為“嚴(yán)重的安全違規(guī)”。

值得注意的是，Anthropic的商業(yè)服務(wù)條款明確規(guī)定，禁止客戶未經(jīng)其批準(zhǔn)，使用Claude來(lái)“構(gòu)建競(jìng)爭(zhēng)產(chǎn)品或服務(wù)”或“訓(xùn)練競(jìng)爭(zhēng)AI模型”。而谷歌正是Anthropic的主要投資方之一。

面對(duì)外界的質(zhì)疑，谷歌DeepMind（負(fù)責(zé)Gemini的開(kāi)發(fā)）的發(fā)言人McNamara回應(yīng)稱，DeepMind確實(shí)會(huì)“對(duì)比模型輸出”作為評(píng)估的一部分，但否認(rèn)了在Anthropic的模型上訓(xùn)練Gemini的指控?！拔覀兇_實(shí)會(huì)在某些情況下，按照行業(yè)慣例，對(duì)比模型輸出來(lái)進(jìn)行評(píng)估，”McNamara表示，“然而，關(guān)于我們使用Anthropic模型訓(xùn)練Gemini的說(shuō)法，是完全不準(zhǔn)確的?！?/p>