北京時(shí)間6月8日早間消息,Alphabet旗下谷歌部門(mén)周四稱(chēng),該公司將禁止其AI(人工智能)軟件被用于武器或不合理的監(jiān)視措施,這意味著該公司開(kāi)始為其在這個(gè)新興業(yè)務(wù)領(lǐng)域中的業(yè)務(wù)決策建立標(biāo)準(zhǔn)。
這種新的限制措施可能有助于谷歌管理層平息數(shù)千名員工在過(guò)去幾個(gè)月中的抗議活動(dòng),他們反對(duì)該公司與美國(guó)軍方合作識(shí)別無(wú)人機(jī)視頻中的物體。
谷歌CEO桑達(dá)爾·皮查伊(Sundar Pichai)周四發(fā)表博文稱(chēng),該公司將尋求獲得美國(guó)政府的其他合同,其中包括與網(wǎng)絡(luò)安全、新兵招募以及搜救行動(dòng)有關(guān)的合同等。他說(shuō)道:“我們想要明確一點(diǎn),那就是雖然我們不會(huì)開(kāi)發(fā)用于武器的AI技術(shù),但仍將繼續(xù)在其他很多領(lǐng)域中與政府和軍方展開(kāi)合作。”
先進(jìn)計(jì)算機(jī)成本和性能方面的突破已令A(yù)I技術(shù)開(kāi)始從研究實(shí)驗(yàn)室走向國(guó)防和醫(yī)療等行業(yè),而在出售AI工具這個(gè)新興的業(yè)務(wù)領(lǐng)域中,谷歌及其他一些大型科技公司已經(jīng)成為了佼佼者。這種技術(shù)能讓計(jì)算機(jī)查閱龐大的數(shù)據(jù)集以作出預(yù)測(cè),以快于人類(lèi)的速度找出模式和反?,F(xiàn)象。但AI系統(tǒng)可能促成讓專(zhuān)業(yè)軍人也自嘆不如的精準(zhǔn)無(wú)人機(jī)打擊,或是通過(guò)大規(guī)模收集線(xiàn)上交流信息的方式來(lái)找出異見(jiàn)者,從而引發(fā)了學(xué)院派倫理學(xué)家和谷歌職員的憂(yōu)慮。
“建立一種明確而貫徹始終的標(biāo)準(zhǔn)來(lái)反對(duì)自身技術(shù)的武器化”將有助于谷歌證明其“捍衛(wèi)國(guó)際客戶(hù)和用戶(hù)信任的決心”,英國(guó)蘭卡斯特大學(xué)(Lancaster University)社會(huì)學(xué)教授露西·薩奇曼(Lucy Suchman)在谷歌周四宣布上述消息之前向路透社說(shuō)道。
谷歌表示,該公司不會(huì)尋求發(fā)展旨在帶來(lái)身體傷害的AI應(yīng)用,或是與“違背國(guó)際認(rèn)可的人權(quán)規(guī)范”的監(jiān)視行為有關(guān)的應(yīng)用,又或是與可能帶來(lái)的好處相比“造成損害的風(fēng)險(xiǎn)更大”的應(yīng)用。
另外,谷歌制定的原則還要求公司職員及客戶(hù)“避免給人帶來(lái)不公正的影響”,尤其是與種族、性別、性向以及政治或宗教信仰有關(guān)的影響。
皮查伊稱(chēng),對(duì)于違反上述原則的應(yīng)用,谷歌保留封禁的權(quán)利。
一名谷歌高管稱(chēng),這些原則和建議是一種“樣板”,AI社區(qū)中的任何人都可馬上在自己的軟件中加以應(yīng)用。雖然微軟和其他一些公司此前也已發(fā)布了AI指導(dǎo)原則,但整個(gè)行業(yè)一直都在密切關(guān)注谷歌的作法,原因是該公司內(nèi)部職員強(qiáng)烈反對(duì)其與美國(guó)政府之間的無(wú)人機(jī)合作。