人工智能芯片是用于訓(xùn)練和運行人工智能模型的專用硬件，高通公司和英偉達(dá)公司是目前兩家領(lǐng)先的人工智能芯片制造商，在周三公布的一組新的測試數(shù)據(jù)中，高通的人工智能芯片在三個衡量電源效率的指標(biāo)中以 2 比 1 擊敗了英偉達(dá)。
據(jù)IT之家了解，人工智能模型需要用大量的數(shù)據(jù)進(jìn)行訓(xùn)練，以提高其準(zhǔn)確性和性能。訓(xùn)練完成后，人工智能模型就可以用于推理，即執(zhí)行一些具體的任務(wù)，比如根據(jù)輸入生成文本回復(fù)，或者判斷一張圖片是否包含貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應(yīng)用的環(huán)節(jié)，但也會增加企業(yè)的成本，其中一個主要成本就是電力。
高通公司利用其在為手機(jī)等低功耗設(shè)備設(shè)計芯片的經(jīng)驗，推出了一款專為云端和邊緣端提供高性能、低功耗人工智能處理的芯片，名為 Cloud AI 100。該芯片在周三公布的由 MLCommons(一個維護(hù)人工智能芯片行業(yè)測試標(biāo)準(zhǔn)的工程聯(lián)盟)發(fā)布的測試數(shù)據(jù)中，在兩項功率效率指標(biāo)上擊敗了英偉達(dá)的旗艦芯片 H100。
功率效率指標(biāo)是指每瓦特電力可以執(zhí)行多少次服務(wù)器查詢。高通的 Cloud AI 100 在圖像分類方面達(dá)到了 227.4 次查詢每瓦特，而英偉達(dá)的 H100 只有 108.4 次查詢每瓦特，圖像分類可以用于識別圖片中的物體或場景。高通還在物體檢測方面領(lǐng)先于英偉達(dá)，分別達(dá)到了 3.8 次查詢每瓦特和 2.4 次查詢每瓦特。物體檢測可以用于分析零售店的監(jiān)控視頻，了解顧客最常去哪些地方。
然而，在自然語言處理方面，英偉達(dá)卻占據(jù)了絕對優(yōu)勢，無論是在性能還是功率效率方面都排名第一。自然語言處理是人工智能技術(shù)中最廣泛應(yīng)用于聊天機(jī)器人等系統(tǒng)的技術(shù)，英偉達(dá)達(dá)到了 10.8 次查詢每瓦特，而高通排名第二，為 8.9 次查詢每瓦特。
高通和英偉達(dá)都希望通過提供高效的人工智能芯片來搶占數(shù)據(jù)中心市場的份額。隨著越來越多的企業(yè)將人工智能技術(shù)融入他們的產(chǎn)品中，這個市場預(yù)計將快速增長。
