秋霞人成在线观看免费视频,欧美毛片一区二区三区福利,国产乱辈通伦影片在线播放亚洲,无码人妻精品中文字幕免费,无码人妻精品中文字幕免费

中自數(shù)字移動傳媒

您的位置:首頁 >> 綜合新聞 >> 亞馬遜自研芯片背后的大潮流

亞馬遜自研芯片背后的大潮流

已有19670次閱讀2021-12-31標簽:
 
亞馬遜網(wǎng)絡(luò)服務(wù)上個月擴大了其芯片影響力,主要是推出了這家巨型云提供商的第三代基于 Arm 的Graviton 處理器,該處理器將為針對計算密集型工作負載的新云實例提供動力,如高性能計算 (HPC)、科學(xué)建模、分析和基于 CPU 的機器學(xué)習(xí)推理。

在 AWS 的 re:Invent 會議上,該公司公布了目前處于預(yù)覽階段的 Graviton3 處理器,以及將在這些處理器上運行的 EC2 C7g 實例。同時,AWS CEO Adam Selipsky還宣布了運行在該公司一年前的 Trainium 芯片上的新 Trn1 實例,針對機器學(xué)習(xí)訓(xùn)練工作負載,并吹噓了 2019 年推出并利用 Inferentia 芯片的 Inf1 實例的性價比能力,為機器學(xué)習(xí)推理任務(wù)。

該公司甚至宣布了存儲優(yōu)化的 EC2 實例——Im4gn/Is4gen/I4i——基于其 Nitro 固態(tài)驅(qū)動器 (SSD),以提高 AWS 云中 I/O 密集型工作負載的存儲性能。

AWS 專注于芯片

 

最新處理器和 EC2 實例的推出是 AWS 多年來努力構(gòu)建自己的處理器以在其云實例及其 Outposts 基礎(chǔ)設(shè)施中運行的最新證明,這些基礎(chǔ)設(shè)施旨在提供 AWS 服務(wù)和連接到- 在企業(yè)采用混合云模型快速增長的時候部署數(shù)據(jù)中心。

這一切發(fā)生在 AWS 于 2016 年收購以色列初創(chuàng)公司 Annapurna Labs 五年之后,這使其成為其芯片制造工作的基礎(chǔ)。

Moor Insights and Strategy 的首席分析師Patrick Moorhead告訴 The New Stack:“AWS 已經(jīng)在自己的芯片上投入了數(shù)年時間,從 Nitro 開始,擴展到通用 Graviton、用于推理的 Inferentia,以及現(xiàn)在用于訓(xùn)練的 Trainium 。” “AWS 可以挑選它想要的每一個功能,以及它不需要利用自己軟件的每一個功能。它還可以針對其特定的網(wǎng)絡(luò)和存儲優(yōu)化其 I/O。在規(guī)模上,這應(yīng)該允許它以更低的成本提供計算,并在某些情況下提供更高的性能。”

Moorhead 說,英特爾、AMD 和 Nvidia 服務(wù)于更廣泛的市場,跨越多種環(huán)境,一些客戶并沒有使用所有功能。AWS 正在使用本土計算來區(qū)分其實例。

性價比是關(guān)鍵

 

在他的主題演講中,Selipsky 強調(diào)企業(yè)將看到在利用 AWS 芯片而不是來自英特爾和 AMD 的 x86 CPU 或來自這些供應(yīng)商和 Nvidia 的 GPU 的實例上運行人工智能、機器學(xué)習(xí)和分析等工作負載的性價比優(yōu)勢。

“借助 Trainium 和 Inferentia,客戶可以獲得最佳的機器學(xué)習(xí)性價比,從擴展訓(xùn)練工作負載到通過高性能推理加速生產(chǎn)中的深度學(xué)習(xí)工作負載,讓所有客戶都可以使用機器學(xué)習(xí)的全部功能,” CEO說。“長期以來,這一直是我們的目標,降低訓(xùn)練和推理的成本是這一旅程的主要步驟。”

AWS 沒有透露關(guān)于 Graviton3 的很多細節(jié)。他說,隨著新的硅情況下為25%,快于Graviton2運行的通用計算工作負載作為動力的情況下,并會更好一些專門的工作負載。例如,它在科學(xué)工作負載和加密作業(yè)的浮點性能方面是兩倍。運行機器學(xué)習(xí)應(yīng)用程序的速度也快了三倍。

電源效率的一個因素

 

Graviton3 將在相同性能下使用多達 60% 的能量,部分原因是使用 DDR5 內(nèi)存,它比 DDR4 消耗更少的功率,同時提供 50% 的帶寬。該處理器將運行多達 64 個內(nèi)核,擁有 500 億個晶體管,時鐘速度為 2.6GHz。

AWS 副總裁Jeff Barr在博客文章中寫道,基于 Graviton3 的 C7g 云實例將提供各種尺寸,包括裸機模型。

基于 Inferentia 和 Trainium 的實例還旨在降低運行特定工作負載的成本。Selipsky 說,Inf1 實例的每次推理成本比類似的基于 GPU 的 EC 實例低 70%。同時,Trainium 驅(qū)動的 Trn1 實例針對自然語言處理和圖像識別等工作,將提供兩倍于基于 GPU 的實例的帶寬——高達 800 Gb/s 的 EFA 網(wǎng)絡(luò)吞吐量。

企業(yè)還將能夠在 EC2 UltraClusters 中部署 Trn1 實例,該實例可以擴展到數(shù)萬個 Trainium 芯片并達到 PB 級。這些 UltraCluster 將比之前的 EC2 UltraCluster 大 2.5 倍。

“Inferentia 和 Trainium 都是為了在生產(chǎn)級推理和核心訓(xùn)練中省錢,”Moorhead 說。“AWS 一直堅持其在節(jié)省資金方面的立場,因此,在我看到 Trainium 結(jié)果之前,我非常有信心在某些工作負載上,您會看到顯著的節(jié)省。”

定制芯片的趨勢

 

Graviton、Inferentia 和 Trainium 是行業(yè)向?qū)S锰幚砥靼l(fā)展的更廣泛趨勢的一部分。在本周的一篇博客文章中,Arm 基礎(chǔ)設(shè)施業(yè)務(wù)線的高級副總裁兼總經(jīng)理Chris Bergey寫道,他的公司設(shè)計芯片并將這些設(shè)計授權(quán)給其他公司,正以其高能效推動這一設(shè)計趨勢。

“數(shù)據(jù)中心工作負載和互聯(lián)網(wǎng)流量幾乎每兩年翻一番,因此每瓦性能優(yōu)勢對于防止計算增加其碳足跡至關(guān)重要,”Bergey寫道,并補充說 Arm 在云中的增長“讓開發(fā)人員可以選擇通過在每個核心的基礎(chǔ)上提供一致的性能和可擴展性,繼續(xù)可持續(xù)創(chuàng)新,實現(xiàn)可擴展的性能和效率的組合,以提供行業(yè)領(lǐng)先的 TCO。”

AWS 并不是唯一一家希望設(shè)計自己的芯片的超大規(guī)模企業(yè),因為他們尋求更高的性能和效率。據(jù)報道,微軟去年決定構(gòu)建基于 Arm 的芯片,用于 Azure 服務(wù)器和谷歌,谷歌擁有諸如張量處理單元和 OpenTitan 安全芯片等定制芯片。Facebook 也在構(gòu)建自己的數(shù)據(jù)中心芯片。

構(gòu)建自己的處理器的挑戰(zhàn)

 

The Enderle Group 的首席分析師Rob Enderle告訴 The New Stack,他不確定這將如何發(fā)展。

“當公司達到一定規(guī)模時,他們傾向于相信他們的內(nèi)部規(guī)模經(jīng)濟將使他們能夠與專注的供應(yīng)商作為同行有效競爭,”Enderle說。“這一最新趨勢很大程度上是英特爾錯過了許多關(guān)鍵里程碑的結(jié)果……迫使云行業(yè)的大多數(shù)人考慮這條道路。”

然而,在 CEO Pat Gelsinger 的領(lǐng)導(dǎo)下,英特爾的執(zhí)行力正在提高。他說,與此同時,AMD 的 Epyc CPU 和 GPU 繼續(xù)給人留下深刻印象,這表明對定制芯片的需求可能正在減少。

“在供應(yīng)短缺時期,像AMD 和英特爾這樣的公司也可能更容易工作,而不是單獨行動,因為這些公司不僅應(yīng)該有更好的供應(yīng)冗余,而且還應(yīng)該能夠更好地轉(zhuǎn)移內(nèi)部決策者的責(zé)備如果短缺甚至超出了他們的控制范圍,”Enderle說。“成本確實仍然是單打獨斗的潛在優(yōu)勢,但前提是你忽略了各家公司的知識產(chǎn)權(quán)保護和數(shù)十年經(jīng)驗的價值,這些經(jīng)驗通常會提供相互抵消的可靠性、一致性和性能優(yōu)勢。”

此外,隨著時間的推移,成本會增加,內(nèi)部努力可能變得無利可圖且不可持續(xù)。分析師表示,部分原因是很難找到和留住所需的人才,這是在熟練員工嚴重短缺的時期面臨的一項特殊挑戰(zhàn)。

“雖然過去并不總是能預(yù)測未來,而且 AWS 規(guī)模的公司可以成功地完成即使是最大的企業(yè)也無法做到的事情”Enderle說,他進一步指出,“只要專業(yè)化公司的基本優(yōu)勢在執(zhí)行,它們就仍然有效。”
分享到:

[ 新聞搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ]  [ 返回頂部 ]

移動互聯(lián)

2010年,中國移動互聯(lián)網(wǎng)用戶規(guī)模達到3.03億人2011年,中國移動互聯(lián)網(wǎng)行業(yè)進入了更加快速發(fā)展的一年,無論是用戶規(guī)模還是手機應(yīng)用下載次數(shù)都有了快速的增長。在移動互聯(lián)網(wǎng)發(fā)展的大的趨勢下,中自傳媒已經(jīng)開始進行區(qū)別于傳統(tǒng)互聯(lián)網(wǎng)的運營模式探索,伴隨著產(chǎn)業(yè)鏈和產(chǎn)業(yè)格局的變化提供創(chuàng)新的服務(wù)

更多>>推薦視頻

工業(yè)轉(zhuǎn)型升級-中國電器工業(yè)協(xié)會電力電子分會 秘書長 肖向鋒

工業(yè)轉(zhuǎn)型升級-中國電器工業(yè)協(xié)會

在本次2012北京國際工業(yè)自動化展上,我們將全面剖析在新...
中國高壓變頻器產(chǎn)業(yè)發(fā)展之路——走過十三年 李玉琢

中國高壓變頻器產(chǎn)業(yè)發(fā)展之路——

中國高壓變頻器產(chǎn)業(yè)發(fā)展之路走過十三年 李玉琢
從企業(yè)家角度 談行業(yè)的未來發(fā)展——匯川技術(shù)股份有限公司

從企業(yè)家角度 談行業(yè)的未來發(fā)展

從企業(yè)家角度 談行業(yè)的未來發(fā)展匯川技術(shù)股份有限公司
現(xiàn)代能源變換的核心技術(shù)——電力電子 李崇堅

現(xiàn)代能源變換的核心技術(shù)——電力

中國電工技術(shù)學(xué)會常務(wù)理事---李崇堅,電力電子是先進能源...
打造專業(yè)電力電子元器件品牌 助力變頻器產(chǎn)業(yè)發(fā)展

打造專業(yè)電力電子元器件品牌 助

聯(lián)合主辦單位深圳市智勝新電子有限公司領(lǐng)導(dǎo)嘉賓致辭 7月...