首頁 > 互聯網 > > 正文

              12nm媲美7nm!燧原科技發布帶寬最大的云端AI推理卡

              2021-12-08 19:43:43    來源:快科技

              12月7日,AI創業公司燧原科技(Enflame)發布了第二代云端AI推理加速卡——“云燧i20”。

              這是繼今年7月的云端AI訓練加速卡“云燧T20”之后,燧原科技新一代針對云端推理場景的AI加速產品。

              云燧i20最大亮點就是擁有迄今最大的AI加速卡存儲帶寬,通過HBM2e內存達到了819GB/s,可為云端推理業務提供高吞吐、低延時的性能。

              目前,以語音識別、圖片識別、視頻內容分析為主的感知類應用,內容推薦、欺詐交易攔截等決策類應用,在云端大部分都是以實時在線的方式提供服務,同時神經網絡的參數越來越多,數據帶寬需求也越來越高,因此兼顧高帶寬、低延遲變得至關重要。

              云燧i20搭載了新一代AI推理芯片“邃思”,基于第二代高性能計算核心和數據引擎,12nm工藝打造,通過架構升級大大提高了單位面積的晶體管效率,算力可媲美7nm GPU,而且成本更低。

              同時,全面支持FP32、TF32、FP16、BF16、INT8的計算精度,其中單精度FP32峰值算力32TFLOPS,單精度張量TF32峰值算力128TFLOPS,整型INT8峰值算力256TOPS,對比上代云燧i10浮點、整型算力分別提升到1.8倍、3.6倍。

              搭配升級后的軟件棧“馭算TopsRider”,性能、開發效率、模型覆蓋面都得到大幅提升。

              通過引入通用高層圖優化和大規模算子融合技術,釋放大容量片內存儲和高帶寬存儲的利用率,模型平均性能提升3.5倍,硬件算力利用率平均提升2倍。

              通過升級的編程模型以及算子自動分片、自動生成技術,自定義算子開發效率翻倍,模型遷移成本大大降低。

              此外,對動態性的支持也大大增強,在檢測、語音識別、語義理解等場景更具競爭力。

              據介紹,燧原科技專注AI領域云端算力平臺,提供自主知識產權的高算力、高能效比、可編程的通用AI訓練和推理產品,可廣泛應用于云數據中心、超算中心、互聯網、金融、智慧城市等多個人工智能場景,已在互聯網、金融、政務等多家客戶的商業落地,并獲得認可。

              - THE END -

              轉載請注明出處:快科技

              #人工智能#12nm

              相關熱詞搜索:

              上一篇:
              下一篇:

              熱點話題

              熱點推薦

              頭條

              ? 亚洲综合久久夜AV | 亚洲欧洲精品成人久久曰| 亚洲欧洲国产综合AV无码久久| 亚洲视频一区二区三区| 亚洲成AV人在线播放无码| 亚洲国产日韩在线视频| 日韩亚洲一区二区三区| 久久亚洲精品视频| 亚洲AV无码一区二区三区DV| 亚洲不卡中文字幕无码| 亚洲av之男人的天堂网站| 亚洲αv久久久噜噜噜噜噜| 亚洲AV无码精品色午夜果冻不卡 | 亚洲av片一区二区三区| 天堂亚洲免费视频| 亚洲成a人片在线观看老师| 亚洲精品国产综合久久一线| 亚洲中文字幕伊人久久无码| 中文字幕在线亚洲精品| 国产国拍亚洲精品mv在线观看| 亚洲成av人在线视| 精品亚洲成a人片在线观看 | 亚洲av无码成人影院一区| 国产成人综合亚洲| 亚洲精品一级无码中文字幕| 国产亚洲情侣一区二区无| 亚洲码国产精品高潮在线| 亚洲av综合avav中文| 亚洲精品在线免费看| 亚洲人成网站看在线播放| 亚洲大尺度无码无码专线一区| 国产成人综合亚洲| 亚洲夜夜欢A∨一区二区三区| 亚洲精品你懂的在线观看| 亚洲精品免费在线观看| 亚洲国产日韩在线成人蜜芽 | 国产成人A亚洲精V品无码| 亚洲AV永久无码精品| 亚洲经典在线中文字幕| 中文字幕乱码亚洲精品一区| 国产尤物在线视精品在亚洲|