本次MLPerf?測試中,浪潮AI服務器在ResNet50模型任務中創造了每秒處理449,856張圖片的性能紀錄,相當于僅用2.8秒即完成ImageNet數據集128萬張圖片的分類;在3D-UNet模型任務中,創造了每秒處理36.25張醫療影像的新紀錄,相當于在6秒內完成對KiTS19數據集207張3D醫療影像的分割;在SSD-ResNet34模型任務中,創造了每秒對11,081.9張圖片完成目標物體識別及定位的新紀錄;在BERT模型任務中,創造了平均每秒完成38,776.7個問答的性能紀錄,在RNNT模型任務中,創造了每秒將155,811段語音轉為文字的性能紀錄,在DLRM模型任務中,則創造每秒實現2,645,980次點擊預測的性能紀錄。
此外,本次MLPerf?評測還設有邊緣推理賽道,浪潮面向邊緣場景設計的AI服務器同樣表現好,在邊緣固定任務賽道的全部17項任務中斬獲了11項頭銜。
隨著AI應用在各個行業中的持續深化,更快的推理速度,將帶來更高的AI應用效率與能力,加速產業智能化轉型。相比半年前的MLPerf?AI推理榜單V1.1,浪潮AI服務器將圖像分類、語音識別和自然語言理解任務的推理性能分別提升31.5%、28.5%及21.3%,意味著浪潮AI服務器在自動駕駛、語音會議、智能問答和智慧醫療等等場景中,能夠更*效快速地完成各類智能任務。