NVIDIA L40S GPU是NVDIA推出的旗下GPU產(chǎn)品,NVIDIA L40S GPU基于NVIDIA Ada Lovelace架構(gòu)。
專注于大規(guī)模GPU加速工作負(fù)載領(lǐng)域的CoreWeave是首批提供L40S實(shí)例的云服務(wù)提供商之一。
NVIDIA L40S GPU搭載第四代Tensor Core和FP8 Transformer Engine,可提供超過1.45 PFLOP的張量處理能力。對于擁有數(shù)十億個參數(shù)和多種數(shù)據(jù)模式(如文本和視頻)的復(fù)雜AI工作負(fù)載,與NVIDIA A100 Tensor Core GPU相比,L40S 能夠?qū)⑸墒紸I的推理性能和訓(xùn)練性能分別提高1.2倍和1.7倍。