NVIDIA L4 24GB analisa a versátil placa de inferência de IA

Aug 03, 2023

Hoje temos uma análise divertida, dando uma olhada no NVIDIA L4. Embora não seja de forma alguma a GPU mais rápida da NVIDIA, a L4 será uma placa popular. Sabemos disso porque é efetivamente uma atualização do NVIDIA Tesla T4 (então eles ainda tinham a marca “Tesla”) que testamos em 2019. O NVIDIA T4 tem sido extremamente popular e esperamos que o L4 seja igualmente baseado em um formato comprovado.

Antes de passarmos à análise, gostaríamos apenas de agradecer rapidamente ao PNY por nos fornecer um cartão para análise. As GPUs NVIDIA são muito populares e a PNY é o principal parceiro da NVIDIA para placas profissionais. Com isso, vamos ao hardware.

A NVIDIA L4 é uma GPU discreta e de meia altura. Essa é talvez a especificação mais importante da placa, pois permite que a placa seja instalada em todos os tipos de servidores.

A placa traseira é outro recurso pequeno, mas importante. Freqüentemente, eles são instalados em risers que são removidos para manutenção. Ter a placa traseira ajuda a garantir que o cartão permaneça seguro durante o serviço.

Com o Ampere da NVIDIA e elementos de design posteriores, o cartão dourado é facilmente reconhecível. O resfriamento passivo na placa de baixo consumo também ajuda a garantir que ela possa ser usada em uma ampla variedade de sistemas, uma vez que pode usar apenas o fluxo de ar do chassi.

Como esta é uma GPU projetada principalmente para inferência de IA (embora existam alguns outros casos de uso de GPU de data center que ela atende), não temos saídas de exibição. Como essas placas ficam densamente compactadas em servidores devido ao seu tamanho pequeno, ter mais saídas de vídeo pode ser um problema em alguns sistemas operacionais, como descobrimos há muitos anos fazendo sistemas de GPU 8x.

O novo design possui orifícios de montagem do suporte de retenção na parte frontal da placa. Um item que não está presente é um conector de alimentação da GPU. Ser alimentado apenas por slot PCIe é outro recurso que ajuda esta classe de GPU a ser facilmente integrada em muitos tipos de servidores.

A seguir, dada a popularidade do NVIDIA (Tesla) T4, queríamos fazer uma rápida comparação lado a lado para que você pudesse ver as diferenças, visto que a facilidade de integração em servidores é um recurso importante.

Aqui estão as duas cartas. Não tínhamos um T4 com suporte de baixo perfil. Os quatro que encontramos tinham altura total. Os suportes discretos foram todos instalados em data centers.

Aqui está a parte de trás. Podemos ver que a NVIDIA L4 tem muito menos marca NVIDIA do que a antiga “NVIDIA Tesla T4”.

Ambos têm tamanhos semelhantes, no entanto, as nervuras do L4 parecem deixar a frente do cartão um pouco mais larga.

Aqui está uma olhada na visualização do fluxo de ar, se isso ajudar. Pode-se perceber que a nova placa possui uma solução térmica aprimorada.

A seguir, vamos ver as principais especificações e, em seguida, desempenho e potência.