Beschrijving
NVIDIA is op zoek naar een Senior Software Engineer die gespecialiseerd is in Deep Learning Inference om GPU-versnelde software te ontwerpen, bouwen en optimaliseren voor het serveren van grootschalige taal- en generatieve AI-modellen. De rol richt zich op het verbeteren van SGLang, vLLM, FlashInfer en gerelateerde inference-bibliotheken; het opschalen van prestaties over datacenter-GPU’s en edge SoC’s; en het gebruik van CUDA, CUTLASS, OAI Triton, NCCL, en andere open-source tools. Kandidaten hebben een master’s- of PhD-diploma nodig in een relevant vakgebied, minimaal vijf jaar ervaring met softwareontwikkeling, sterke C/C++-vaardigheden en ervaring met DL-model inference, profiling of GPU-architectuur.
