AI Infrastructure Engineer GPU

Pragmatike è un'agenzia di recruiting: la selezione è per conto di un'azienda cliente, non per Pragmatike stessa.

La ricerca è per conto di una startup di infrastruttura cloud distribuita, ben finanziata e in rapida crescita, che costruisce servizi cloud pensati per l'AI: potenza di calcolo su GPU per carichi AI/ML, storage sicuro e trasferimento dati ad alta velocità su un'architettura decentralizzata a minore impatto ambientale rispetto ai provider tradizionali. È un ruolo molto tecnico e operativo, centrato sulla costruzione di piattaforme di inferenza scalabili ed efficienti.

Ruolo
Avrai la responsabilità di progettare e far funzionare l'infrastruttura che serve i modelli di machine learning su larga scala, lavorando a stretto contatto con le squadre di infrastruttura, piattaforma e AI applicata per garantire alta disponibilità, bassa latenza e costi sotto controllo. Costruirai e gestirai infrastrutture di model serving di livello produttivo, progetterai pipeline di rilascio con strategie blue/green e canary, svilupperai sistemi di auto-scaling, architetture multi-modello e livelli di routing intelligente delle richieste. Ottimizzerai l'utilizzo delle GPU, l'efficienza di memoria, il throughput di rete e le prestazioni dello storage degli artefatti dei modelli, e progetterai i sistemi di observability per seguire latenza di inferenza, throughput, uso delle GPU, metriche di costo e salute complessiva. Gestirai i model registry e le pipeline CI/CD per rilasci automatici e riproducibili, seguendo l'intero ciclo di vita dei sistemi ML fino alla produzione, supporto operativo e turni di on-call inclusi. Servono almeno quattro anni di esperienza in ML Ops, platform engineering, SRE o ruoli infrastrutturali analoghi su sistemi ML, con esperienza concreta di orchestrazione di container e di carichi su GPU in produzione.

Tecnologie
Framework di model serving come vLLM, TGI o Triton, Python e strumenti di infrastructure-as-code come Terraform e Helm, orchestrazione di container e tooling MLOps con model registry ed experiment tracking. Sono un plus piattaforme come Kubeflow, MLflow o KubeAI, lo scheduling delle GPU e l'ottimizzazione CUDA o ROCm.