Research Engineer - Inference

ElevenLabs cerca una figura per il team di ricerca dedicata al deploy e all'ottimizzazione dei suoi modelli AI di frontiera in produzione, dove ogni millisecondo conta. Non sono richiesti viaggi frequenti, a parte l'offsite annuale che riunisce tutta l'azienda in una località diversa.

Ruolo
Il ruolo comprende la responsabilità del percorso dal checkpoint di ricerca all'infrastruttura di serving, l'ottimizzazione di latenza, throughput e costi dell'inferenza con tecniche come quantizzazione, distillazione, ottimizzazione della KV cache, strategie di batching e kernel custom, la costruzione di sistemi di serving ad alte prestazioni per carichi real-time e in streaming e strumenti che permettano ai ricercatori di portare nuovi modelli in produzione in modo rapido e sicuro. ElevenLabs non richiede titoli di studio o certificazioni formali, ma prove concrete come progetti passati o contributi su GitHub. Servono esperienza nel deploy e serving di modelli ML in produzione, idealmente per applicazioni real-time, solide competenze di programmazione GPU e ottimizzazione dell'inferenza e la capacità di profilare ed eliminare colli di bottiglia su tutto lo stack.

Tecnologie
CUDA, Triton, TensorRT, vLLM, SGLang, GPU, quantizzazione, distillazione e KV cache, sistemi di serving in streaming.