Product Manager, Safety Research
CohereUna posizione che vive all'incrocio tra ricerca sulla sicurezza dei modelli AI e prodotto, traducendo i risultati della ricerca interna in feature concrete e guardrail dentro la piattaforma North.
Ruolo
Farai da ponte tra i team di safety research di Cohere e North, assicurando che i risultati di evaluation dei modelli, red-teaming e ricerca comportamentale si traducano in guardrail, controlli e salvaguardie a livello di prodotto. Possiederai la roadmap di safety per Cohere e per North, prioritizzando le iniziative in base ai risultati della ricerca, ai pattern di abuso osservati e ai requisiti dei clienti. Collaborerai con i team di modeling per interpretare le evaluation, definirai framework per misurare come le proprietà di safety reggono con l'evoluzione dei modelli, coordinerai lo sviluppo di guardrail e meccanismi di intervento e costruirai processi di revisione di sicurezza che scalino con la crescita della superficie di prodotto.
Tecnologie
Almeno 5 anni di esperienza in product management o research operations a fianco di team di ricerca o machine learning, profondità tecnica sufficiente a dialogare con i ricercatori sulla safety, interesse autentico per AI safety, comportamento dei modelli e implicazioni dell'uso dei LLM in contesti enterprise. Apprezzata esperienza pratica con evaluation di LLM, red-teaming e benchmark di safety.
Condividi annuncio
Informazioni su Cohere
Cohere è un'azienda globale di AI per le imprese, con sede principale a Toronto e San Francisco e uffici a Londra, New York, Montreal, Parigi, Seoul e in Germania. Sviluppa modelli di base e prodotti end-to-end pensati per risolvere problemi concreti delle aziende, con un approccio in cui sicurezza e privacy dei dati sono al centro di ogni scelta progettuale. Tra i suoi prodotti spicca North, una piattaforma di AI workspace per le imprese che permette di integrare agenti intelligenti nei flussi di lavoro mantenendo il pieno controllo sui dati sensibili.
Il team riunisce ricercatori, ingegneri, designer e altre figure tecniche che collaborano per spingere lo stato dell'arte dei modelli linguistici e agentici, sia attraverso lo sviluppo di prodotto sia tramite Cohere Labs, il braccio di ricerca dedicato all'avanzamento del machine learning e del natural language processing. L'azienda investe molto nella formazione, nella diversità delle prospettive e in un ambiente di lavoro distribuito, offrendo benefit pensati per chi lavora da remoto e cura particolare per il benessere delle persone.