Software Technical Leader - GenAI Gateway

Location: Buenos Aires,Argentina

Department: IT

Work Location: hybrid

Como Software Technical Leader en Mercado Libre, diseñarás y escalarás sistemas innovadores y seguros que resuelven problemas reales y de alto impacto. Trabajarás en un entorno dinámico con tecnología de vanguardia, aplicando buenas prácticas de ingeniería, modelos de IA propios y aprendizaje continuo, con el propósito de democratizar el comercio electrónico y los servicios financieros en América Latina.

Imagináte emprendiendo proyectos desafiantes, dinámicos e innovadores y siendo responsable de:

• Liderar técnicamente la estrategia de inferencia de modelos open source, definiendo la arquitectura de serving y estrategias de optimización de costo y latencia.

• Diseñar e implementar soluciones de token compression, prompt caching, optimización de KV-cache y quantización para mejorar el throughput y reducir costos a escala.

• Desarrollar componentes core del gateway en Go, garantizando alta disponibilidad, bajo overhead y escalabilidad horizontal.

• Mentorear a ingenieros del equipo y revisar diseños técnicos, elevando el estándar de calidad de código e ingeniería en la organización.

¿Qué buscamos en vos?

• Contar con experiencia liderando técnicamente iniciativas o equipos de ingeniería de software.

• Tener experiencia hands-on en la inferencia de modelos LLM open source.

• Poseer dominio de Go para el desarrollo de sistemas de alto rendimiento, considerando concurrencia, gRPC y manejo de memoria.

• Contar con conocimientos sobre arquitectura de GPUs, CUDA y consideraciones de hardware para procesos de inferencia.

¿Te animás a dejar huella en la tecnología de América Latina? ¡Postulate y sumate a nuestro propósito!

Modalidad: Híbrida. Site: Arias, Saavedra. CABA