Sr. Software Development Engineer, Neuron Explorer
Annapurna Labs diseña silicio y software que aceleran la innovación. Los clientes nos eligen para crear soluciones en la nube que resuelven desafíos inimaginables hace poco tiempo, incluso ayer. Nuestros chips personalizados, aceleradores y pilas de software nos permiten abordar desafíos técnicos nunca antes vistos y ofrecer resultados que ayudan a nuestros clientes a cambiar el mundo.
AWS Neuron es la pila de software completa para los aceleradores de aprendizaje automático a escala de nube AWS Trainium e Inferentia, y para los servidores Trn3/Trn2/Trn1 e Inf2/Inf1 que los utilizan. Este puesto es para un Sr. Software Development Engineer en el equipo de Experiencias para Desarrolladores (DevEx) dentro de AWS Neuron, con sede en Toronto.
El equipo de Neuron Explorer hace visible el rendimiento de AWS Trainium. Somos responsables de Neuron Explorer, la herramienta para perfilar, depurar y optimizar cargas de trabajo de aprendizaje automático en Trainium e Inferentia. Creamos herramientas de perfilado, depuración y análisis que permiten a los ingenieros ver qué tan eficientemente los modelos y kernels utilizan el hardware, identificar cuellos de botella y decidir qué optimizar a continuación. Neuron Explorer rastrea la ejecución desde el código fuente hasta las operaciones de hardware, tanto en aplicaciones de un solo nodo como distribuidas. Nuestro objetivo es simplificar los complejos datos de ejecución para que los clientes puedan optimizar más rápido y alcanzar un mayor rendimiento en Trainium.
Como Sr. Software Development Engineer del equipo de Neuron Explorer, diseñarás, construirás y operarás la pila completa detrás de Neuron Explorer, desde la recopilación de datos de rendimiento de bajo nivel y los motores de análisis hasta las visualizaciones interactivas y los flujos de trabajo para desarrolladores. Serás responsable de funcionalidades de principio a fin, abarcando el pipeline de procesamiento en backend, la interfaz web y la CLI, y ayudarás a impulsar nuestras capacidades de recomendación y análisis basadas en IA, que identifican automáticamente los cuellos de botella y guían la optimización.
Responsabilidades clave del puesto
- Diseñar y construir pipelines de recopilación de datos de rendimiento y motores de análisis que transformen los datos brutos de ejecución del hardware en información útil para los usuarios de Neuron Explorer.
- Desarrollar visualizaciones interactivas y flujos de trabajo para desarrolladores que hagan comprensibles los complejos datos de perfilado, ayudando a los clientes a identificar cuellos de botella en cargas de entrenamiento de un solo nodo y distribuidas.
- Ser responsable de funcionalidades de principio a fin a lo largo de todo el ciclo de vida del desarrollo de software, desde el alcance y el diseño hasta la implementación, las pruebas, el despliegue y las operaciones, garantizando la fiabilidad y la mantenibilidad.
- Colaborar con los equipos de compiladores, runtime y arquitectura de chips para exponer la información de rendimiento adecuada, de modo que los clientes internos y externos puedan optimizar las cargas de trabajo de IA en el hardware de Trainium e Inferentia.
- Evaluar e integrar capacidades de IA generativa en el motor de recomendaciones de Neuron Explorer, desarrollando funcionalidades que identifiquen automáticamente oportunidades de optimización y guíen a los clientes hacia un mayor rendimiento.
Un día en el
