Nota: el texto está en inglés, así que procedo a traducirlo.
GenAI Infra Specialist SA, AWS WWSO Startup
¿Quieres ayudar a definir el futuro de la tecnología de IA generativa en AWS como parte del equipo de Arquitectos de Soluciones Especialistas en el equipo Startup de Go-To-Market (GTM)? ¿Te apasiona la infraestructura de IA y ayudar a los clientes a comprender las complejidades del entrenamiento y la puesta en servicio de modelos a gran escala?
Formarás parte de la organización especialista central enfocada en clientes Startup de IA generativa y en el equipo de Go-to-Market (GTM), centrado en la infraestructura de IA para el entrenamiento de modelos y la optimización de la inferencia. Serás responsable de definir, construir e implementar estrategias específicas para acelerar la adopción de los servicios de cómputo, redes y plataforma de ML de AWS con constructores de modelos de IA de frontera de referencia en empresas Startup de distintos sectores verticales.
Este puesto se sitúa en la intersección entre la arquitectura de infraestructura de IA y la optimización de modelos: ayudarás a los clientes a comprender los requisitos y la complejidad del hardware (GPU, Trainium, redes), al tiempo que brindarás una profunda experiencia en la optimización de modelos y técnicas tanto para la inferencia como para el entrenamiento distribuido a gran escala.
Los Arquitectos de Soluciones Especialistas (SSA) de AWS son tecnólogos con una profunda experiencia en su dominio, capaces de abordar conceptos avanzados y diseños de funcionalidades. Como parte de la organización de ventas de AWS, los SSA trabajan con clientes que tienen desafíos complejos que requieren conocimientos de nivel experto para resolverlos. Los SSA diseñan arquitecturas técnicas escalables, flexibles y resilientes que abordan esos desafíos.
Responsabilidades clave del puesto
- Trabajar directamente con los clientes Startup más importantes y emocionantes en el ámbito del entrenamiento e inferencia de IA generativa, ayudándolos a adoptar y escalar cargas de trabajo a gran escala (por ejemplo, modelos de frontera, modelos multimodales, optimización) en AWS
- Asesorar a los clientes sobre los requisitos y compensaciones de la infraestructura de IA, incluyendo la selección de GPU/Trainium, la topología de clústeres, el almacenamiento, las redes (EFA) y la optimización de costos para entrenamiento e inferencia
- Proporcionar orientación técnica profunda sobre arquitecturas de servicio de modelos para optimización de inferencia (autogestionadas en EKS, endpoints de SageMaker, SageMaker HyperPod Serving), estrategias de batching, cuantización, paralelismo de modelos y compensaciones entre latencia y rendimiento
- Proporcionar orientación técnica profunda sobre optimización del entrenamiento: estrategias de entrenamiento distribuido, selección de frameworks (PyTorch, JAX, NeMo), SageMaker HyperPod, integración con Slurm/PCS, checkpointing y diseño de pipelines de datos
- Guiar a los clientes en el perfilado de GPU y aceleradores, identificando cuellos de botella (cómputo, memoria, E/S), optimizando la utilización y ajustando el rendimiento a nivel de sistema
- Ayudar a los clientes a comprender y aplicar técnicas de optimización de modelos: enfoques de fine-tuning (LoRA, QLoRA, fine-tuning completo), RLHF/DPO, destilación de conocimiento y técnicas de servicio eficiente (vLLM, TensorRT-LLM, Triton)
- Ayudar al especialista de Go-To-Market a definir e impulsar la estrategia sobre activos que impacten el crecimiento, mediante la estimación del tamaño del mercado,
