Este video tutorial de una hora explora cómo escalar la inferencia de modelos de machine learning utilizando Nats JetStream, una tecnología de mensajería distribuida ligera y de alto rendimiento. Aprende las características principales de Nats, incluyendo su tamaño compacto y capacidad para procesar millones de mensajes por segundo. Descubre cómo implementar una capa persistente para el procesamiento de flujos de datos con JetStream, permitiendo escalado horizontal, gestión de colas prioritarias, tolerancia a fallos y seguridad mediante cifrado TLS con diversos mecanismos de autenticación. Comprende conceptos fundamentales como la latencia y su impacto en aplicaciones ML, las opciones de calidad de servicio disponibles, y compara Nats JetStream con otras tecnologías como Kafka. El material complementario (notebook y código) está disponible para suscriptores de pago contactando a [email protected].
MLOps: Dimensionado de inferencia ML con Mensajería Distribuida
The Machine Learning Engineer via YouTube
Overview
Syllabus
MLOps: Dimensionado de inferencia ML con Mensajería Distribuida #machinelearning #datascience
Taught by
The Machine Learning Engineer
Related Courses
-
MLOps: Scaling ML Inference with Distributed Messaging
-
Launching into Machine Learning en Español
-
MLOPS: Inferencia ViVIT ONNX Model en Azure ML Managed EndPoint (AKS)
-
MLOPS: Inferencia de Modelo VIT ONNX en Azure ML Managed Endpoint - Español
-
MLOPS: Inferencia de Modelo ONNX en Azure ML Managed Endpoint AKS
-
Azure ML: Punto de Inferencia Q&A con Foundation Model
