Inferencia por lotes.
Ejecute trabajos de predicción por lotes para procesar grandes conjuntos de datos de manera eficiente, lo que permite una inferencia de modelos escalable para cargas de trabajo de datos a nivel empresarial, sin intervención manual.
Priority
Execution Context
La inferencia por lotes facilita la implementación de modelos de aprendizaje automático para procesar grandes volúmenes de datos de forma simultánea. Esta función orquesta la ejecución paralela en recursos de cómputo distribuidos, garantizando una latencia y un rendimiento óptimos para análisis de nivel empresarial. Abstrae la lógica de programación compleja, permitiendo a los ingenieros de aprendizaje automático centrarse en la optimización de modelos en lugar de en la gestión de la infraestructura. El sistema escala automáticamente los nodos de cómputo en función de los requisitos del trabajo, proporcionando métricas de rendimiento consistentes y gestionando los costos de manera efectiva en entornos de producción.
El sistema inicializa un entorno de computación distribuida optimizado para tareas de inferencia de alto rendimiento.
Las colas de trabajos se procesan de forma secuencial o paralela, dependiendo de la disponibilidad de recursos y las restricciones de latencia.
Los resultados se agregan, validan y se almacenan en el repositorio de salida designado, con registros de auditoría completos.
Operating Checklist
Envíe una definición de trabajo que especifique la fuente de datos de entrada, la versión del modelo y el esquema de salida.
El sistema aprovisiona nodos de cómputo efímeros según los requisitos de recursos definidos.
Las solicitudes de inferencia se distribuyen a los trabajadores de manera equilibrada.
Las predicciones agregadas se validan en función de umbrales de error y se almacenan de forma permanente.
Integration Surfaces
Registro de modelos.
Recuperar los artefactos de modelo aprobados y los metadatos de versión para el despliegue.
Administrador de Clúster de Computación.
Configure la asignación de recursos, las políticas de escalamiento y los parámetros de ejecución.
Conector para Data Lake.
Importar conjuntos de datos sin procesar e enviar los resultados procesados a los destinos de almacenamiento.
