Modelo Embutido
Um modelo embarcado refere-se a um modelo de aprendizado de máquina que é integrado diretamente em um aplicativo de software, dispositivo ou fluxo de trabalho, em vez de ser acessado como uma chamada de API remota baseada em nuvem. Em vez de enviar dados para um servidor centralizado para predição, o modelo é executado localmente onde os dados são gerados ou processados.
Os modelos embarcados abordam limitações críticas associadas à IA tradicional baseada em nuvem. Eles reduzem drasticamente a latência, minimizam a dependência de conectividade contínua com a internet e aprimoram significativamente a privacidade dos dados ao manter informações sensíveis no dispositivo ou dentro do limite do sistema local.
O processo envolve otimizar um modelo pré-treinado (por exemplo, quantização, poda) para que ele funcione de forma eficiente no hardware de destino. Esse artefato de modelo otimizado é então empacotado diretamente no código do aplicativo ou no firmware. Quando o aplicativo precisa de uma predição, ele alimenta os dados de entrada diretamente na instância do modelo local para inferência imediata.
Os modelos embarcados são comuns em vários cenários de alto desempenho. Exemplos incluem detecção de objetos em tempo real em câmeras de segurança, recomendações personalizadas servidas instantaneamente dentro de um aplicativo móvel, processamento de linguagem natural (PLN) para recursos de bate-papo offline e manutenção preditiva em sensores de IoT industrial.
Os principais desafios envolvem o tamanho do modelo e as restrições computacionais. Implantar modelos grandes e complexos em dispositivos de borda com recursos limitados exige compressão significativa do modelo e seleção cuidadosa do hardware. Manter e atualizar esses modelos implantados localmente também pode introduzir complexidade de implantação.
Conceitos relacionados incluem Computação de Borda (Edge Computing), ML no Dispositivo (On-Device ML), Quantização de Modelo (Model Quantization) e Aprendizado Federado (Federated Learning). Enquanto a Computação de Borda é a infraestrutura, um Modelo Embarcado é o artefato de software específico que roda nessa infraestrutura.
