Estudo de caso
LMaaS
Serviço de modelos auto-alojado em Apple Silicon: API compatível com OpenAI para LLM locais, mais ML train/serve/retrain sob SemVer.
- Go
- React
- TypeScript
Problema
As minhas próprias apps precisavam de inferência local de modelos de linguagem e releases de ML versionadas sem depender de um fornecedor cloud em cada chamada.
Abordagem
LMaaS é um serviço auto-alojado em Apple Silicon: uma API em Go compatível com OpenAI para modelos locais, mais fluxos de train, serve e retrain atrás de releases SemVer, com uma consola React.
Resultado
Uma secretária de modelos privada que os meus produtos podem chamar localmente, com consola em direto e código não publicado.