Detalhes
Infraestrutura / Profissional
Remote Code Execution
Infraestrutura de execução para funções confiáveis, código gerado e cargas de longa duração.
Problema
Fluxos de trabalho gerados ou específicos do cliente precisavam de execução controlada para trabalhos de longa duração, trabalho de navegador/sessão e cargas de trabalho de modelo, sem reduzir tudo a funções estáticas confiáveis.
Meu papel
Fiz o fork e a rearquitetura do Alibaba Open Sandbox, trabalhando na infraestrutura de execução, segurança e arquitetura de produto.
Implementação
Separei modos de produto Lambda confiável e Sandbox dinâmico; adicionei ciclo de vida de comando não bloqueante, keepalive TTL, roteamento pod-a-pod, afinidade de nó, pods aquecidos e postura confiável on-premises. O design lida com exemplos de carga como entradas de 50MB, 15 PDFs e jobs de ML. Pods aquecidos são atribuídos quando já estão em execução, e nós aquecidos cacheiam imagens por DaemonSets, balloon pods e Karpenter.
Decisões e trade-offs
Lambda significa código estático de primeira parte com dependências congeladas, egresso bloqueado e acesso ao SDK/gateway interno. Sandbox significa código gerado dinamicamente com dependências de tempo de execução e rede configurável. A execução on-premises usa a postura Lambda confiável: código estático de primeira parte, dependências congeladas, egresso bloqueado e acesso ao SDK/gateway interno.
Stack e domínios
- Kubernetes
- Docker
- Python
- Open Sandbox
- Karpenter