Detalhes

Voltar para Adopt AI

Parte de

Adopt AI

Infraestrutura / Profissional

Remote Code Execution

Infraestrutura de execução para funções confiáveis, código gerado e cargas de longa duração.

  • Problema

    Fluxos de trabalho gerados ou específicos do cliente precisavam de execução controlada para trabalhos de longa duração, trabalho de navegador/sessão e cargas de trabalho de modelo, sem reduzir tudo a funções estáticas confiáveis.

  • Meu papel

    Fiz o fork e a rearquitetura do Alibaba Open Sandbox, trabalhando na infraestrutura de execução, segurança e arquitetura de produto.

  • Implementação

    Separei modos de produto Lambda confiável e Sandbox dinâmico; adicionei ciclo de vida de comando não bloqueante, keepalive TTL, roteamento pod-a-pod, afinidade de nó, pods aquecidos e postura confiável on-premises. O design lida com exemplos de carga como entradas de 50MB, 15 PDFs e jobs de ML. Pods aquecidos são atribuídos quando já estão em execução, e nós aquecidos cacheiam imagens por DaemonSets, balloon pods e Karpenter.

  • Decisões e trade-offs

    Lambda significa código estático de primeira parte com dependências congeladas, egresso bloqueado e acesso ao SDK/gateway interno. Sandbox significa código gerado dinamicamente com dependências de tempo de execução e rede configurável. A execução on-premises usa a postura Lambda confiável: código estático de primeira parte, dependências congeladas, egresso bloqueado e acesso ao SDK/gateway interno.

Stack e domínios

  • Kubernetes
  • Docker
  • Python
  • Open Sandbox
  • Karpenter