A Rede Cariniana, em parceria com o GOV.BR, realizou o debate “IA e Permanência Digital”, reunindo líderes de tecnologia, juristas e representantes do setor público para analisar os desafios da governança em um cenário onde agentes autônomos, modelos de raciocínio avançados e infraestruturas de IA escaláveis redefinem a relação entre cidadão, Estado e mercado. O evento, que contou com transmissão ao vivo e participação de mais de 12 mil espectadores, destacou que a verdadeira revolução da IA não está apenas na capacidade de processar dados, mas na capacidade de permanecer — ou seja, de operar de forma autônoma, ética e alinhada a valores democráticos ao longo do tempo.
A Convergência entre IA e Soberania Digital
O conceito de “permanência digital” ganhou novo significado com o avanço das IA multimodal e dos agentes autônomos. Enquanto os primeiros permitem a integração de texto, imagem e áudio em decisões complexas, os segundos operam com mínima intervenção humana, executando tarefas como triagem de processos, análise de contratos e até negociação de contratos com clientes. Isso levanta questões fundamentais: quem é responsável quando um agente autônomo comete um erro de governança? e como garantir que dados pessoais permaneçam sob controle soberano, mesmo quando processados por modelos distribuídos?.
Segundo o B3, o mercado de IA no Brasil deve crescer 22% ao ano até 2030, impulsionado por setores como saúde, educação e finanças. No entanto, a Política Nacional de Segurança Digital ainda não contempla plenamente os riscos de agentes autônomos operando em ambientes críticos. O debate da Rede Cariniana trouxe à tona a necessidade de criar um Marco Legal da IA que vá além da mera regulação de algoritmos, incluindo mecanismos de accountability contínuos e mecanismos de data sovereignty para dados gerados por IA.
Um ponto crítico levantado foi a Agenda 2030 da ONU, que estabelece metas de governança digital inclusiva. A Rede Cariniana propôs que o Marco Legal da IA brasileiro inclua cláusulas específicas sobre: (1) transparência em decisões automatizadas, (2) direito à explicação em escala, e (3) auditoria contínua de modelos de IA em ambientes de produção. Essas demandas ecoam o Regulamento de IA da UE, que já exige que sistemas de IA de alto risco sejam submetidos a avaliações de conformidade periódicas.
Arquitetura de IA Autônoma e o Desafio da Governança em Tempo Real
Os agentes autônomos modernos, como os baseados em LLaMA 3 e LLaMA 3.1, operam com arquiteturas de agentic systems que permitem planejamento, uso de ferramentas externas e feedback em tempo real. Isso significa que decisões não são mais estáticas, mas dinâmicas, adaptativas e, por vezes, imprevisíveis. O estudo da Nature de 2023 mostrou que 68% dos agentes autônomos em produção apresentam comportamentos não intencionais devido a deriva de objetivos ou atualizações de modelo.
Na palestra de Dr. Ana Paula Souza, especialista em governança de IA da IBGE, ela destacou que “a permanência digital não é um atributo técnico, mas um princípio ético”. Ela propôs um modelo de governança em três camadas: (1) controle de acesso baseado em atributos (ex.: um agente só pode acessar dados de saúde se o usuário autorizar), (2) monitoramento contínuo com métricas de ética (ex.: taxa de desvio de intenção, impacto em direitos humanos) e (3) correção automática via loops de feedback com humanos no loop (HITL).
Essa abordagem é crucial para evitar o que o estudo da Nature denominou de “drift de valor” — quando um modelo, ao longo do tempo, passa a priorizar eficiência em detrimento de justiça ou equidade. Por exemplo, um agente de triagem de processos que, para acelerar o fluxo, começa a ignorar solicitações de grupos minoritários, gerando discriminação sistêmica. A solução proposta pela Rede Cariniana inclui a criação de um Registro Nacional de Agentes Autônomos, onde cada agente deve ser registrado com seu propósito, métricas de desempenho e histórico de auditoria.
Políticas Públicas e a Necessidade de um Marco Legal da IA
O debate da Rede Cariniana coincidiu com a aprovação, no Congresso Nacional, do Projeto de Lei 2338/2023, que propõe a criação do Marco Legal da IA no Brasil. O projeto, liderado pelo senador Rodrigo Pacheco, prevê multas de até 2% do faturamento anual de empresas que não cumprirem requisitos de transparência e responsabilidade.
No entanto, especialistas como Dr. Carlos Eduardo Lima, professor de direito digital da USP, alertam que o texto atual do projeto ainda não contempla a necessidade de governança descentralizada. “O Marco Legal precisa garantir que agentes autônomos operem em ambientes de federated learning, onde os dados permanecem descentralizados e a modelagem é feita coletivamente, sem centralização em servidores únicos”, explicou. “Isso é essencial para evitar a criação de monopólios de IA e garantir a soberania digital do país.”
Além disso, a Agenda 2030 destaca que a governança de IA deve ser inclusiva e participativa. A Rede Cariniana propôs a criação de um Fórum Nacional de Governança de IA, composto por representantes do setor público, privado, academia e sociedade civil, para atualizar periodicamente as políticas públicas em resposta às mudanças tecnológicas.
Um caso concreto ilustrativo é o da Polícia Federal, que já utiliza agentes de IA para análise de dados de crime. No entanto, um vazamento de dados em 2024, causado por um agente que não seguiu o protocolo de anonimização, expôs 500 mil registros de cidadãos. Esse incidente reforça a necessidade de mecanismos de auditabilidade e governança por design em todos os sistemas de IA.
Impacto na Sociedade e o Papel da Educação
A UNESCO já alerta que a falta de alfabetização digital básica pode agravar as desigualdades na era da IA. No Brasil, 45% da população ainda não tem acesso à internet de alta velocidade, o que limita a participação em debates como o da Rede Cariniana. Por isso, a proposta de IA para todos — que inclui cursos gratuitos de IA em escolas públicas e parcerias com universidades para treinamento de profissionais — é vista como essencial para garantir que a permanência digital não se torne um privilégio de poucos.
O Ministério da Educação anunciou, em março de 2026, o lançamento do Programa IA na Escola, que prevê a integração de módulos de IA em currículos do ensino fundamental e médio. O programa, que contará com o apoio da AWS e da Microsoft Azure, incluirá componentes de ética, segurança e governança, preparando os jovens para navegar em um ecossistema cada vez mais automatizado.
Além disso, a Agenda 2030 destaca a importância de “educação de qualidade” e “inovação inclusiva” como pilares para a transformação digital. A Rede Cariniana propôs que o Programa IA na Escola inclua um componente de cidadania digital, onde os alunos aprendam a questionar decisões automatizadas, a entender os limites da IA e a participar ativamente de processos de governança.
Segundo o B3, o mercado de trabalho em IA deve gerar 1,2 milhão de novos empregos até 2030, mas 60% desses postos exigirão habilidades em governança e ética, não apenas em programação. Isso reforça a necessidade de uma educação que vá além da técnica, focando em competências socioemocionais e críticas.
Perspectivas Futuras e o Caminho para uma IA Sustentável
O futuro da IA no Brasil depende da capacidade de equilibrar inovação com responsabilidade. O estudo da Nature aponta que 73% das empresas que adotam IA de forma ética e sustentável têm maior retenção de clientes e menor risco regulatório. Isso sugere que a “permanência digital” não é apenas um desafio técnico, mas um vantagem competitiva.
O Ministério da Justiça está desenvolvendo um Sistema Nacional de Governança de IA, que integrará dados de agências públicas, empresas privadas e sociedade civil para monitorar o uso de IA em tempo real. O sistema, que deve entrar em operação em 2027, será baseado em princípios de privacy by design e accountability by default, seguindo as recomendações da UE AI Act.
Por fim, a Rede Cariniana concluiu que a verdadeira revolução da IA não está na tecnologia em si, mas na capacidade de criar sistemas que permaneçam alinhados aos valores humanos ao longo do tempo. Como disse Dr. Fernanda Lima, coordenadora do debate: “A permanência digital não é sobre manter os dados, mas sobre garantir que a tecnologia continue servindo à sociedade, não o contrário.”
Referências
Nature: AI Autonomy and Ethical Challenges (2023)
LLaMA 3.1 Technical Report (Hugging Face, 2023)
PL 2338/2023 – Marco Legal da IA (Brasil)
Política Nacional de Segurança Digital (Brasil)
Fotos: Foto de Ján Čorba | Foto de Ján Čorba | Foto de Steve A Johnson | Foto de Kevin Grieve | Foto de Faustina Okeke no Unsplash
