Red Hat lança a comunidade asago para automatizar a segurança e a governança de IA, das políticas à produção

Novo projeto open source colaborativo reúne Red Hat, Alquimia AI, Brave Software, coalizão EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA e The Alan Turing Institute para reduzir o gap entre os requisitos de políticas de IA e a implantação segura de sistemas de inteligência artificial

A Red Hat, líder mundial no fornecimento de soluções open source, anunciou hoje a criação do asago, um projeto comunitário de código aberto destinado a automatizar a transformação de políticas de governança de IA em sistemas de IA prontos para produção e implantados com segurança. O asago conecta as etapas, ferramentas e requisitos fragmentados entre equipes de engenharia e compliance para criar um fluxo de trabalho automatizado, auditável e rastreável. O objetivo é ajudar a entregar sistemas de IA mais seguros e prontos para produção, impulsionando a inovação em dias, e não em meses ou anos.

O que é o asago?

O asago (AI Safety And Governance Orchestration) pretende utilizar uma plataforma open source padronizada e um fluxo de trabalho automatizado para traduzir políticas corporativas e regulatórias de governança de IA complexas em controles operacionais efetivos. A iniciativa se baseia no trabalho desenvolvido pela Red Hat e pela NVIDIA como membros da Open Secure AI Alliance e alia a flexibilidade dos desenvolvedores à governança dos operadores em quatro etapas principais:

●       Mapeamento de riscos: o framework lê e interpreta automaticamente as políticas de governança de IA enviadas, mapeando os requisitos específicos da organização diretamente para frameworks, ontologias e padrões consolidados de gestão de riscos em IA, como o NIST AI RMF, o OWASP LLM Top 10 e a Lei de IA da União Europeia (EU AI Act), por meio do IBM AI Risk Atlas. Dessa forma, transforma a linguagem das políticas em perfis de risco acionáveis.

●       Avaliação de riscos: o asago gera e executa cenários específicos para cada caso de uso, realizando testes automatizados de segurança adaptados aos riscos identificados e investigando comportamentos potencialmente nocivos, em vez de depender exclusivamente de benchmarks genéricos.

●       Mitigação de riscos: o projeto recomenda as medidas de mitigação mais adequadas, incluindo guardrails de segurança baseados nos resultados dos testes, criando uma justificativa clara e uma trilha de auditoria pronta para revisão.

●       Implantação em produção: o asago orquestra os controles recomendados em configurações prontas para implantação em diferentes plataformas, incluindo ambientes de nuvem híbrida e Kubernetes, eliminando a codificação manual da infraestrutura.

Cada uma dessas etapas será estruturada para gerar uma trilha contínua de auditoria, conectando cláusulas específicas das políticas diretamente aos testes e aos controles de tempo de execução, permitindo que revisores identifiquem exatamente qual risco cada ação busca abordar. Isso ajuda a transformar a segurança de IA em um recurso corporativo previsível e governado.

Por que o asago é importante?

Traduzir diretrizes abstratas de políticas em configurações funcionais de software retarda a inovação em IA e aumenta os riscos decorrentes de falhas de comunicação e interpretações equivocadas. Profissionais de compliance precisam de avaliações rigorosas de risco e evidências verificáveis, enquanto engenheiros de plataforma necessitam de configurações estruturadas que possam ser mantidas dentro de fluxos padrão de DevOps e GitOps. À medida que regulamentações abrangentes, como a Lei de IA da União Europeia (EU AI Act), entram em vigor, as organizações não podem correr o risco de comprometer a inovação com meses de revisões manuais nem de criar implantações paralelas (shadow AI) sem os guardrails de segurança adequados.

O asago pretende eliminar esse atrito ao oferecer um padrão aberto único, capaz de reunir equipes de compliance, cientistas de dados e administradores de infraestrutura. Ao tratar todos esses públicos como usuários igualmente relevantes, a plataforma irá permitir a criação de controles de segurança para agentes autônomos de IA e modelos corporativos de linguagem de grande porte (LLMs), sem introduzir as inconsistências inerentes à tradução manual.

O que diz a Red Hat

"À medida que as organizações avançam de projetos-piloto experimentais para agentes autônomos de IA de longo prazo, estabelecer guardrails operacionais claros torna-se um requisito essencial de infraestrutura", afirma Steven Huels, vice-presidente de Engenharia de IA na Red Hat. "Por meio de iniciativas como o Lightwell, estamos trabalhando para proteger a cadeia de suprimentos open source contra vulnerabilidades impulsionadas por IA. O asago complementa esse esforço e representa o próximo passo lógico para a IA corporativa ao automatizar a conexão entre definições de políticas corporativas e agentes em produção. Isso oferece às empresas a confiança operacional de ponta a ponta necessária para escalar uma IA confiável em ambientes de nuvem híbrida."

"O projeto asago é um verdadeiro esforço colaborativo de código aberto que reúne representantes da indústria de tecnologia, da academia e do setor público", afirma Stuart Battersby, arquiteto de segurança e avaliação de modelos de IA na Red Hat. "Convidamos novos colaboradores a participarem dessa iniciativa liderada pela comunidade, especialmente de diferentes partes do mundo, para garantir a maior abrangência possível de perspectivas sobre segurança em IA."

Principais destaques

●       Automação para reduzir a complexidade das políticas: substitui interpretações manuais e scripts personalizados por um fluxo de orquestração integrado, reduzindo o tempo de implantação de meses para dias.

●       Uma trilha única de auditoria: atende responsáveis por políticas, CIOs, desenvolvedores de IA, engenheiros de plataforma e auditores externos em uma interface unificada de rastreabilidade.

●       Código aberto e governança orientada pela comunidade: disponibilizado sob a licença Apache License 2.0 para promover a colaboração aberta em todo o ecossistema de segurança em IA.

●       Implantação independente da infraestrutura: gera configurações declarativas para Kubernetes, Terraform e Ansible, permitindo que as organizações mantenham uma postura consistente de segurança em múltiplas nuvens e ambientes on-premises.

Mais detalhes

O projeto asago reúne líderes da indústria e instituições acadêmicas, incluindo Red Hat, Brave Software, coalizão EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA e The Alan Turing Institute, em um esforço conjunto para integrar diferentes especialidades em pesquisa sobre segurança em IA, engenharia de software empresarial, aprendizado de máquina adversarial e conformidade regulatória.

O projeto será integrado às melhores ferramentas abertas disponíveis e foi desenvolvido especificamente para preencher as lacunas operacionais existentes entre elas. O objetivo é oferecer recursos completos e distribuídos de rastreabilidade, registrando as evidências exigidas por auditores para comprovar conformidade. Dessa forma, cada controle ativo em um ambiente de produção poderá ser vinculado diretamente à política que justificou sua implementação, estabelecendo um processo contínuo de verificação para portfólios corporativos de IA.

O que dizem os parceiros da Red Hat

"Na Alquimia, construímos nossa plataforma de IA agêntica com base em uma convicção: a inferência de IA deve ser controlada, explicável e soberana desde a concepção, e não tratada como uma exigência de compliance de última hora", afirma Sebastián Cao, CEO da Alquimia AI. "O asago transforma essa mesma convicção em um padrão aberto, oferecendo a qualquer organização um caminho da política à governança pronta para produção que pode ser efetivamente auditada. É exatamente esse tipo de infraestrutura que a indústria precisa e é por isso que, por meio da gaussia.ai, contribuímos com métricas abertas e cientificamente fundamentadas para medir como os sistemas de IA realmente se comportam no mundo real. Frameworks abertos de governança, como o asago, tornam possível que comunidades inteiras, e não apenas os fornecedores, definam na prática o que significa uma IA confiável."

"A Brave está entusiasmada em integrar a comunidade asago para ajudar a impulsionar o avanço da segurança em IA, porque uma Web mais segura beneficia a todos", afirma Brendan Eich, CEO e cofundador da Brave Software. "A Brave sempre foi open source e esperamos colaborar com o asago para garantir que privacidade e segurança sejam os pilares das ferramentas de IA. Mais de 120 milhões de usuários navegam e realizam buscas com a Brave, e esperamos que nossa abordagem centrada no usuário contribua para elevar o padrão dos guardrails robustos para IA."

"Desenvolver uma IA confiável exige mais do que boas intenções. Exige uma governança que possa ser implementada, verificada e continuamente mantida", afirma o Prof. Dr. Ben Wagner, docente de Direitos Humanos e Tecnologia na IT:U. "O asago foi concebido para ajudar a transformar políticas de alto nível em fluxos práticos de engenharia. A IT:U possui sólida experiência tanto na governança técnica quanto organizacional da IA e, por isso, agradecemos a oportunidade de contribuir com o projeto. Esperamos que ele permita às organizações inovar com confiança, tornando o desenvolvimento responsável de IA uma realidade prática."

“Muitos dos desafios mais complexos relacionados à segurança e à proteção da IA ainda não foram solucionados, e nenhuma organização, sozinha, é capaz de enfrentá-los”, afirmou Sarah Bird, diretora de produtos de IA Responsável da Microsoft. “Padrões abertos e amplamente adotados podem contribuir para uma governança mais consistente em todo o ecossistema, enquanto a inteligência coletiva da comunidade pode acelerar o progresso em relação aos desafios mais relevantes. Estamos entusiasmados em fazer parte da comunidade asago e trabalhar ao lado de outras organizações para ajudar a desenvolver uma IA segura, protegida e digna da confiança das pessoas.”

"A colaboração open source é fundamental para avançar a segurança e a proteção da IA em todo o ecossistema", afirma Diane Staheli, cientista-chefe de IA e Cibersegurança do MIT Lincoln Laboratory. "A iniciativa asago irá incorporar pesquisas multidisciplinares para enfrentar a lacuna crítica entre os requisitos de governança e a realidade operacional. Estamos entusiasmados em contribuir para tornar ferramentas de segurança e proteção em IA amplamente acessíveis."

"Garantir que sistemas de IA sejam seguros e protegidos é um desafio de engenharia tanto quanto de políticas públicas, e nenhuma empresa, laboratório ou universidade conseguirá resolvê-lo sozinha", afirma Veena Misra, reitora interina da Faculdade de Engenharia da North Carolina State University. "A Faculdade de Engenharia da NC State contribui para a comunidade asago com uma sólida base de pesquisa em segurança de IA, além de formar engenheiros preparados para desenvolver sistemas de IA seguros e prontos para produção desde o início. Parcerias como esta conectam diretamente nossas pessoas e programas às necessidades futuras da indústria."

“A Open Secure AI Alliance foi fundada com base no princípio de que modelos abertos, estruturas e ferramentas abertas constituem a base mais sólida para a defesa da IA — e o asago coloca esse princípio em prática”, afirma Daniel Rohrer, vice-presidente de Segurança de Software da NVIDIA. “Ao automatizar a tradução das políticas de governança de IA em controles prontos para produção e trilhas de auditoria, o projeto asago demonstra como a Red Hat, a NVIDIA e nosso ecossistema estão fortalecendo a segurança dos agentes com ferramentas de código aberto.”

"Nenhuma organização consegue tornar a IA segura e governável em escala sozinha; isso exige ferramentas abertas, diferentes áreas de conhecimento e uma governança neutra", afirma Jason McEwen, cientista-chefe do The Alan Turing Institute e professor da UCL. "É exatamente isso que torna o modelo colaborativo do asago tão relevante, além de se conectar diretamente ao nosso trabalho em IA Confiável e Assegurada dentro da área de Pesquisa Fundamental do Alan Turing Institute. Temos satisfação em participar como parceiros fundadores e ajudar a definir os rumos do projeto ao lado da comunidade."

Disponibilidade

O projeto asago está atualmente na fase de formação da comunidade. Desenvolvedores, pesquisadores acadêmicos e organizações interessadas em adotar a iniciativa de forma antecipada já podem acessar o repositório e participar da governança do projeto por meio do GitHub. Para saber mais e manifestar interesse em colaborar, acesse asago.ai ou preencha o formulário da comunidade.