O que é IA soberana?

A IA soberana parece moderna e interessante, como uma equipe de espionagem internacional ao estilo James Bond, protegendo um data center subterrâneo ultrassecreto. No entanto, ao contrário do que se vê em um filme de James Bond, a IA soberana é real e prática, e afeta muito mais do que apenas a segurança nacional. Políticas rigorosas de governança de IA soberana e diligência técnica podem ajudar a proteger os ativos corporativos, garantir a privacidade dos clientes e fortalecer a infraestrutura de computação cívica contra agentes mal-intencionados.

Na maioria das vezes, a IA soberana depende de práticas sólidas de segurança de TI, influenciadas por leis nacionais ou padrões da indústria. A sua empresa pode considerar necessário adotar a IA soberana agora ou em um futuro próximo, e mesmo que esse não seja o caso, pode ser interessante considerar a adoção dessas práticas e políticas.

O que é IA soberana?

Em termos simples, a IA soberana visa garantir a produção nacional de IA, incluindo os dados usados ​​para treinar a IA, os dados explorados pela IA ao pesquisar consultas e os dados gerados pela IA em resposta a uma consulta.

Nesse contexto, a IA soberana pode incluir qualquer tipo de tecnologia rotulada como "inteligência artificial", incluindo machine learning para entender tendências de dados e detectar anomalias, usos de redes neurais convolucionais para reconhecimento de padrões ou identificação de objetos, além de imagens, sons ou textos criados pela IA generativa. A IA soberana também pode envolver regras que regem o uso de tecnologias de IA, como regras de privacidade.

Você poderia considerar a IA soberana como relacionada, mas não idêntica, à soberania de dados. Uma empresa ou organização deve considerar as regras nacionais sobre onde seus dados podem ser armazenados e processados, inclusive como são transmitidos pelas redes. Um exemplo de regulamentação sobre soberania seria o GDPR da União Europeia. As organizações podem adotar práticas que podem facilitar a conformidade à medida que as normas evoluem. Por exemplo, a maioria das organizações já possui políticas de governança de dados em vigor. Estender essas políticas à IA desde o início dos testes pode evitar problemas futuros e orientar os usos permitidos. Os sistemas de IA também podem exigir regras específicas que considerem como e onde os modelos de IA foram treinados, bem como como e onde acessarão os dados da organização para fornecer os resultados mais úteis.

IA soberana versus IA pública

Os sistemas de IA soberana armazenam e gerenciam modelos e dados de IA, que podem incluir dados operacionais e de treinamento sujeitos a regulamentações e limitações nacionais ou regionais relativas ao uso de aplicações de IA apenas por pessoas e sistemas autorizados. Você encontrará soluções de IA soberana em uso por governos, contratados e prestadores de serviços governamentais, organizações que trabalham para governos e qualquer empresa que possa ter dados e aplicações regulamentadas.

Você pode pensar na “IA pública” como outras soluções, incluindo aplicações e dados que não estão sujeitos a considerações de IA soberana ou outros requisitos de conformidade regulatória. Essa lista inclui uma ampla gama de aplicações para o consumidor e redes empresariais. Pense nos LLMs usados ​​pelo Google Chat e pelas funções de IA do Facebook, bem como em muitos geradores de imagens, agregadores de notícias, sistemas de videoconferência e tradutores de idiomas. No entanto, nem todos os softwares de IA para o consumidor seriam considerados como "IA pública". Bancos, organizações de saúde, instituições de ensino e outras podem estar interessadas em IA soberana.

Principais conclusões

• A IA soberana está relacionada à soberania de dados, expandida para abranger novas tecnologias e usos de dados, incluindo modelos de IA.
• A categoria inclui o uso de IA generativa e machine learning quando esses sistemas são treinados ou têm acesso a fontes de dados sujeitas a restrições jurisdicionais ou de outra natureza.
• Com parceiros que oferecem opções para controles de soberania, uma infraestrutura de nuvem distribuída pode ajudar a abordar questões de IA soberana, bem como com a residência de dados, privacidade e controles de acesso.

IA soberana explicada

A IA soberana é um termo amplo que se refere ao controle de sistemas de IA que podem ser afetados por limitações jurisdicionais. Um dos principais objetivos da IA soberana é impedir que dados confidenciais saiam de uma jurisdição ou sejam acessados por pessoas sem as credenciais adequadas.

Existem seis aspectos principais a serem considerados em relação à IA soberana: compreender as regulamentações aplicáveis ​​à sua organização, determinar a infraestrutura de IA preferida, implementar controles de residência de dados, configurar controles de privacidade de dados, instituir controles legais e proteger sua infraestrutura de IA.

• Compreenda os regulamentos. Você entende os requisitos de soberania de dados do seu país ou região? Se sim, você provavelmente faz parte da minoria. Essas regras costumam ser complexas. No caso da soberania da IA, pode ser necessário primeiro considerar as regras de soberania de dados e, possivelmente, ir além, analisando como os dados são usados ​​para treinar algoritmos e quais respostas os modelos de IA finalizados fornecem.

• Determine sua infraestrutura de IA preferida. As soluções de IA podem ser implementadas on-premises, na nuvem, em um modelo de nuvem híbrida/on-premises ou até mesmo abrangendo várias nuvens. Geralmente, é mais fácil criar e gerenciar essa infraestrutura na nuvem, onde os provedores podem fornecer suporte a consultas e oferecer um conjunto abrangente de serviços de IA.

  Se você está considerando a computação em nuvem, precisa encontrar o modelo de sua preferência. Você está procurando soluções de software como serviço (SaaS) que ofereçam software empresarial com funcionalidade de IA integrada? Uma plataforma como serviço (PaaS) que forneça diversas ferramentas de IA para que você possa montar seus próprios sistemas de IA? Ou uma infraestrutura como serviço (IaaS), onde você basicamente aluga servidores e redes e cria tudo por conta própria? Ou uma combinação de tudo isso? As escolhas que você fizer determinarão o que é necessário para você cumprir as considerações de IA soberana.

• Implementação de controles de residência de dados. Com as opções de infraestrutura disponíveis, é hora de avaliar o quanto de seus dados, aplicações e tráfego de rede permanecerá dentro das fronteiras nacionais ou da sua região geográfica preferida. Se o seu provedor puder ajudar você a gerenciar questões de soberania de dados, será mais fácil lidar com a soberania da IA.

  Dependendo do provedor de nuvem, você pode configurar controles refinados sobre seus dados, aplicações, rede e infraestrutura de computação, bem como os controles de acesso de usuário necessários. Dependendo do seu setor e das suas necessidades específicas, você poderá atender aos requisitos de conformidade utilizando uma oferta de nuvem pública comercial com presença em diversos países. Ou talvez precise de uma nuvem específica para o governo que atenda a requisitos adicionais. Por exemplo, na União Europeia, uma nuvem soberana da UE pode ser a solução ideal. Em alguns casos, talvez você queira executar uma nuvem completa dentro do seu data center. A Oracle se refere a isso como uma região dedicada. Você pode até querer implementar regiões de nuvem isoladas, uma infraestrutura que se parece com a nuvem, mas que opera sem conexão com a internet.

  Todas as opções acima devem ser consideradas para o seu programa de soberania de IA.

• Configure controles de privacidade de dados. Enquanto a residência de dados considera onde os dados são armazenados, a privacidade de dados se concentra no tipo de dados e em como eles podem ser usados. Os usuários podem ver informações pessoais ou apenas resultados agregados de um relatório de dados? Quais tipos de respostas a IA generativa pode oferecer em resposta a consultas? Pode ser complicado, e seu software pode precisar de um sistema de controle de acesso flexível que permita lidar com casos de uso complexos.

  Pode não ser suficiente, por exemplo, controlar o acesso ao seu chatbot de IA generativa. Seu chatbot pode precisar ser projetado para responder a consultas de maneiras personalizadas. A boa notícia é que os principais fornecedores de software em nuvem, especialmente aqueles que oferecem aplicações SaaS, geralmente estão acostumados a lidar com esses cenários complexos e muitos estenderam esses controles de privacidade de dados a agentes de IA e outras ferramentas de inteligência artificial.

  Além disso, se uma organização deseja usar IA na nuvem, pode ser necessário que ela controle quem pode acessar os dados de uma perspectiva operacional/interna. Em alguns casos, isso pode ser resolvido com criptografia robusta usando chaves fornecidas pelo cliente e mantidas por provedores locais. Outros casos exigem pessoal de operações e suporte com autorização de segurança.

• Implemente controles legais. Determinar como cumprir as regulamentações pode ser complicado. Mesmo dentro de uma única empresa, podem existir diferentes considerações em relação aos dados, como informações de funcionários, dados de saúde, finanças e propriedade intelectual. Para as empresas multinacionais, as combinações e permutações são impressionantes.

  Nesta fase, a colaboração com o departamento jurídico é essencial. Os planejadores de TI podem ajudar seus parceiros jurídicos a entender os detalhes da adequação dos sistemas às normas, e os advogados podem ajudar a direcionar a TI para um sistema que reduza os riscos de não conformidade. Os consultores podem ajudar nas avaliações e nos testes.

  Outra área importante ao avaliar provedores de soluções é verificar se eles têm as competências e os recursos necessários para atender às suas necessidades de conformidade em determinada jurisdição. Por exemplo, se você opera na União Europeia, pode ser interessante que seu fornecedor de nuvem de IA ofereça opções dentro da UE.

• Proteja sua infraestrutura de IA. Embora seja desejável submeter os sistemas de IA aos mecanismos de segurança existentes, a IA pode exigir mais cuidado e testes do que os sistemas convencionais. Raramente você treinará seus próprios sistemas de IA, mas, se o fizer, talvez queira realizar testes com o objetivo de proteger seus dados de treinamento proprietários. O mais provável é que você forneça ao sistema de IA alguns dos seus dados, geralmente usando geração aumentada por recuperação, ou RAG. Você pode decidir realizar testes para detectar casos em que os usuários podem criar prompts que mostram informações que eles não têm autorização para ver.

  Observe que ignorar a tarefa de estender a função, a localização e outros fatores de cada usuário até o mecanismo de recuperação de dados pode levar a vazamentos de dados que podem afetar a conformidade do seu sistema. Além da situação em que os usuários obtêm mais acesso do que o permitido, as medidas de segurança da estrutura de IA precisam ajudar a lidar com interrupções e violações de dados que podem ser causadas por ataques maliciosos ou desastres regionais. Esses riscos, agravados pelo potencial roubo de identidade a partir de conteúdo gerado por IA, exigem estratégias robustas de cibersegurança para promover a governança responsável de dados, juntamente com uma infraestrutura redundante para garantir a resiliência dentro da jurisdição.

Por que a IA soberana é importante?

A IA soberana, assim como a soberania de dados, é importante porque para garantir que apenas pessoas e sistemas autorizados tenham acesso a tecnologias transformadoras e plataformas de computação de ponta, infraestrutura de rede, aplicações, propriedade intelectual e dados protegidos.

O cenário de IA soberana em rápida evolução está fazendo com que muitas empresas reavaliem toda a infraestrutura de TI e questionem seus provedores de serviços sobre produtos e serviços relacionados à IA soberana. As soluções de IA soberanas exigem que os controles e políticas de acesso sejam claramente definidos e rigorosamente seguidos, e não apenas devido ao risco de descumprimento das leis e regulamentações vigentes sobre soberania de dados. Certamente, fatores externos podem estar impulsionando as iniciativas de IA soberana, mas, ainda assim, elas são uma boa ideia.

Vantagens da IA soberana

As considerações sobre IA soberana podem adicionar uma camada adicional de conformidade e governança às operações de TI e de negócios. Confira alguns dos benefícios potenciais desses esforços adicionais de conformidade:

• Oportunidades de negócios. À medida que governos e outras empresas se esforçam para controlar os dados gerados dentro de suas fronteiras, é cada vez mais provável que exijam que seus parceiros sigam os princípios da IA soberana, garantindo aos pioneiros uma vantagem competitiva.
• Segurança aprimorada. A implementação de recursos de IA soberana pode ajudar as organizações a proteger melhor aplicações, infraestrutura e dados críticos.
• Melhor compreensão das normas regulatórias. As regras estão em constante mudança, e trabalhar m prol da IA soberana pode ajudar as equipes a entender os objetivos dos governos e dos órgãos reguladores.

Desafios da IA soberana

Pode haver custos associados à abordagem de questões de IA soberana. Aqui estão alguns dos desafios relacionados à IA soberana:

• Honorários advocatícios. As organizações podem precisar pesquisar vários governos e jurisdições e lidar com regras complexas e possivelmente conflitantes para implementar um programa de IA soberana. O advogado provavelmente precisará realizar grande parte desse trabalho.
• Ritmo de mudança lento. Cada projeto de conformidade tem seu próprio cronograma, que depende da interação com diversas entidades, incluindo governos e órgãos reguladores. Isso pode atrasar o progresso em algumas áreas, e o cronograma muitas vezes está fora do seu controle.
• Despesas da equipe. Pode ser necessário contratar funcionários ou consultores para fornecer suporte tanto ao trabalho jurídico quanto à implementação de soluções tecnológicas. Como essa é uma área nova, pode ser difícil e caro encontrar funcionários e consultores.
• Complexidade técnica. Os desafios da IA ​​soberana podem exigir mudanças em sua infraestrutura de TI e conjunto de aplicações. Pode ser necessário migrar dados de uma região para outra. E talvez seja preciso desenvolver novos softwares ou modificar códigos para garantir a conformidade.

O futuro da IA soberana

"Mais". Essa é a palavra que resume o futuro da IA soberana. Também é possível esperar que as tecnologias emergentes de inteligência artificial, e novos casos de uso, levem à criação de regulamentações adicionais. Imagens? Vídeos? Redes sociais? Em qualquer lugar onde os dados da sua empresa entrem em contato com IA e em qualquer lugar onde seus clientes e funcionários possam usar IA, é provável que surjam problemas de IA soberana.

Como você pode se preparar da melhor forma para esse ambiente regulatório complexo e em constante mudança? O trabalho inicial de encontrar os parceiros de prestação de serviços certos, escolher arquiteturas e modelos de dados com segurança rigorosa e configurar permissões completas pode exigir um esforço adicional agora, mas deverá compensar à medida que você trabalha para atingir seus objetivos de IA soberana.

Como a OCI pode ajudar você a atingir suas metas de soberania de IA?

Se as iniciativas de IA da sua organização utilizam computação em nuvem, seja em uma nuvem única, multicloud ou arquitetura híbrida, a Oracle tem as ferramentas e tecnologias de que você precisa. A peça central é a Oracle Cloud Infrastructure (OCI), que fornece uma plataforma poderosa tanto para criar suas próprias aplicações de IA quanto para adicionar funcionalidades de IA às aplicações que você já usa. A Oracle e a OCI oferecem suporte à IA soberana e à soberania de dados em cinco áreas principais: oferta de IA, residência de dados, privacidade de dados, controles legais e segurança. O conjunto de serviços de IA e aplicações aprimoradas por IA da Oracle integra os recursos inteligentes mais recentes a aplicações altamente seguras e escaláveis. Os recursos de residência de dados da Oracle ajudam a manter seus dados dentro das fronteiras de seu país, região ou outra jurisdição. Por padrão, todos os seus dados e metadados são restritos a uma única região da Oracle Cloud. Com a Dedicated Cloud, seus dados também são fisicamente separados dos de outras regiões.

A Oracle ajuda a gerenciar modelos de IA e a garantir limitações de acesso usando recursos de segurança avançados, mesmo que o modelo base tenha sido desenvolvido internamente ou venha de um provedor terceirizado. E quando se trata de estruturas e controles legais, a Oracle trabalha com mais de 80 agências de conformidade e certificações, e recebeu a certificação US Defense Department Impact Level 6. Ferramentas adicionais auxiliam no gerenciamento e auditoria de seus LLMs e outros ativos de IA durante todo o ciclo de vida da IA ​​na nuvem. Saiba mais em Inovação em IA: 5 pilares fundamentais para viabilizar a IA soberana.

A IA soberana já é uma realidade

Já estamos acostumados com os requisitos de soberania de dados, então não é surpresa que a inteligência artificial possa estar sujeita a regulamentações semelhantes. A IA soberana pode ser vista como uma extensão da soberania de dados para abranger as novas tecnologias que compõem uma solução de IA, incluindo dados de treinamento, LLMs e algoritmos de machine learning. Certamente, existem novos casos de uso, mas você encontrará problemas semelhantes relacionados à segurança, privacidade de dados, residência de dados, controles de acesso e questões legais que muitas empresas enfrentam. Encare a IA soberana como uma oportunidade para implementar as melhores práticas para proteger sua organização e seus clientes, bem como seu país e sua região, e você descobrirá que, com o parceiro tecnológico certo, é um desafio que vale a pena enfrentar.

Perguntas frequentes sobre IA soberana

A IA soberana é o mesmo que soberania de dados?

De forma geral, a soberania de dados se concentra nos próprios dados, enquanto a IA soberana se concentra no desenvolvimento e controle de sistemas de IA, incluindo os dados utilizados por esses sistemas, dentro de uma jurisdição específica.

Quais setores são mais afetados pela IA soberana?

Muitos tipos de empresas ou organizações podem ter, agora ou no futuro, requisitos de IA soberana, mas, em termos gerais, os maiores incluem as áreas militar e de defesa, saúde, educação, finanças e bancos, e infraestruturas críticas. A própria indústria de TI também pode ser candidata a considerações sobre IA soberana.

A IA soberana é cara?

Sempre há custos ao tentar se antecipar às exigências de conformidade. No caso da IA ​​soberana, uma das maiores despesas previstas pode ser o aprendizado e a atualização constante sobre os cenários regulatórios das jurisdições em que você opera e onde as partes interessadas residem. Também pode haver custos com testes e certificações de conformidade. Embora possa haver despesas com tecnologia, considere que elas podem ser minimizadas trabalhando com os parceiros certos e projetando sistemas com antecedência para antecipar futuras regulamentações de IA soberana.