소버린 AI란 무엇인가요?

소버린 AI라는 표현은 마치 비밀 지하 데이터 센터를 지키는 James Bond의 스파이 팀처럼 현대적이고 멋지게 들립니다. 하지만 영화와 달리 소버린 AI는 실제하며 실용적이고, 국가 안보를 넘어 더 광범위한 영역에 영향을 미칩니다. 탄탄한 소버린 AI 거버넌스 및 기술적 대비는 기업 자산 보호, 고객 프라이버시 보장, 공공 컴퓨팅 인프라의 보안 강화에 기여합니다.

소버린 AI는 국가 법률과 업계 표준의 영향 하에 있는 견고한 IT 보안 관행에 기반하는 경우가 많습니다. 귀사는 이미 지금 또는 가까운 미래에 소버린 AI 도입이 필요하다고 생각 중일 수도 있을 것입니다. 만약 그렇지 않다 해도 관련 관행 및 정책 도입은 충분히 고려해 볼 만한 일입니다.

소버린 AI란 무엇인가요?

간단히 말해, 소버린 AI의 목표는 AI 및 관련 데이터의 자국 내 생산 및 처리를 보장하는 것입니다. 관련 데이터에는 AI 학습에 사용하는 데이터, AI가 쿼리 처리 시 참조하는 데이터, 쿼리에 대한 응답으로 AI가 생성하는 결과물 등이 포함됩니다.

이와 같은 맥락에서 소버린 AI는 데이터 추세 파악과 이상 탐지를 위한 머신러닝, 패턴 인식 및 객체 식별을 위한 합성곱 신경망, 생성형 AI가 만들어내는 이미지, 음성, 텍스트 등 '인공지능'으로 불리는 기술 전반을 포괄할 수 있는 개념입니다. 또한 소버린 AI는 프라이버시 등 AI 기술 활용을 규율하는 규정도 포괄할 수 있습니다.

소버린 AI는 데이터 주권과 관련되어 있지만 동일한 개념은 아닙니다. 데이터 주권은 각 기업 또는 조직이 데이터가 저장 및 처리되는 위치, 나아가 네트워크를 통해 전송되는 방식에 대한 각국의 규정을 반드시 준수해야 한다는 개념입니다. 데이터 주권 관련 규정의 예시로는 유럽연합의 GDPR이 있습니다. 기업들은 지금부터 데이터 주권 관행을 적용함으로써 관련 규정의 변화에 지속적으로 대응하기 위한 체계를 갖출 수 있습니다. 예를 들어, 대부분의 조직은 데이터 거버넌스 정책을 적용하고 있습니다. 관련 정책의 범위를 시범 도입 단계인 AI까지 확장하면 향후 발생 가능한 문제를 예방하고 AI 사용이 허용되는 범위를 명확히 할 수 있습니다. 또한 AI 시스템에는 모델의 학습 위치 및 방법, 기업 데이터에 대한 접근 방식 및 위치 등과 관련된 특수한 규칙이 필요할 수도 있습니다.

소버린 AI와 퍼블릭 AI 비교해 보기

소버린 AI 시스템은 AI 모델과 데이터를 저장 및 관리하는 데 사용됩니다. 해당하는 모델 및 데이터에는 국가 또는 지역별 규제 및 권한 있는 사용자 및 시스템에 국한되는 사용 제한이 적용될 수 있습니다. 정부, 정부 용역 및 서비스 제공업체, 정부 협력 기관, 규제 대상 데이터 및 애플리케이션을 보유한 기업 등이 소버린 AI 솔루션을 활용합니다.

그에 반해 '퍼블릭 AI'는 소버린 AI와 관련된 고려사항이나 규제의 적용을 받지 않는 다른 모든 애플리케이션과 데이터를 의미합니다. 다양한 소비자용 애플리케이션과 비즈니스 네트워크가 이에 포함됩니다. Google Chat에 사용되는 LLM, Facebook의 AI 기능, 이미지 생성기, 뉴스 수집기, 화상회의 시스템, 번역기 등에 사용되는 AI 등이 퍼블릭 AI의 예입니다. 다만 모든 소비자용 AI가 '퍼블릭 AI'로 분류되는 것은 아닙니다. 은행, 의료기관, 교육기관 등은 소버린 AI에 관심을 가질 수 있습니다.

핵심 요점

• 소버린 AI는 AI 모델을 비롯한 새로운 기술과 데이터 활용 전반을 포괄하도록 확장된 데이터 주권과 관련있는 개념입니다.
• 관할권 또는 다른 제한이 적용되는 데이터로 학습하거나 해당하는 데이터에 접근하는 생성형 AI 및 머신러닝의 사용도 소버린 AI의 범주에 포함됩니다.
• 분산 클라우드 인프라를 소버린 통제 옵션을 제공하는 파트너사와 함께 활용하면 소버린 AI와 관련된 다양한 문제들과 데이터 레지던시, 프라이버시, 엑세스 제어 관련 문제를 함께 해결할 수 있습니다.

소버린 AI 알아보기

소버린 AI는 관할권 제한의 영향을 받을 수 있는 AI 시스템들의 통제와 관련된 폭넓은 개념입니다. 소버린 AI의 주된 목표 중 하나는 민감한 데이터가 관할권을 벗어나지 못하게 하고, 그러한 데이터에 대한 무단 액세스를 막는 것입니다.

소버린 AI와 관련된 6가지 핵심 고려사항은 귀사에 적용되는 규정 이해하기, 선호하는 AI 인프라 선택하기, 데이터 레지던시 통제 적용하기, 데이터 프라이버시 통제 구축하기, 법적 통제 관리하기, AI 스택 보안 확보하기 등입니다.

• 규정 이해하기. 귀사가 속한 국가 또는 지역의 데이터 주권 관련 요구 사항을 이미 파악하고 있나요? 아직 그렇지 못한 기업들이 많습니다. 관련 규칙들은 복잡한 경우가 많습니다. AI 주권을 다룰 때는 데이터 주권 규정을 먼저 고려하고, 나아가 알고리즘 훈련에 데이터가 활용되는 방식, 완성된 AI 모델의 응답 내용까지 함께 살펴봐야 할 수 있습니다.

• 선호하는 AI 인프라 결정하기. AI 솔루션은 온프레미스, 클라우드, 하이브리드, 멀티클라우드 등 다양한 방식으로 구현될 수 있습니다. 일반적으로 클라우드 공급업체가 문의 대응과 풍부한 AI 서비스를 제공하는 클라우드에서 AI 솔루션을 구축 및 관리하는 것이 가장 쉬운 경우가 많습니다.

  클라우드 사용을 고려 중이라면 선호하는 모델을 선택해야 합니다. AI 기능이 포함된 엔터프라이즈 소프트웨어를 제공하는 SaaS를 찾고 있나요? 직접 AI 시스템을 구성할 수 있는 다양한 도구를 제공하는 PaaS를 원하나요? 서버와 네트워크를 임대해 직접 모든 것을 구축하는 IaaS를 선호하나요? 혹은 이들을 조합한 방식을 원하나요? 귀사의 선택이 귀사가 소버린 AI 관련 요구사항을 준수하기 위해 필요한 요소들을 함께 결정할 것입니다.

• 데이터 레지던시 통제 구현하기. 인프라를 선택했다면, 이제 데이터, 애플리케이션, 네트워크 트래픽이 국가 경계(또는 선호하는 구역) 내에 얼마나 머물고 있는지 평가해야 합니다. 클라우드 공급업체가 데이터 주권 이슈 관리를 도와준다면 AI 주권 요구 사항에도 더 수월하게 대응할 수 있습니다.

  데이터, 애플리케이션, 네트워킹 및 컴퓨팅 인프라, 사용자 접근 권한 등에 대한 매우 세밀한 통제를 설정할 수 있도록 지원하는 클라우드 공급업체도 있습니다. 귀사가 속한 업종 및 요구 사항에 따라서는 다국가 리전을 제공하는 상용 퍼블릭 클라우드만으로도 규제 준수를 달성할 수 있는 경우도 있습니다. 또는 추가 요구 사항을 충족하기 위한 전용 정부 클라우드가 필요할 수도 있습니다. 예를 들어, 유럽연합에서는 EU 소버린 클라우드가 적합할 수 있습니다. 경우에 따라서는 귀사가 보유한 데이터 센터 내에서 완전한 클라우드를 운영하는 것이 가장 좋은 방법일 경우도 있습니다. Oracle은 그를 위한 전용 리전을 제공합니다. 나아가 인터넷과 분리되어 동작하지만 클라우드와 유사한 형태의 격리형 클라우드 리전을 구축하고자 하는 경우도 있을 것입니다.

  이상의 모든 옵션을 귀사의 소버린 AI 프로그램을 위한 선택지로 고려해 보아야 합니다.

• 데이터 프라이버시 통제 설정. 데이터 레지던시가 데이터가 저장되는 위치에 집중한다면 데이터 프라이버시는 데이터의 종류와 활용 방식에 초점을 맞춥니다. 사용자는 개인 정보를 볼 수 있나요, 아니면 보고서의 집계 결과만 볼 수 있나요? 쿼리에 대한 응답으로 생성형 AI가 제공할 수 있는 응답 유형은 무엇인가요? 이와 관련된 문답은 복잡해질 수 있으며, 복잡한 사용 사례를 처리하기 위한 유연한 액세스 제어 시스템이 필요해질 수도 있습니다.

  예를 들어 생성형 AI 챗봇에 대한 접근을 통제하는 것만으로는 충분하지 않을 수 있습니다. 쿼리에 맞춤형으로 응답하도록 챗봇을 설계해야 할 수도 있습니다. 다행히 주요 클라우드 소프트웨어 제공업체, 특히 SaaS 앱을 제공하는 곳들은 이러한 복잡한 시나리오에 익숙하며, 많은 경우 데이터 프라이버시 통제를 AI 에이전트와 기타 AI 도구에까지 확장해 두었습니다.

  또한 클라우드에서 AI를 사용하고자 하는 기업은 운영/내부자 관련 관점에서 데이터 액세스 주체들을 통제하기 위한 장치를 갖춰야 할 수도 있습니다. 이는 경우에 따라서는 고객사가 제공하고 현지 공급업체가 관리하는 키를 사용한 강력한 암호화를 적용함으로써 해결할 수 있습니다. 다른 경우에는 보안 인가를 받은 운영 및 지원 인력이 필요합니다.

• 법적 통제 수립. 규정 준수 방식을 결정하는 것은 복잡한 일입니다. 한 기업 내에서도 직원 정보, 건강 데이터, 재무, 지적 재산 등의 데이터 유형에 따라 고려사항이 달라질 수 있습니다. 다국적 기업의 경우 관련 조합과 변수가 매우 방대해집니다.

  이 시점에서는 법률 자문과 상의하는 것이 좋습니다. IT 기획자는 법무 파트너가 시스템의 규제 준수 과정을 이해하도록 돕고, 변호사는 IT 기획자가 규제 위험을 낮추는 방향으로 시스템을 설계하도록 안내할 수 있습니다. 컨설턴트는 평가 및 테스트를 지원할 수 있습니다.

  솔루션 공급업체를 평가하기 위한 또 하나의 핵심 요소는 귀사의 규제 준수 요구를 충족할 관할별 역량과 자원을 보유했는지 여부입니다. 예를 들어, 유럽연합에서 사업을 영위하는 기업은 EU 관할구역 내에서 서비스를 제공하는 AI 클라우드 공급업체를 선호할 것입니다.

• AI 스택 보안 강화. AI 시스템을 기존 보안 체계에 포함시켜야 하지만, AI에는 더 많은 노력과 테스트가 필요하다고 판단할 수도 있습니다. 직접 AI 시스템을 훈련하는 경우는 드물지만, 만약 직접 훈련을 진행한다면 자사의 학습 데이터를 보호하기 위한 테스트를 수행하는 것이 좋습니다. 더 흔한 방식은 검색 증강 생성(RAG)을 활용해 귀사가 보유한 데이터 중 일부를 AI 시스템에 제공하는 것입니다. 프롬프트를 작성해 열람 권한이 주어지지 않은 정보를 열람하는 사용자를 잡아내기 위한 테스트를 수행하기로 결정할 수 있습니다.

  사용자 역할, 위치 등 속성을 데이터 검색 엔진까지 일관되게 전달하지 않으면 데이터 유출이 발생해 시스템의 규제 준수에 영향을 줄 수 있다는 점을 유의해야 합니다. 사용자가 부여된 권한 이상의 액세스를 얻는 상황뿐 아니라, 악성 공격이나 지역적 재해로 인한 시스템 중단과 침해에 대응하기 위한 AI 스택 보안 대책을 마련해야 합니다. AI 생성 콘텐츠로 인한 신원 도용 가능성까지 더해진 이러한 위험에 대응하려면 책임 있는 데이터 거버넌스를 뒷받침하는 강력한 사이버 보안 전략과 관할 내 복원력을 높일 수 있는 이중화 인프라가 필요합니다.

소버린 AI가 중요한 이유는 무엇인가요?

소버린 AI가 중요한 이유는 데이터 주권과 마찬가지로 혁신 기술과 첨단 컴퓨팅 플랫폼, 네트워킹 인프라, 애플리케이션, 지적 재산, 보호 대상 데이터 등에 오직 권한 있는 사람과 시스템만 접근하도록 보장하는 데 기여하기 때문입니다.

빠르게 변화하는 소버린 AI 환경 속에서 많은 기업이 자사의 IT 전반을 재점검하고 서비스 공급업체들의 소버린 AI 관련 역량을 평가하고 있습니다. 소버린 AI 솔루션은 액세스 제어와 정책을 명확히 수립하고 엄격히 준수할 것을 요구합니다. 이는 현행 데이터 주권 법규의 미준수 위험 때문만이 아닙니다. 외부적 요인이 소버린 AI 이니셔티브를 이끌 수도 있지만, 그렇다 해도 분명 가치있는 작업입니다.

소버린 AI의 장점

소버린 AI 관련 고려사항은 기업의 IT 및 비즈니스 운영에 추가적인 규제 준수 및 거버넌스 계층을 더할 수 있습니다. 추가적인 규제 준수 노력의 잠재적 이점은 다음과 같습니다.

• 비즈니스 기회. 갈수록 많은 정부 및 기관이 자국 내에서 생성되는 데이터를 통제하려 들면서 파트너사들에게 소버린 AI 개념 준수를 요구할 수 있으며, 해당 소버린 AI를 선도하는 업체들은 경쟁 우위를 확보할 수 있습니다.
• 향상된 보안. 소버린 AI 기능을 구현하면 애플리케이션, 인프라, 핵심 데이터를 더 잘 보호할 수 있습니다.
• 규제 이해도 증진. 규정은 끊임없이 변화합니다. 소버린 AI에 대비하는 과정은 정부와 규제 기관의 의도를 이해하는 데 도움을 줍니다.

소버린 AI 관련 도전 과제

소버린 AI 고려 사항을 해결하는 과정에서 그와 관련된 비용이 발생할 수 있습니다. 소버린 AI 관련 도전 과제들은 다음과 같습니다.

• 법적 비용. 소버린 AI 프로그램을 구현하려면 여러 정부와 관할권의 규정을 조사하고, 때로는 복잡한 규칙들이 서로 상충하는 상황을 해소해야 할 수도 있습니다. 관련 작업의 상당 부분은 법률 자문이 담당해야 할 가능성이 큽니다.
• 느린 변화 속도. 모든 규제 준수 프로젝트는 정부 및 규제 기관을 비롯한 여러 주체들과의 협의에 좌우되는 고유의 일정에 따라 진행됩니다. 따라서 일부 영역에서는 진행 속도가 느려지고, 일정이 통제 범위를 벗어날 수도 있습니다.
• 인력 비용. 법적 업무와 기술 솔루션 구현을 지원할 인력이나 컨설턴트를 채용해야 하는 경우도 있습니다. 소버린 AI는 새롭게 부상 중인 분야이므로 적합한 인력과 컨설턴트를 찾기 어렵고 많은 비용이 발생할 수도 있습니다.
• 기술적 복잡성. 소버린 AI 도전 과제로 인해 기존 IT 인프라와 애플리케이션 스택을 변경해야 하는 경우도 있습니다. 데이터를 한 리전에서 다른 리전으로 마이그레이션해야 할 수도 있습니다. 규제 준수 대응을 위해 신규 소프트웨어를 개발하거나 기존 코드를 수정해야 할 수도 있습니다.

소버린 AI의 미래

"더(More)." 소버린 AI의 미래를 한 단어로 요약하자면 그렇습니다. 새로운 인공지능 기술과 사용 사례의 등장은 추가적인 규제로 이어질 가능성도 큽니다. 이미지? 비디오? 소셜 미디어? 기업의 데이터가 AI와 만나는 모든 지점, 고객과 임직원이 AI를 사용할 만한 모든 장소에서 소버린 AI 문제가 발생할 수 있습니다.

복잡하고 끊임없이 변하는 규제 환경에 가장 잘 대비하는 방법은 무엇일까요? 적합한 서비스 공급업체 파트너사를 찾고, 보안이 견고한 아키텍처 및 데이터 모델을 선택하고, 촘촘한 권한 체계를 마련하는 초기 작업은 비록 수고로울 수도 있지만 소버린 AI 목표를 달성해 나가는 과정에 큰 보탬이 될 것입니다.

OCI가 귀사의 AI 주권 목표 달성을 지원하는 방법

귀사의 AI 이니셔티브가 단일 클라우드, 멀티클라우드, 하이브리드 등의 클라우드를 활용하는 경우 Oracle은 귀사에 필요한 모든 도구와 기술을 제공할 수 있습니다. Oracle 솔루션의 핵심은 자체 AI 애플리케이션을 구축하거나 기존 애플리케이션에 AI 기능을 추가할 수 있는 강력한 플랫폼을 제공하는 Oracle Cloud Infrastructure(OCI)입니다. Oracle과 OCI는 AI 오퍼링, 데이터 레지던시, 데이터 프라이버시, 법적 통제, 보안 등 5가지 핵심 영역에서 소버린 AI 및 데이터 주권을 지원합니다. Oracle의 AI 서비스 및 AI 기반 애플리케이션 제품군은 매우 안전하고 확장성이 뛰어난 애플리케이션에 통합된 최신 지능형 기능들을 제공합니다. Oracle의 데이터 레지던시 기능은 귀사가 속한 국가, 지역 또는 기타 관할 구역 내에서의 데이터 보관을 지원합니다. 기본적으로 귀사의 모든 데이터와 메타데이터는 단일 Oracle Cloud 리전에 보관됩니다. Dedicated Cloud를 사용하면 귀사의 데이터가 다른 리전의 데이터와 물리적으로 분리됩니다.

Oracle은 고급 보안 기능을 통해 귀사의 AI 모델 관리 및 엑세스 제어를 지원합니다. 귀사의 자체 개발 모델이든, 타사 모델이든 모두 사용 가능합니다. 법적 프레임워크와 통제 측면에서 Oracle은 80개 이상의 규제 및 인증 기관들과 협력 중에 있으며 US Defense Department Impact Level 6 인증을 획득했습니다. 추가 도구를 통해 AI 클라우드의 전 생애 주기에 걸친 LLM 및 기타 AI 자산의 관리와 감사도 지원합니다. AI 혁신: 소버린 AI의 5가지 핵심 요소를 통해 그 자세한 내용을 확인해 보세요.

소버린 AI는 이미 현실입니다

데이터 주권 관련 요구 사항에 익숙해진 업계인들은 인공지능에도 유사한 규제가 적용될 수 있다는 사실도 자연스럽게 받아들이고 있습니다. 소버린 AI는 학습 데이터, LLM, 머신러닝 알고리즘 등 AI 솔루션 스택을 구성하는 새로운 기술들을 포괄하기 위해 데이터 주권을 확장한 개념이라고 볼 수 있습니다. 소버린 AI만의 새로운 사용 사례들도 물론 등장하고 있지만, 보안, 데이터 프라이버시, 데이터 레지던시, 액세스 제어, 많은 조직이 법적 이슈 등 데이터 주권과 유사한 과제들도 존재합니다. 소버린 AI를 귀사 및 고객, 나아가 귀사가 속한 국가 및 지역을 보호하기 위한 모범 사례를 구현할 기회로 받아들인다면 올바른 기술 파트너들과 함께 충분히 도전할 가치가 있는 영역임을 깨닫게 될 것입니다.

소버린 AI FAQ

소버린 AI는 데이터 주권과 동일한 개념인가요?

일반적으로 데이터 주권은 데이터 자체에 집중하는 반면, 소버린 AI는 특정 관할 구역 내에서의 AI 시스템의 개발 및 통제(해당 시스템이 사용하는 데이터 포함)에 집중합니다.

소버린 AI에 가장 많은 영향을 받는 산업은 무엇인가요?

현재 또는 미래에 소버린 AI 관련 요구 사항을 가지게 될 수 있는 조직은 다양하지만, 개중에서도 군사 및 국방, 헬스케어, 교육, 금융 및 은행, 기간 인프라 등의 분야가 가장 큰 영향을 받을 것입니다. IT 산업 자체도 소버린 AI의 고려 대상이 될 수 있습니다.

소버린 AI는 비싼가요?

규제 준수를 선제적으로 준비할 때는 항상 비용이 발생합니다. 소버린 AI의 경우 예상되는 가장 큰 비용 중 하나는 귀사가 사업을 영위하고 이해관계자들이 소재하는 관할권의 규제 환경을 파악하고 지속적으로 업데이트하는 과정에서 발생할 것입니다. 규제 준수 테스트와 인증 비용도 발생할 수 있습니다. 기술적 비용이 발생할 수도 있지만, 적합한 파트너사와 협력하고 미래의 소버린 AI 규제를 예상해 선제적으로 시스템을 설계하면 관련 비용을 최소화할 수 있습니다.