Editor's Note

배영자 건국대 교수는 소수의 선진국 빅테크 기업들이 AI 기술의 개발과 활용을 주도하는 현 상황이 지속될 경우 선진국과 글로벌 사우스 개도국과의 경제적 격차 확대, 기술 종속, 사회적 불평등, 군사적·정치적·불안정 등 다양한 위기에 직면할 것이라고 경고합니다. 특히 빅테크의 시장 독점, 노동시장 변화로 인한 실업, 프라이버시 침해, 민주주의 위협 등이 주요 문제로 떠오르고 있는 상황에서, 자국 빅테크 우위를 지원하는 범위 내에서 규범을 마련하려는 선진국과 AI 격차 문제에 대한 관심 및 해결방안 모색을 요청하는 글로벌 사우스의 입장이 더욱 첨예하게 대립하게 될 것으로 전망합니다. 배 교수는 이런 맥락에서 국제적으로 합의된 규범이나 거버넌스가 출현하는 데에 어려움이 예상되지만, AI 안전성이나 신뢰성 확보 및 관리, 빅테크 규제 등을 위한 거버넌스가 필요하다는 공감대를 중심으로 향후 글로벌 AI 거버넌스 구축 방향을 모색해야 한다고 주장합니다.

I. AI와 글로벌 사우스

 

1. 문제제기

 

현재 Chat GPT를 필두로 한 인공지능(Artificial Intelligence: AI) 기술은 경제는 물론 군사 교육 보건 문화 등 사회 다양한 영역에서 변화를 불러 일으키고 있으며 21세기 동안 발전이 가속화 될 것으로 예측되고 있다. AI가 경제성장을 촉진할 가능성과 함께 다양한 부정적 측면이 논의되고 있다. 이 가운데 본 글은 특히 인공지능 기술의 개발과 보급 활용이 모두 미국을 위시한 선진국과 중국 등에 주도되고 있고 글로벌 서우스(Global South)가 상대적으로 소외되고 있는 상황에 주목한다.

 

세계정치경제질서에서 선진국과 개도국간의 격차, 소위 남북문제는 오래전부터 국제정치의 중요한 이슈 가운데 하나였다. 21세기 들어 정보화가 진행되며 인터넷과 스마트폰을 위시한 IT 기술이 남북격차에 미치는 영향에 대해서 많은 분석이 제기되어왔다(United Nations Trade and Development (UNCTAD) 2020). 코로나19를 거치면서 빠르게 진행되어온 자동화와 스마트 팩토리 확대, 온라인상거래 시장의 확대 등의 중장기적 영향을 살펴본 연구에 의하면, 디지털 전환이 개도국 발전에 함의하는 바는 긍정 및 부정적인 측면을 모두 드러내는 복합적 양상으로 전개된다(배영자 2022).

 

개도국의 경우 선진국에 비해 디지털 인프라나 기술혁신 수준이 낮고 디지털 전환을 위한 역량도 상대적으로 부족하며 노동 이외 활용할 수 있는 자원도 빈약한 형편이다. 이러한 상황에서 자동차 등 전통적인 제조업 부문에서 진행 중인 디지털 전환, 특히 자동화와 스마트 팩토리의 확산으로 글로벌 밸류 체인 내에서 개도국이 담당해온 비교적 단순 반복적인 노동이 기계에 의해 대체되기 용이하므로 개도국의 위상이 강화되기보다 축소될 가능성이 높고 개도국과 선진국 격차를 더욱 벌어지게 할 가능성이 높다. 다른 한편 선진국의 디지털 전환이 개도국에게도 성장을 위한 기회가 될 수 있는 부분들이 존재하는데, 실제로 멕시코 등 개도국의 일부 지역에서는 글로벌 밸류 체인에 더 활발하게 참여하면서 선진국과의 교역 증대로 인한 이득을 누리기도 하였다. 선진국에서 로봇이나 3D를 활용한 스마트 팩토리가 확산되면서 생산력과 수입이 증대되고 이는 최종 제품에 대한 수요를 증가시켜 부품이나 중간재를 제공하는 개도국과의 교역이 활성화되었다(UNCTAD 2020).

 

온라인상거래의 경우 디지털 기기와 인터넷의 확산으로 개도국 기업이 온라인 마켓을 통해 공급자 및 생산자로 글로벌 밸류 체인 참여 기회가 늘어난 것은 사실이다. 개도국의 영세생산자들이 디지털 기술을 활용하여 알리바바, 아마존, 이베이, 타오바오, 머카도리브르 등 주요 온라인상거래 사이트를 통해 개도국 생산자와 선진국 소비자가 거래하는 경우가 증가해 왔다. 그러나 플랫폼에서 요구하는 거래방식, 배달방식, 결제시스템, 환불 교환 방식 등이 개도국 기업 참여의 진입장벽이 되고 있다. 아울러 온라인상거래 플랫폼 기업들의 데이터 독점과 이들의 시장 지위를 남용한 약탈적 가격 제시 및 높은 수수료 요구 등 반경쟁적 정책으로 개도국의 영세한 생산업자들의 어려움이 가중되고 있다. 즉 디지털 전환이 개도국 발전을 위한 기회의 창으로 활용될 수 있지만, 온라인상거래 기업의 플랫폼화, 데이터 독점, 기치사슬의 변화와 고용효과 축소 등으로 개도국 발전에 부정적으로 작용하는 측면이 적지 않다.

 

디지털 전환이라는 큰 흐름이 지속되는 가운데 특히 최근 가속화되고 있는 AI 기술 발전과 활용이 선진국과 개도국간의 격차에 어떤 영향을 미치고 있는가? AI로 인해 기존 격차가 더 증폭될까? 아니면 AI가 개도국에게 기회의 창이 되어 격차를 줄이는데 기여할 수 있을까? 장기적으로 AI 발전과 활용에서 개도국이 소외될 때 어떤 위기가 발생할 수 있을까? AI가 개도국 발전에 가져올 수 있는 부정적인 영향을 최소화하고 긍정적인 영향을 증대 시킬 수 있는 방안은 무엇일까? 여기서는 AI 인프라 투자 활용 현황에서 선진국 개도국 차이를 살펴보고 AI와 개도국에 관한 담론들을 고찰하면서 AI가 글로벌 사우스의 세계정치경제적 위상을 강화 시킬 수 있는 방안을 모색해 본다.

 

2. AI 인프라 기술투자 및 활용 현황: 선진국과 개도국간 격차 관점

 

다양한 지표들을 통해 AI가 개발되고 보급되며 활용되는 과정에서 선진국과 개도국간 격차가 어느 정도인지 가늠해 본다. 먼저 AI를 구동 시키는데 가장 기본이 되는 인프라 지표인 인터넷 보급률을 살펴본다. 아래 <그림 1>에서 보여 지듯 현재 약 80억 세계인구 가운데 약 27억 정도가 인터넷에 접근하지 못하고 있다. 특히 인도 6억 8천명, 중국 3억 4천명이 인터넷을 사용하지 못하고 있는 것으로 알려져 있으며, 아프리카 사하라 이남 지역의 인터넷 보급률이 40퍼센트 이하, 동남아시아 지역의 인터넷 보급률이 51%로 매우 낮은 편임을 알 수 있다.

 

<그림 1> 인터넷 보급률

출처: Datareportal. 2024

 

2020년부터 가속화되고 있는 인공지능에 대한 투자를 주도하고 있는 것도 일부 선진국이다. <그림 2>에 따르면 2013년부터 2023년 동안 이루어진 AI 관련 투자에서 미국이 3천3백억으로 선두를 달리고 있으며 중국이 약 천억 규모로 뒤따르고 있고 이외 영국 이스라엘 캐나다 독일 등이 수백억 대 투자를 하고 있다. 투자 순위 2위국인 중국에서부터 15위인 스웨덴의 모든 투자액을 합쳐도 미국 투자액의 절반을 조금 넘는 수준일 정도로 미국의 투자액은 독보적이다.

 

<그림 2> AI 국가별 투자액(2013-23)

출처: HAI, Stanford. 2024.

 

 

개도국 AI 관련 인프라나 투자 부족은 자연스럽게 AI 연구나 특허 저조로 이어지고 있다. AI 연구의 경우 미국, 중국, EU국가들이 주도하고 있다. <그림 3>에 따르면 2014~2023년 AI 연구(핵심 AI 분야 피어리뷰(peer review) 논문)의 경우 미국 연구소는 772,000개 이상의 논문을 생산하여 30%의 점유율을 차지하였고, 중국은 약 465,000편의 논문, 18%의 점유율을 보인다. 이외 영국, 독일, 일본 및 인도, 브라질, 이란 등이 각각 10,000~140,000개의 논문을 생산하는 AI 연구 거점인 반면 아프리카, 남미 및 대부분의 아시아 국가의 AI 연구는 5% 미만으로 드러나고 있다. AI 특허에서 2010-2022년 동안 남아시아 라틴아메리카 사하라이남 아프리카 국가가 차지하는 비중이 1% 미만이고, 대부분의 특허가 중국(61.1%) 미국(20.9%)에게 부여되었다.

 

<그림 3> AI 연구와 특허 비중

출처: Digital Science. 2024.

 

 

현재 광범위한 사례에 적용할 수 있도록 광범위한 데이터에 대해 훈련된 기계학습 또는 딥러닝 모델인 GPT-4, Claude 3, and Llama 2와 같은 파운데이션 모델(Foundation model)이 AI 확산을 이끌고 있다. 이들은 AI 연구와 활용을 대표하는 것으로 현재 약 150개 정도 출시되었는데 이를 국적별로 살펴보면 미국이 109개, 중국이 20개, 영국이 8개이고 이외 UAE, 캐나다, 싱가포르, 이스라엘, 독일, 핀란드 등이 각각 2개씩 보유하고 있다.

 

흥미로운 사실은 AI 인프라, 투자, 연구. 특허, 파운데이션 모델 등 모든 지표에서 선진국에 비해 매우 취약한 개도국에서 ChatGPT에 대한 인지도나 활용이 상대적으로 높게 나타나고 있다는 점이다. 자료에 따르면 특히 인도, 케냐, 파키스탄에서 ChatGPT를 일/주별로 사용하는 응답자 비율이 각각 75%, 69%, 62%로 세계 전체 평균을 훌쩍 넘고 있으며 독일 41%, 일본 38%, 영국 38% 보다 높다. 이는 다양하게 해석할 수 있으나 새로운 시장에 대한 빅테크들의 적극적인 진출 및 보건 교육 부문에서 상대적으로 적은 비용으로 저개발국에 AI 서비스가 확장될 수 있었던 점 등이 중요했다고 볼 수 있다. 구글 마이크로소프트 메타 등 빅테크들은 개발도상국에 연구개발센터나 엔지니어링 사무실을 설립하며 확장해 왔다(Okolo 2023). IBM은 1998년에 IBM Research India를 설립하였고 이후 상파울루와 리우데자네이루(2010), 나이로비(2013) 요하네스버그(2016) 등에도 연구소를 설립했다. 2005년 Microsoft는 방갈로르에 Microsoft Research India를 개설하였고 나이로비와 라고스에 두 곳의 아프리카 개발 센터를 개설하였다. Google은 2018년 아크라, 2019년 방갈로르에 AI 연구소를 설립했다.

 

중요한 것은 인프라 투자 성과에서의 취약함에도 불구하고 개도국에서 AI 확산과 활용이 기대한 것 보다 활발하게 이루어지고 있다는 사실이다. 또 기업이나 기관들이 생성형 AI를 도입하는 비율이 미국에서 40%임에 비해 중국권 31%, 인도 및 라틴아메리카 포함 개도국이 33%로 드러나고 있다. AI 활용을 고려해 볼 때 AI 가 개도국에서 기회의 창이 될 가능성과 여지를 남기고 있다.

 

<그림 4> 글로벌 ChatGPT 활용 빈도 (2023)

출처: Stanford University AI Index Report. 2024.

 

 

UNCTAD 보고서에 따르면 선진국과 개도국 격차는 1980년대 정보화가 시작되면서 더욱 벌어져 왔다. 위에서 살펴본 바와 같이 선진국은 AI 인프라 투자 연구 투자 파운데이션모델 등 모든 측면을 주도하고 있고 개도국들의 존재감이 매우 낮아 현재 가속화되고 있는 AI 기술 개발과 활용이 기존의 격차를 완화하는 흐름으로 진행될 것으로 낙관하기는 어렵다. PwC는 AI가 2030년까지 세계 경제 성장에 최대 15조 7천억 달러에 기여할 수 있을 것으로 추정하였고 이 가운데 중국을 제외하고 글로벌 사우스지역에 미칠 경제적 영향은 1조 7천억 달러에 불과하다고 주장하였다. 그러나 저개발국가들에서 AI를 적극적으로 받아들이고 활용하는 모습이 보이고 있어 AI가 저개발국 발전에 종합적으로 어떤 영향을 미치게 될 것인지 지켜보면서 격차를 줄이는데 기여할 수 있는 방안을 적극적으로 모색해야 한다.

 

<그림 5> 선진국 개도국 격차의 역사적 흐름

출처: UNCTAD, Technology and Innovation Report. 2023.

 

 

3. AI와 글로벌 사우스에 관한 담론들

 

1) 알고리즘 제국주의

 

서구의 AI 주도가 단순히 기술 발전에서 저개발국의 소외를 넘어, 사회, 정치, 문화 담론의 지배와 통제 양상을 띤다는 소위 알고리즘 제국주의 담론이 제기되어 왔다(Birhane 2023). 이 논리에 따르면 전통적인 식민주의가 국가 주도로 진행된 반면, 알고리즘 식민주의는 기업이 주도한다. 전자가 무차별 폭력적 지배의 형태를 띤 반면, AI 시대의 식민주의는 사회 문제에 대한 '최첨단 알고리즘'과 'AI 주도 솔루션'의 형태를 취하고 있는 점에서 차이가 있다. 아프리카의 디지털 인프라와 생태계의 대부분은 구글 메타 넷플릭스 우버 등 서구기업들이 주도적으로 운영하고 있다. 에컨대 메타는 컴퓨터 비전 기술, 인구 데이터 및 고해상도 위성사신 등을 통해 확보한 데이터에 토대하여 아프리카 인구 지도를 만드는 과정에서, 대륙내 인구에 관한 지식을 창출하고 제어하는 권위를 자연스럽게 부여 받게 된다. 데이터 추출과 이윤 극대화를 위해 메타는 아프리카인들과 그들의 이동에 관한 정보를 마음대로 활용할 뿐 아니라 무엇이 인구에 대한 합법적인 지식인지를 권위적으로 결정하게 된다. 이는 단지 어떤 기술을 사용하는 지만 달라졌을 뿐, 과거 식민지배를 정당화하기 위해 서구인들이 식민지가 무엇을 필요로 하는지 자신들이 더 잘 알며 그들을 구원할 것이고 그들은 자신들에게 감사해야 한다고 주장했던 것과 매우 유사하다.

 

나이지리아는 아프리카에서 기술이 상대적으로 발전한 곳이지만 이 곳 에서조차 사용되는 소프트웨어의 90% 정도가 수입되고 있으며 이는 자생적인 기술 개발의 장벽이 되고 있다. 서구가 개발한 AI는 아프리카 문제에 적합하지 않을 뿐 아니라, 서구의 알고리즘 침입은 지역에 맞는 제품 개발을 방해하는 동시에 대륙을 서구 소프트웨어 및 인프라에 의존하게 만든다. 예컨대 서구에서 유방암 진단에 유용하게 쓰이는 맘모톰을 활용한 AI 진단의 경우 아프리카에서는 기대보다 성공을 거두지 못하고 있으며 오히려 자가진단이 더 유용하게 나타나고 있다고 보도된다. 서구의 생활습관과 환경을 배경으로 발전된 건강 관련 AI 시스템들이 저개발국에서는 유용성이 떨어질 수 있어 조심스럽게 활용되어야 함을 시사한다.

 

AI 모델과 데이터에 내재된 편견으로 서구의 인식과 유사한 방식으로 문제가 설정되고 해답이 도출되는 경우가 많다. 예컨대 같은 질문에 대한 응답을 WVS(World Values Survey) 및 Pew Research Center에서 오프라인에서 구했을 때와 달리, AI 모델을 통해 돌렸을 때 나오는 결과값이 서구 쪽으로 편향되게 나온다고 한다. 아래 <그림 5>에서처럼 민주주의와 경제성장의 상대적 중요성을 평가하는 질문에 대해 러시아, 인도네시아, 미국에서 각각 83%, 72%, 59%가 경제성장을 선택한 반면 인공지능모델은 98%가 경제성장을 선택하는 것으로 나오고 있다. 비슷한 맥락에서 결국은 선진국기업이 독점하는 AI 시스템이 지식을 독점하고 통제하여 개도국의 ‘지식 노예knowledge slavery’를 초래할 것이라는 주장도 제기된다 (UNCTAD 2023).

 

<그림 6> 설문조사 결과 비교 (2023)

출처: Stanford HAI. 2023.

 

 

서구의 AI 인프라 및 활용 지배는 단순한 기술 및 데이터 독점을 넘어 서구식 인식이나 생활방식의 확산을 동반하며 이는 서구적 모델의 정당성을 무비판적으로 수용하게 만든다. 저개발국의 정치경제문화적 맥락이 탈각된 AI 모델의 수용은 이들이 당면한 문제를 해결하기에 적합하지 않은 경우가 많고 오히려 저개발국 인프라나 데이터의 종속을 심화하는 도구가 될 가능성이 높다.

 

2) 기회의 창 담론

 

다른 한편 AI가 개도국이 당면한 다양한 문제들을 해결하는데 유용한 도구가 되고 있으며 AI를 통해 시만들의 참여를 독려함으로써 민주주의를 증대시킬 수 있다는 주장도 제기되어 왔다(Okolo 2023). 이들은 AI를 개도국 발전을 위한 기회의 창으로 인식하며 실제 AI의 적극적 활용을 권고하고 있다. 지난 10년 동안 저개발국들은 전통적인 저발전 문제를 해결하기 위해 AI 도구를 활용하기 시작했고 특히 농업, 의료 및 교육 분야에서 AI에 활용 사례들이 증가하고 있다. 예컨대 개발도상국의 농민을 지원하기 위해 바나나 질병, 농작물 감염병 등 현장 진단을 위한 딥 러닝모델과 농업 및 산림 모니터링을 지원하기 위한 이미지 관찰 시스템이 개발되었다. 보건, 의료 및 교육 분야는 AI를 활용하여 인프라 부족을 보완하고 비용을 획기적으로 줄일 수 있는 서비스들이 개발되어 시험적으로 쓰이고 있다. 인도의 경우 오지의 산모들이 원격 의료 지원 프로그램에 계속 참여할 수 있도록 예측 모델을 구축하고, 가나에서 항생제 내성을 퇴치하기 위한 임상 지원 시스템을 만들었다. 교육 분야에서 콜롬비아의 경우 다양한 위험에 처한 학생들을 식별하기 위해 AI를 활용하고 있으며, AI를 통해 태국 학생들의 영어 학습을 강화하고, 서아프리카의 과학 교육을 지원하기 위해 AI 조교를 활용하고 있다.

 

이들은 현재의 AI 관행을 보다 민주화하고, 보다 포괄적인 AI 시스템 개발을 독려하면서 AI 개발에서 과소 대표되는 커뮤니티의 참여를 늘릴 수 있다고 주장한다. 현재 AI 시스템의 지역적 특화와 개발에 대한 요구가 증가하고 이 분야서 활발한 노력이 진행 중이다. Masakhane 및 Ghana NLP 등과 같은 풀뿌리 시민단체는 아프리카 언어에 대한 접근성을 확대하는 데 도움이 되는 데이터 세트 및 기계 번역 도구 개발을 시도하고 있다. 이외 Deep Learning Indaba, Khipu, AI Saturdays Lagos, Data Science Africa 등 은 AI 분야에서 현지 전문 지식을 구축하고 아프리카와 라틴 아메리카 AI 연구자 및 개발자 커뮤니티 성장에 기여하고 있다.

 

4. AI 격차가 초래하는 위기와 대응방안

 

개도국을 배제하고 소수 선진국들 위주로 AI 개발과 활용이 이루어질 때 세계는 어떤 상황에 직면하게 될까? 구체적으로 어떤 위기들을 예측해 볼 수 있을까? <표 1>에서 생각해 볼 수 있는 다양한 위기들을 선진국-개도국 경제젹차, 개도국의 데이터 및 기술 종속, 사회문화적 불평등 및 편견 차별의 확대, 군사적 불안정, 정치적 불안정으로 나누어 위기의 내용과 대응방안을 아래와 같이 정리해 보았다.

 

<표 1> 선진국-개도국 AI 격차 확대로 인한 위기와 대응 방안

위기 내용과 대응 방안

선진국-개도국간
경제적 격차

위기내용

선진국은 AI 기술을 통해 생산성을 극대화하고 새로운 산업을 창출하는
반면, 개도국은 이러한 기술에 접근하지 못해 경제 격차 증대 및 개도국의 빈곤율 증가. 세계경제의 불안정 요소로 작동

대응방안

기술 이전 프로그램: 선진국 기업이 개도국에 AI 기술 이전 및 현지화
교육 및 훈련: 개도국 내 AI 전문가 양성을 위한 교육 프로그램을 제공하고 개도국 AI 인재 양성
국제 협력 강화: 국제 기구와 협력하여 개도국의 AI 기술 도입을 위한 자금 지원 및 기술 컨설팅 제공

개도국의 데이터
및 기술 종속

위기내용

선진국 기업이 AI 기술과 데이터를 독점, 개도국의 기업들은 기술 접근에서 배제.
정보 비대칭이 심화되어 개도국 정부와 기업이 정확한 결정을 내리기 어려움. 불공정 경쟁 상황 초래 및 개도국의 경제적 자립 저해

대응방안

데이터 공유 이니셔티브: 국제 협약을 통해 개도국과 데이터를 공유하고, 공공 데이터 접근성을 높이는 방안 마련
공정 경쟁 법률 강화: 국제기구와 협력하여 기술 독점과 불공정 경쟁을 방지하기 위한 규제와 법률 강화
공공 인프라 투자: 개도국이 자체적인 데이터 인프라를 구축할 수 있도록 국제 기구와 선진국의 지원 확대

사회적 불평등/
문화적 차별
및 편견 확대

위기내용

사회적 불평등: 교육, 보건, 금융 등에서 AI로 구동되는 서비스가 개도국에게 제공되지 못하면 이로 인한 사회적 불평등 심화
문화적 차별 및 편견 심화: 선진국 위주의 AI 개발은 개도국의 사회문화적 백락을 고려하지 못하여
다른 환경에서 적용될 때 문화적 차별 및 편견을 드러낼 수 있음

대응방안

개도국에게 유용한 AI 서비스 보급을 확대하기 위한 노력
문화적 차이에 대한 감수성을 증대시킬 필요성 강조

군사적 불안정

위기내용

개도국의 낮은 AI 및 사이버 보안 역량을 악용한 사이버 공격 증가. 이는 개도국의 중요 인프라, 경제 시스템, 정치적 안정성을 위협.
금융 시스템과 정부 기관이 주요 타겟이 되어 경제적 손실과 사회적 혼란이 발생

대응방안

국제 사이버 보안 협력: 글로벌 사이버 보안 협력 체계 강화. 개도국의 사이버 보안 역량 향상 노력
사이버 보안 훈련 프로그램: 개도국의 정부 및 기업을 대상으로 한 사이버 보안 교육 및 훈련 프로그램을 제공

정치불안 심화

위기내용

AI 기술의 불균형적 배분이 개도국 내 사회적 불만과 정치적 불안정 초래. AI 기술로 인한 일자리 감소와 경제적 기회의 불평등이 사회적 갈등을 촉발하고,
이는 정치적 불안정으로 이어질 수 있음

대응방안

포괄적 경제 정책: 개도국 정부가 AI 기술의 도입으로 인한 충격을 완화할 수 있는 포괄적 정책 수립
사회 안전망 강화: 일자리 재교육 프로그램과 사회 복지 시스템을 강화
시민 참여 확대: AI 기술 개발과 활용에 시민들의 참여를 확대하여 투명성과 신뢰를 높임

 

 

선진국-개도국간 AI 격차 증대로 인한 위기를 해결하기 위해서는 선진국과 개도국 개별 국가 차원의 노력도 중요하지만 위기를 인식하고 이에 대응하기 위한 국제적 노력이 반드시 필요하고 AI 격차 문제를 완화하는데 기여하는 AI 글로벌 거버넌스를 구축해야 한다.

 

5. AI 글로벌 거버넌스와 글로벌 사우스

 

AI 기술이 알고리즘 식민주의를 강화할 여지가 있는 반면, 특히 저개발국 농업 보건 교육 등의 분야에서 AI가 활발하게 활용될 가능성이 있지만, 저개발국들이 AI가 제공하는 기회를 잘 활용하기 위해서는 해결되어야 할 과제들이 존재한다. 아프리카 지역의 전기 및 인터넷 보급률이 꾸준히 증가해 왔음에도 불구하고 여전히 사하라 이남 지역의 많은 인구들이 인터넷에 접속하지 못하고 있다. 세계은행은 외딴 지역에 거주하는 1억 명의 아프리카인을 연결하려면 최소 1000억 달러의 투자가 필요할 것으로 추산하고 있다. 아프리카 지역에 인프라 보급이 더욱 확장되어야 한다. 현재까지 설계된 가장 긴 해저 인터넷 케이블인 2Africa가 배포 중이다. 전 세계에서 사용 중인 485개로 추정되는 해저 인터넷 케이블의 대부분은 대규모 통신 회사가 소유하고 있고, Amazon, Google, Meta, Microsoft를 포함한 빅테크 기업들 역시 해저 인프라 투자를 늘려 현재 약 30개 케이블을 공동 소유하고 있다. 이러한 인프라확대가 저개발 지역의 이익을 고려할 수 있는 방안이 논의되어야 한다.

 

저개발국은 취합된 데이터 라벨링 노동을 담당하고 있으며 Sama 및 Scale AI와 같은 기업에 의해 고용된 많은 동아프리카와 남아시아의 데이터 작업자와 콘텐츠 조정자에 대한 착취가 문제시되기도 한다. 또 대부분의 저개발국에서 데이터 보호 및 AI 정책이 부족하여 잠재적으로 데이터 오용이 더 빈번해 질 수 도 있다. 현재 AI의 부정적인 영향에 대한 우려와 논의는 주로 선진국 위주로 진행되고 있는데, 저개발국의 이러한 상황에 대한 적극적인 관심과 논의가 요청된다.

 

저개발국 정부의 보다 적극적인 노력도 중요하다. 저개발국 정부들은 자국 AI 생태계 확장을 돕기 위해 외부 기관과의 파트너십 구축을 통해 현지 연구원과 개발자를 교육할 수 있는 역량을 구축하고 기업가 정신을 장려하고 지역 혁신을 지원하는 AI 생태계 생성과 유지를 지원해야 한다. 나이지리아는 시민에게 디지털 기술을 제공하기 위해 마이크로소프트와 파트너십을 맺었고, 구글은 2017년부터 라틴 아메리카에서 약 800만 명에게 디지털 기술을 교육하고 있다. 브라질, 코스타리카, 인도, 자메이카, 말레이시아, 파나마, 르완다 및 남아프리카공화국의 디지털 혁신 이니셔티브에서 컴퓨터 활용 능력, ICT 기술, 코딩, 디지털 시민의식, 온라인 안전 분야의 주제를 K-12 커리큘럼에 통합하는 계획이 언급되고 있다.

 

AI 기술의 영향력이 커지고 있는 상황에서 저개발 국가들이 AI 기술에 공정하게 접근하여 공평한 경쟁과 활용의 장이 펼쳐질 수 있는 환경을 조성하는 것이 중요하다. UN, World Bank, IMF, G20 등 다양한 국제기구들이 개발도상국의 안정, 안보, 주권을 보장하는 동시에 인류의 이익을 증진하기 위한 AI의 촉진을 주장하고 있다. 디지털 공공 인프라 시스템 프레임워크, 글로벌 디지털 공공 인프라 저장소(Global Digital Public Infrastructure Repository: GDPIR) 등의 아이디어도 제시되어 왔다. G20의 데이터 격차 이니셔티브 3(DGI-3)는 개발도상국이 기후 변화 영역에서 공개 데이터 세트를 사용하여 AI 모델을 운영할 수 있도록 지원하고 있다.

 

현재 AI 기술과 이의 확산과 관련되는 다양한 국제기구와 회의들에서 AI 남북격차와 이의 완화 방안, 개도국 지원방안 등이 지속적으로 논의되는 한편, AI 글로벌 거버넌스에 개도국들이 참여할 수 있도록 개방하고 초대하는 것이 요청된다. 이를 통해 AI 격차가 가져올 수 있는 위기들에 대한 인식을 제고하고 이에 대응하기 위한 방안을 모색해야 한다.

 

II. AI와 빅테크 기업

 

1. AI 혁신과 규제

 

대규모 디지털 플랫폼을 소유하거나 통제하는 기업, 소위 구글, 아마존, 애플, 메타, 마이크로소프트 등의 빅테크 기업들은 네트워크 효과에 토대하여 독과점 서비스를 제공하고 있다. 아울러 소비자들의 선호를 파악하고 행동을 예측하는데 중요한 실시간 데이터를 수집하고 축적하며 디지털 생태계의 구심점을 형성하고 있다. 구글은 200여 개 국에 진출하였으며, 메타는 전세계적으로 23억 명의 월간 사용자를 보유하고 있고, MS의 오피스 및 윈도우 사용자는 각각 12억, 14억을 초과하였다. 독과점에 토대하여 이들은 막대한 재정을 확보하였고 S&P 500 기업 시가총액의 22%를 차지하며, 개별 기업 규모가 캐나다 이탈리아의 GDP를 초과하고 있다.

 

생성형 AI의 등장은 빅테크의 지배력을 더욱 강화하고 있다. 생성형 AI를 개발하려면 인력, 데이터, 컴퓨팅파워 등이 확보되어야 하는데 수만 명의 최고급 인력과 막대한 데이터를 보유하고, 데이터를 빠르게 처리하는 컴퓨터 용량을 갖추기 위해 만 개 이상의 GPU를 구매할 수 있는 기업은 빅테크 이외 많지 않다. <그림 7>에서 보여지듯 현재 작동 중인 생성형 AI는 소수 빅테크에 의해 주도되고 있다.

 

<그림 7> 글로벌 생성형 AI 시장 점유율

출처: IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

 

 

AI와 관련된 중요한 이슈는 AI 기술혁신과 규제 간의 균형을 어떻게 잡아가느냐와 관련된다. 빅테크 간의 경쟁으로 인해 AI 혁신과 확산이 가속화되는 한편, 이로 인한 위험과 부정적 측면도 제기되고 있다. AI 기술이 교통 보건 교육 생산 등 사회 다양한 영역에서 이점을 가져올 수 있기 때문에 현재 각 국가들은 앞다투어 AI 전략을 마련하고 기업의 혁신을 지원하고 있다. 다른 한편, AI가 초래할 위험과 문제점을 어떻게 최소화하고 규제할 것인지에 대한 논의도 활발하게 진행 중이다. 가장 시급한 문제는 해롭거나 비윤리적인 AI 시스템, 편견이나 차별을 내재한 시스템이나 사이버 전쟁 등 유해한 목적으로 사용될 수 있는 시스템 개발을 어떻게 방지하고 규제하느냐 이다. 아울러 빅테크 기업들 간의 치열한 경쟁과 소수 기업에 의한 독과점이 결국 혁신을 억제하고 AI의 잠재적 이점을 제한할 수 있기 때문에 이에 대한 해결 방안을 찾는 것도 중요하다. AI가 책임감 있고 윤리적인 방식으로 개발 및 사용되며, AI 기술의 개발과정, 활용, 효과를 모두가 함께 공유하는 방향으로 이끌 수 있는 AI 글로벌 거버넌스가 요청된다.

 

2. 빅테크 기업의 역할 확대 및 정부와의 관계

 

AI 시대 빅테크 기업들은 경제적 영향력은 물론 이를 토대로 어젠다 설정, 문제 해결을 위한 담론 제공, 정책이 실행되는 과정에 깊이 관여하고 있다. 빅테크는 문제를 식별하고 우선순위를 정하는 과정에서 중추적인 역할을 하고 있다. 예컨대 관심있게 논의되는 문제에 대해 온라인 콘텐츠를 활용하여 효과적으로 어젠다를 설정할 수 있으며, 학술 및 정책 연구 진행에도 참여하여 해당 문제에 대해 탐구하며 해결책을 모색한다. 빅테크는 스스로 연구를 직접 수행하거나 학술 및 연구 기관의 연구 자금을 지원하거나 연구자들간 회전문을 활용함으로써 연구에 영향을 미친다. 빅테크가 스스로 연구를 수행하는 빈도와 비율이 증가하고 있으며 방대한 양의 데이터를 분석하여 새로운 정책 문제를 제기한다. 아마존이 워싱턴포스트를 소유하거나 애플이 Apple News를 출시하는 것이 같이 빅테크는 미디어를 직접 소유함으로써 콘텐츠 중재자를 넘어 콘텐츠 제공자로 변모하려고 시도하고 있다.

 

과거 철도 도로와 같은 기본적인 인프라는 정부가 소유하거나 운영하였다. 그러나 새로운 정보인프라인 검색 엔진 및 브라우저, 데이터 서버 및 클라우드 컴퓨팅, 이메일 및 인스턴트 메시징, 소셜 네트워킹, 앱 스토어, 지불 시스템, 비디오 호스팅, 지리정보 및 내비게이션 서비스 등은 전적으로 빅테크 기업이 소유하고 있다. 정부는 코로나 시기처럼 특정한 도전에 당면했을 때 빅테크의 도움을 요청할 수 밖에 없다. 실제로 많은 정부들은 코로나19 관리를 위한 정책 설계를 위해 빅테크 대표들을 초청하였다. 이들의 협조로 전염병 확산 지도를 만들고 추적 도구를 설계하여 질병 예방 정책을 만들고 의약품과 백신을 보급할 수 있었다. 점점 더 다양한 정책 영역에서 빅테크와의 협력 및 지원이 필수적 요소가 되어가고 있다. 빅테크 기업의 경제 사회적 영향력이 증대함에 따라 이들의 사회적 책임에 대한 요청도 증가하고 빅테크 기업이 정책서비스의 직접적인 공급자로 더 많이 참여하고 있다. 저개발국 보건이나 교육 금융 영역에서 빅테크들의 지원 활동이 활발하게 전개되고 있다.

 

생성형 AI의 등장으로 빅테크가 의제 설정 및 사회 문제를 재정의하고 제안하는 것을 넘어 실제 정책수립 단계에서 해결 방안을 제시하고 의사 결정자의 역할까지 맡기 시작하고 있다. 빅테크가 역사적으로 엄청난 규모로 국경을 초월한 이익을 축적하고 정치적 영향력이 막강해 지면서, 이들은 주권과 유사한 위상을 보유한 행위자로 취급되기도 한다. 예컨대 덴마크 정부는 실리콘밸리에서 근무하는 기술 대사(Tech Ambassador)를 임명하여 빅테크와 관계를 맺고 자국의 이익을 대표하는 임무를 맡기고 있어 빅테크 기업이 국가와 유사한 지위를 갖고 있다는 인식을 드러내고 있다. 일부 학자들은 빅테크의 위상이 상승하면서 국가와의 관계가 어떻게 재설정될 것인지를 지켜보고 있다.

 

빅테크 기업이 국가와 유사한 기업 또는 준국가 기업으로 인식되면서 국가와 빅테크의 관계가 어떻게 설정될 것인지에 관심이 모아지고 있다. <그림 2>에서 보여지듯 양자의 관계는 다양한 경로로 발전해 갈 것으로 예측된다. 먼저 주권국가와 빅테크 양자간의 경쟁과 직접적인 충돌이 불가피한 부분이 있다. 특히 정부가 빅테크에 대한 규제를 강화하고 빅테크가 이에 반발하면서 갈등이 발생할 수 있다(competition). 다른 한편 정부가 빅테크를 강하게 규제하고자 할 때 빅테크는 국가와의 직접적인 충돌을 피하고 가급적 정부 정책을 따라가며 일치시키는 전략을 쓸 수 도 있다(cooption). 반면 정부가 빅테크에 대한 규제를 강화하지 않고 자유시장경제의 논리를 내세워 방임할 때 빅테크와 정부의 관계가 매우 협력적이 될 수 도 있다(collaboration). 빅테크의 영향력이 증대하면서 정부가 오히려 빅테크에 포획되는 경우도 발생할 수 있다(capture). 4가지 방향은 상호 배타적이라기보다는 중첩적으로 발생할 수도 있다.

 

<그림 8> 정부의 빅테크 기업들간의 관계 매트릭스

출처: Khanal et al. 2024.

 

 

3. 빅테크 주도의 AI 개발과 활용으로 인한 위기 및 대응 방안

 

빅테크가 AI 개발을 주도할 때 예측되는 위기와 대응방안을 시장독점과 경쟁제한, 노동시장변화와 실업 및 경제적 불평등, 데이터편향 및 프라이버시 침해, 기술통제와 민주주의 위협, 빅테크의 국가권력 도전, 빅테크의 알고리즘 제국주의 등으로 나누어 <표 2>와 같이 정리해 보았다.

 

<표 2> 빅테크 주도 AI 기술 발전이 초래하는 위기와 대응방안

 

위기내용

결과 및 대응방안

시장 독점과
경쟁 제한

빅테크 기업들이 AI 기술을 독점적으로 개발하고, AI 기반 서비스와 제품을 시장에 출시.
중소기업과 신생 기업은 기술적 우위를 따라잡지 못하고 시장에서 퇴출.
빅테크가 AI 기술을 통해 시장을 지배하고, 가격을 임의로 조정하며, 혁신을 억제.
소비자는 선택의 폭이 좁아지고, 제품과 서비스의 질이 저하.
정부는 독점 행위를 제재하려 하지만, 막대한 로비 자금을 통해 규제를 무력화

경제적 불안정 심화
민주주의 약화
인권 침해
국가권력 약화


AI 글로벌 거버넌스 요청
-공정경쟁을 위한 규제
-데이터 보호법 강화
-알고리즘 투명성 요구
-개도국 디지털인프라 강화
-국제 협력 강화

노동 시장 변화와 실업 문제,
경제적 불평등 심화

빅테크는 AI 기반 자동화 기술을 통해 제조업 분야를 혁신.
그 결과 수백만 명의 노동자들이 일자리를 잃게 됨.
빅테크는 AI를 통해 생산성을 극대화하지만, 노동자들의 재교육과 재취업 지원에는 소홀.
빅테크는 AI 기술을 통해 막대한 이익을 창출, 그 이익은 소수의 주주들에게만 배당.
대규모 실업 사태가 발생하고, 사회적 안전망이 붕괴.
많은 사람들이 경제적 어려움에 처하게 되며, 사회적 불안과 갈등이 증가.
빈부 격차가 극단적으로 확대.
정부는 실업 문제를 해결하기 위해 다양한 정책을 시행하려 하지만, 빅테크의 로비 활동과 정치적 영향력으로 인해 정책이 효과를 발휘하지 못함

데이터 편향 및 프라이버시 침해

빅테크는 AI를 활용해 개인화된 광고 서비스를 제공.
수십억 명의 사용자의 데이터를 수집하고 분석하여 광고를 타겟팅.
그러나 빅테크의 알고리즘은 특정 인종과 성별에 편향된 결정을 내리며, 프라이버시 보호 규정을 무시.
특정 집단은 불공정한 대우를 받게 되고, 개인 정보 유출 사고가 빈번하게 발생.
사용자들은 사생활 침해에 대한 불안감이 커지며, 사회적 불신이 증대.
규제 당국은 빅테크의 불법 행위를 제재하려 하지만, 이들은 법적 공방을 통해 규제를 회피

기술통제와 민주주의 위협

빅테크는 AI 기술을 통해 선거 결과를 예측하고, 유권자들의 행동을 조작할 수 있는 능력을 보유.
이 회사는 특정 정치 세력과 결탁하여 선거 캠페인을 지원하며, AI를 이용해 여론을 조작.
민주주의의 근간이 흔들리고, 선거의 공정성이 훼손. 시민들은 자신들의 정치적 의사가 왜곡되고 있다는 느낌을 받으며, 정치적 불신이 확산.
정부는 빅테크의 활동을 규제하려 하지만, 회사는 AI 기술을 통해 법망을 피함

빅테크의 국가권력 도전

빅테크 기업들이 경제 전반에 걸쳐 막대한 영향력을 행사하여 금융 시장을 포함한 여러 산업을 장악.
빅테크 기업들이 정치적 영향력을 행사하여 선거에 개입하거나 정책 결정에 영향을 미침
정부 기관과 국민들이 특정 플랫폼에 의존하게 되면서, 플랫폼 운영사의 정책 변화에 따라 큰 혼란이 발생, 서비스 중단 시 대규모 사회적 혼란, 정부의 대응력 약화
AI와 자동화 기술이 악용되어 사회적 불안정을 초래하거나 군사적 목적으로 사용

빅테크의 알고리즘 제국주의

빅테크 기업들이 개도국의 디지털 인프라를 구축하고 운영을 장악.
현지 기업의 경쟁력 약화, 디지털 주권 상실, 데이터 주권 문제 발생
빅테크 기업들이 개도국 시장을 독점하여 현지 기업들이 경쟁에서 밀려나게 됨.
경제적 종속
빅테크 기업들이 개도국에서 방대한 데이터를 수집하고 이를 자사 이익을 위해 활용.
이는 소비자 행동 분석, 맞춤형 광고, 시장 예측 등에 사용.
개인 정보 유출 위험, 프라이버시 침해, 현지 경제의 종속화
개도국의 교육 시스템과 기술 인프라가 빅테크 기업들의 플랫폼에 의존.
교육의 획일화, 현지에 맞는 컨텐츠발전 저해

 

4. AI 규범 현황

 

알려진 바와 같이 생성형 AI는 기업의 비용 절감, 데이터 기반 의사결정 등을 가능하게 하여 기업의 생산성 향상에 기여할 것으로 기대되고 있다. 생성형 AI는 글 그림 음악 창작 등의 분야에서 새로운 서비스의 등장을 촉진하고 있다. 다른 한편, 생성형 AI는 방대한 데이터를 통해 학습하지만, 데이터의 유한성으로 인해 때때로 부정확하거나 편향된 응답을 생성한다. 생성형 AI가 활용하는 데이터에는 민감한 개인 혹은 사생활 관련 정보가 포함되어 사생활 침해의 위험이 있다. 생성형 AI는 기존 저작물로부터 데이터를 획득하므로, 지식재산권 침해 가능성이 매우 높다. 생성형 AI를 활용하여 허위정보 유포, 여론조작 등이 가능하다.

 

이처럼 AI 기술이 본래적으로 가진 다양한 위험성은 AI 기술 발전과 활용을 빅테크 기업들이 주도할 때 더 증폭될 수 있다. 빅테크들간의 치열한 시장 점유율 확대와 투자 가속화 속에서 주도권 경쟁이 우선적으로 설정되면서, 믿을만하고 책임감있고 윤리적인 AI 기술 발전이라는 규범이 준수되기 쉽지 않기 때문이다. 현재 빅테크에 대해서는 주로 독과점 규제라는 틀로 국내적 차원에서 논의되고 있다. 국제적인 차원에서는 AI 기술의 부정적 측면에 대응할 수 있는 윤리 규범을 제정하고 이를 실행하기 위한 AI 글로벌 거버넌스가 요청된다는 광범위한 공감대가 형성되고 있지만, 실제로 미국 유럽 중국이 AI 규제에 대한 입장이 조금씩 차이가 있어 합의된 국제규범과 효과적인 AI 글로벌 거버넌스의 출현을 낙관하기 어렵다.

 

EU는 2024년 인공지능법안(Artificial Intelligence Act: AIA)을 제정하여 본격적인 AI 규제를 위한 법적 토대를 가장 최초로 마련하였다. AIA는 인간 중심적이고 신뢰할 수 있는 AI의 활용을 촉진함과 동시에 AI로 인한 유해한 영향을 최소화하여 건강, 안전, 기본권 및 민주주의를 보호하는 것을 입법 취지로 밝히고 있다. EU AIA는 AI 시스템이 사용자에게 미치는 위험수준을 허용할 수 없는 위험(unacceptable risk), 고위험, 저위험, 최소위험으로 분류하고, 그 수준에 따라 규제의 강도를 달리하였다. 특히 ① 잠재의식 또는 기만적 기술을 활용하여 사람의 의사결정을 조작, ② 사람 또는 특정 집단의 취약성을 활용, ③ 사람 또는 특정 집단에 불리・불평등한 처우를 하거나, 사회적 점수(social scoring)를 평가 또는 분류, 혹은 ④ 공공의 접근이 가능한 공간에서 실시간 원격 생체인식 식별 기술을 활용하는 시스템을 허용할 수 없는 것으로 규정하고 이의 사용은 원천적으로 금지하였다. 교육, 의료, 군사 부문에서 사용되어 기본권에 위험을 초래할 수 있는 AI 기술은 EU가 제정한 새로운 표준을 충족해야 하며, 기업은 모델 개발 방식을 투명하게 공개하고 피해에 대해 책임져야 한다. EU는 OpenAI의 GPT-4, Google의 Gemini와 같은 AI 모델이 위험을 초래할 수 있으므로 EU 표준을 충족하기 위한 추가 작업이 필요하다며 빅테크들을 압박하고 있다.

 

EU가 AI 규제를 가장 먼저 명문화하면서 국제규범 형성을 이끌고 있는 배경에는 대규모 디지털 플랫폼을 보유한 유럽 자체의 빅테크 기업이 없는 상황에서 미국 빅테크의 유럽내 활동을 견제하고 안전 관련 표준을 주도하고자 하는 의도가 있다. AI 기술에서는 앞서 나가지 못하는 대신 AI 안전 규범과 평가에 대해 적극적으로 대응하고 있다. 아울러 AI 안전을 위한 국제 표준 형성을 이끌면서 여기에서 파생되는 안전성 평가 서비스 및 평가 기관 등을 유럽 내에 설립하고자 하는 기대도 엿볼 수 있다.

 

미국의 경우 AI 안전성에 관해 기본적으로 기업의 자율규제가 적절하다는 입장을 보이면서 정부가 기업의 자율규제를 보완하기 위한 정책들을 발표하고 있다. 대부분의 빅테크들은 스스로가 윤리 규범을 제정하여 발표하였지만 아무도 이것 만으로 충분하다고 생각하지는 않는다. 미국 바이든 행정부는 2022년 연방AI 권리장전(Federal AI Bill of Rights)을 발표한 이후, 2023년 ‘안전성 보안성 신뢰성 있는 AI를 위한 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)’에 서명하였다. 본 행정명령은 ①AI 안전성 평가 의무화, ②AI 도구의 안전성 표준 마련, ③콘텐츠 인증 표준 수립, ④개인정보 보호 강화 등으로 미국이 연방 정부 차원에서 AI 개발과 활용을 안전하고 책임감 있게 촉진하고 국가 안보, 건강과 안전을 위협하는 AI 기술개발과 이용을 규제하겠다는 것이 핵심이다. 국립표준기술연구소(NIST) 내에 미국 AI 안전연구소(US AISI, The United States AI Safety Institute)를 신설하여 AI 위험을 평가하고 완화하기 위한 지침, 도구, 벤치마킹 등 AI 위험관리 프레임워크를 운영할 예정이다.

 

미국 국토안보부는 2024년 AI 안전·보안 이사회(AI Safety and Security Board)를 설립하였는데 여기에 오픈AI, 앤트로픽, MS, 구글, 엔비디아, IBM, 어도비, AWS 등 22명의 자국 주요 AI 기업 CEO를 자문위원으로 포함하여 주목을 끌었다. 미국 정부가 빅테크를 일방적으로 규제하기 보다는 이들과의 협력 속에서 이들의 전문성을 바탕으로 AI 기술의 안전성 및 보안성을 강화하는 방안을 모색하고자 하는 입장임을 드러냈다.

 

최근 EU가 인공지능법을 제정하여 미국의 상당수 기업들도 AI 학습 과정에서 사용된 콘텐츠를 명시하고, 위험 예방 조치를 의무적으로 준수해야 하며, 실시간 원격 생체인식 식별 시스템의 활용을 제약 받게 되었다. 이에 대해 빅테크들이 나름대로 대응방안을 모색하는 가운데, 미국 정부 역시 AI 규범 부문에서 유럽에게 주도권을 빼앗기지 않기 위한 노력을 기울이고 있다. 미국은 2024년 5월 UN에 안전하며 신뢰할 수 있는 AI를 촉진하기 위한 결의안(Seizing the opportunities of safe, secure and trustworthy artificial intelligence systerns for sustainable development)을 제출하여 찬성 143, 반대 9, 기권 25표로 승인되었다. 결의안은 부적절하거나 악의적인 AI 사용이 인권에 미치는 해로운 영향과 편향된 데이터로 인한 불평등과 차별 강화 위험 강조하면서 글로벌 규범의 조정이 필요하다는 내용을 담고 있지만 구속력은 가지지 못한다. 결의안은 구체적으로 안전한 AI 개발 및 구현을 위한 국제 협력과 글로벌 합의가 요청되며, 이해 관계자 간 협력과 연구 및 기술이 공유되어야 하고, 국가 및 국제 수준에서의 규제가 발전되어야 하며, AI 설계 개발 배포 사용에 있어 오남용이 금지되어야 하고, 선진국 개도국 간 디지털 격차 해소를 위한 기술이전과 자금지원 등을 주장하고 있다. 미국은 기본적으로 자국 빅테크의 자율규제를 인정하고 이를 보완하는 정책들을 폄과 동시에 EU가 AI 국제 규범을 일방적으로 주도하는 것을 견제하기 위해 UN 등을 통해 국제 규범의 필요성을 제기하고 있다.

 

중국 역시 일련의 원칙 및 지침 제시를 통해 AI의 신뢰성 확보와 인증 체계 확립을 추진하고 있다. 2019년 5월 ‘베이징 AI 원칙’을 발표하였다. 원칙에서 인간 복리 및 다양성 포용성 추구를 기본가치로 하는 AI의 개발 사용 및 거버넌스에 관한 원칙을 제시하였다. AI 개발 부문에서는 인류를 위한 활용, 올바른 목적 추구, 책임성, 위험통제 가능성, 윤리성 투명성, 다양성 포용성, 개방성 등 7개 원칙을, AI 사용부문에서는 사용에 대한 책임, 인권 및 데이터 관리, 교육훈련 등 3개 원칙을, AI 거버넌스 부문에서는 고용 최적화, AI 생태계의 조화 협력, 적절한 규제, 세분된 지침, 장기전략 마련 등 5개 원칙을 제시하였다. 국제적으로는 2023년 일대일로 정상포럼에서 글로벌 AI 거버넌스 이니셔티브를 제안하여 AI 개발에서 모든 나라가 동등한 권리와 기회를 가질 것을 촉구하며, 기술적 독점과 일방적인 강압적 조치를 반대하였다.

 

중국은 미국 빅테크의 기술독점을 견제하기 위해 각 국의 동등한 권리와 기회를 강조하면서 국내 AI 기업들을 위한 가이드 라인을 제시하여 규범을 갖추되 자국 AI 기업들에 대한 지원을 더욱 강조하고 있다. 중국 기업들이 무분별한 안면 인식 기술 활용으로 비판받자, 안면 인식 기술 적용 안전관리 규정 초안을 발표하였다. 생성형 AI의 허위 정보 생성과 편향성, 여론선동 위해성을 차단하는 것이 시급하다고 판단하여 생성형 인공지능 서비스 관리에 관한 임시 조치를 마련하였다. 중국에서 AI 규범이나 규제가 다소 방어적인 양상을 띠고 있음을 알 수 있다.

 

영국은 2023년 블레츨리 파크(Bletchley Park)에서 열린 제1차 AI 안전성 정상회의(AI Safety Summit)에서 인공지능의 잠재적인 위험에 대한 공동 대응을 촉구하는 블레츨리 선언 (Bletchley Declaration)을 발표하였다. 인간 중심적이고, 신뢰할 수 있으며, 책임감 있는 AI를 보장하기 위해 신속하고 적합한 규제 조치에 대한 합의를 모색하고 마련하는 것이 회의의 핵심 의제이다. 회의에는 한국을 비롯해 28개국(호주, 브라질, 캐나다, 칠레, 중국, 유럽연합, 프랑스, 독일, 인도, 인도네시아, 아일랜드, 이스라엘, 이탈리아, 일본, 케냐, 사우디아라비아, 네덜란드, 나이지리아, 필리핀, 르완다, 싱가포르, 스위스, 튀르키예, 우크라이나, UAE, 영국, 미국)이 참가하여 AI 안전과 관련해 공동으로 협력할 것임을 밝혔다. 영국은 미국 중국은 물론 개도국들이 참여하는 AI 관련 안전성에 관한 국제 회의를 주도하면서 미국이나 중국 중심의 AI 기술 개발과 확산을 견제하고 보다 대표성 있고 공고한 국제적 연대를 형성하기 위해 노력하고 있다.

 

AI 기술을 둘러싼 각 국의 치열한 경쟁과 규범에 대한 다소 상이한 입장으로, 국제적으로 합의된 규범이나 거버넌스가 출현하는 데에 어려움이 예상된다. 그러나 AI 안전성이나 신뢰성 확보와 이의 관리, 빅테크 규제 등을 위한 글로벌 AI 거버넌스가 필요하다는 공감대가 확산되고 있으며 기존 국제기구 가운데 어떤 형태가 AI 부분에서 가장 적합할 것인지에 대한 논의들이 진행되고 있다. 최근의 한 보고서는 민간항공운행(The International Civil Aviation Organization: ICAO), 핵과 원자력 에너지(The European Organization for Nuclear Research: CERN); The International Atomic Energy Agency: IAEA), 기후변화 (The Intergovernmental Panel on Climate Change: IPCC), 국제결제시스템 관리를 위한 기존 국제기구들 (The Bank for International Settlements: BIS; Financial Stability Board: FBS; Financial Action Task Force: FATF) 등 을 사례로 비교하고 있다. 즉 관련 정보의 교환, 협력촉진, 모니터링과 강제력의 기능을 모두 행사할 수 있는 원자력, 민간항공, 국제결제시스템 등이 글로벌 AI 거버넌스의 적절한 후보로 제시되고 있다.

 

<그림 9> 글로벌 AI 거버넌스 유형 비교

출처: Microsoft. 2024.

 

 

현재까지 소수의 선진국 빅테크 기업들이 AI 기술의 개발과 활용을 주도하면서 국내적으로는 빅테크의 독과점과 국제적으로는 선진국 개도국 격차 확산에 대한 우려가 커지고 있다. 이러한 상황과 AI 기술이 제기하는 안전성과 신뢰성 위험에 대한 인식 증대가 맞물리면서 각 국은 AI 기술에 대한 규제를 마련하고 있으며 글로벌 AI 규범이나 거버넌스 논의도 진행 중이다. AI 기술 개발 속도와 활용은 이러한 논의들을 훨씬 앞서고 있어 AI 기술을 둘러싼 불확실성을 감소시키지 못하고 있다. AI 기술은 물론 AI 규범을 둘러싼 주요국들의 경쟁과 입장 차이가 드러나면서 AI 규범과 거버넌스의 향배에 대해 낙관하기 어려운 상황이다. 그러나 AI 기술 발전의 지속적인 가속화가 예측되는 상황에서 윤리성 신뢰성 안전성 문제는 더욱 더 첨예하게 불거지게 될 것이고 AI 기술로 인한 격차 역시 국제사회가 함께 풀어가야 할 중요한 도전 과제로 부상할 것이다. AI 기술 개발에서 선두를 차지하기 위한 빅테크 기업들간의 치열한 경쟁, 자국 빅테크 기업들의 우위를 지원하는 범위내에서 AI 안전성과 책임성 규범을 마련하고자 하는 미국 정부의 노력, 미국 빅테크 기업들을 견제하면서 AI 규범 마련을 위한 국제적 노력을 이끌어 가고자 하는 EU와 영국 정부의 행보, 미국 빅테크 기업을 견제하고 자국 AI 기업을 적극 지원하면서 안면인식이나 생성형 AI 관리 지침 등을 제정하며 대응하고 있는 중국, 선진국들 중심으로 이루어지는 AI 기술과 규범 제정 노력을 비판하며 AI 격차에 관심을 요청하는 글로벌 사우스의 입장 등의 역동적 상호작용 속에서 AI 기술 개발의 방향과 거버넌스에 대한 모색이 진행될 것이다. ■

 

참고문헌

 

배영자. 2022. "코로나19와 디지털 경제: 글로벌 밸류체인과 개도국 발전의 관점." EAI 워킹페이퍼. 2월 9일. https://www.eai.or.kr/new/ko/etc/search_view.asp?intSeq=21070&board=kor_workingpaper

 

 

Birhane, Abeba. 2020. "Algorithmic Colonization of Africa." SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888

 

 

Draux, Hélène. 2024. "Research on Artificial Intelligence – the Global Divides." Digital Science, 1월 4일. https://www.digital-science.com/tldr/article/research-on-artificial-intelligence-the-global-divides/

 

 

Huw, Roberts, Emmie Hine, Mariarosaria Taddeo, and Luciano Floridi. 2024. "Global AI Governance: Barriers and Pathways Forward." International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073

 

 

Kemp, Simon. 2024. "Internet Use in 2024." Datareportal, 1월 31일. https://datareportal.com/reports/digital-2024-deep-dive-the-state-of-internet-adoption

 

 

Khanal, Shaleen, Hongzhou Zhang, and Araz Taeihagh. 2024. "Why and How is the Power of Big Tech Increasing in the Policy Process? The Case of Generative AI." Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012

 

 

Smith, Brad, and Natasha Crampton. 2024. "Global Governance: Goals and Lessons for AI." Microsoft, 5월 17일. https://blogs.microsoft.com/on-the-issues/2024/05/17/global-governance-goals-and-lessons-for-ai/

 

 

Stanford Human-Centered Artificial Intelligence (HAI). 2024. “Artificial Intelligence Index Report 2024.” https://aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_2024_AI-Index-Report.pdf

 

 

Maslej, Nestor, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, and Jack Clark. 2024. "The AI Index 2024 Annual Report." AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, 4월. https://aiindex.stanford.edu/report/

 

 

Okolo, Chinasa. 2023. "AI in the Global South: Opportunities and Challenges Towards More Inclusive Governance." Brookings, 11월 1일. https://www.brookings.edu/articles/ai-in-the-global-south-opportunities-and-challenges-towards-more-inclusive-governance/

 

 

UN Trade and Development (UNCTAD). 2023. “Technology and Innovation Report 2023.” https://unctad.org/tir2023

 

 

_________. 2020. “World Investment Report 2020.” https://unctad.org/publication/world-investment-report-2020

 

 

World Bank. 2020. “World Development Report 2020: Trading for Development in the Age of Global Value Chains.” https://www.worldbank.org/en/publication/wdr2020

 


 

배영자_건국대학교 정치외교학과 교수.

 


 

담당 및 편집: 박지수, EAI 연구원
    문의 및 편집: 02 2277 1683 (ext. 208) | jspark@eai.or.kr
 

6대 프로젝트

무역ㆍ기술ㆍ에너지 질서의 미래

미중관계와 한국

세부사업

AI와 신문명 표준

Related Publications