세계 최초의 ‘AI안전서밋’, 영국에서 열려

챗GPT가 지난해 11월 글로벌 이슈가 되면서 곧바로 AI의 위험과 문제에 대해 갑론을박이 시작됐다. 이에 세계 최초로 컴퓨터를 발명한 영국이 논의를 이끌고 있다.

제2차 세계 대전 당시 영국군 암호해독의 근거지였던 블레츨리 파크(Bletchley Park)에서 11월 1일부터 2일까지 ‘인공지능 안전 서밋(AI Safety Summit)’이 세계 최초로 열렸다.

이 서밋은 영국의 주도로 인공지능의 안전한 사용을 모색하고 인공지능으로 인한 위험을 공동으로 관리하기 위해 미국, EU, 중국 등 여러 국가가 모였다고 로이터가 1일(현지 시각) 보도했다.

각국의 지도자들과 일론 머스크, 챗GPT의 샘 알트만(Sam Altman) 등 기술 책임자들이 서밋에 참석했다.

일부 기술 경영진과 정치 지도자들은 AI의 급속한 발전이 통제되지 않으면 세계에 실존적 위협이 될 것이라고 경고, 정부와 국제기관이 보호 장치와 규제를 설계하기 위한 경쟁을 촉발시켰다.

개회 첫날인 1일에는 미국과 중국, EU를 포함한 25개 이상의 국가가 참석해 국가들이 함께 협력하고 감독에 대한 공통 접근 방식을 확립해야 한다는 '블렛츨리 선언(Bletchley Declaration)'에 서명했다.

선언문은 위험을 식별하고, 위험에 대한 과학적 이해를 구축하는 동시에 위험을 완화하기 위한 국가 간 정책을 개발하는 데 초점을 맞춘 두 가지 의제를 제시했다.

첫째, AI가 우리 사회에 미치는 영향을 이해하기 위한 폭넓은 글로벌 접근 방식의 맥락에서 공통 관심사인 AI 안전 위험을 식별한다. 위험에 대한 공유된 과학적, 증거 기반 이해를 구축하고, 이러한 이해를 유지한다.

둘째, 국가 전체에 걸쳐 각각의 위험 기반 정책을 구축하고, 국가 상황과 적용 가능한 법적 틀에 따라 각국의 접근 방식이 다를 수 있다는 점을 인식하면서 적절하게 협력한다. 여기에는 민간 AI기업의 투명성 향상, 적절한 평가 지표, 안전 테스트 도구, 관련 공공 부문 역량 및 과학 연구 개발이 포함된다.

참여 국가들은 잠재적인 고의적 오용이나 의도하지 않은 프론티어 AI 통제 문제로 인해 상당한 위험이 발생할 수 있으며 특히 사이버 보안, 생명공학 및 허위 정보 위험으로 인해 발생할 수 있다는 점에 동의했다.

선언문은 “이러한 AI 모델의 가장 중요한 기능으로 인해 고의적이든 의도적이지 않든 심각하고 심지어 재앙적인 피해를 입을 가능성이 있다”는 합의 사항을 명시했다. 또한, 국가들은 편견과 개인 정보 보호를 포함하여 프론티어 AI의 위험에 주목했다.

아울러 서밋 참석자들은 완전히 이해되지 않은 위험과 기능에 대한 이해를 심화할 필요성을 인식하고 프론티어 AI 안전에 대한 과학 연구 네트워크를 지원하기 위해 협력하기로 합의했다.

이번 정상회담은 영국 총리가 지난 주 영국이 세계 최초의 AI 안전 연구소를 설립하고 G7, OECD, 유럽 평의회, UN 및 AI에 대한 글로벌 파트너십을 포함한 기존 국제 노력을 보완하겠다고 발표한 내용에 기반한다.

중국 과학기술부 차관 우 자오후이(Wu Zhaohui)는 이틀 간 열린 정상회담 개막식에서 중국이 국제 '거버넌스 프레임워크' 구축을 돕기 위해 AI 안전에 대한 협력을 강화할 준비가 되어 있다며, “규모와 규모에 상관없이 모든 국가는 AI를 개발하고 사용할 동등한 권리를 갖고 있다”고 주장했다.

AI가 경제와 사회에 미칠 수 있는 영향에 대한 두려움은 작년 11월 Microsoft 지원(MSFT.O) OpenAI가 ChatGPT를 대중에게 공개하면서 시작됐다.

인간과 같은 대화를 만들기 위해 자연어 처리 도구를 사용하는 것은 일부 AI 선구자들 사이에서 기계가 시간이 지나면 인간보다 더 뛰어난 지능을 달성하여 무제한적이고 의도하지 않은 결과를 초래할 수 있다는 두려움을 불러일으켰다.

EU는 AI 감독을 데이터 프라이버시 및 감시와 인권에 대한 잠재적 영향에 집중했지만, 이번 서밋에서는 '프론티어 AI'라고 불리는 고성능 범용 모델의 실존적 위험을 살펴보고 있다.

구글 딥마인드(Google Deepmind)의 공동 창업자인 무스타파 술레이만(Mustafa Suleyman)은 현재의 AI 개척 모델이 "심각한 재앙적 피해"를 초래한다고 생각하지 않지만 업계가 더 큰 모델을 훈련함에 따라 미리 계획을 세우는 것이 합리적이라고 밝혔다.

이번 정상회담은 미국, 중국, EU 사이의 중개자로서 영국의 브렉시트 이후 역할을 확립하고자 하는 리시 수낙 영국 총리가 고안했다.

영국 디지털 장관 미셸 도넬런(Michelle Donelan)은 이렇게 많은 주요 인사들을 한 방에 모은 것만으로도 성과라고 말했다. 도넬런 장관은 AI 안전 서밋을 6개월 후에 한국에서, 1년 후에 프랑스에서 개최하기로 했다고 전했다.

한편, 영국은 AI 슈퍼컴퓨팅에 3억 파운드(약 4909억원)를 투자한다고 로이터가 1일(현지 시각) 전했다.

영국은 케임브리지와 브리스톨에 각각 하나씩 있는 두 대의 새로운 슈퍼컴퓨터를 통해 연구자들이 현재 영국 최대의 공공 AI 컴퓨팅 도구 용량의 30배가 넘는 리소스에 접근할 수 있게 될 것이라고 밝혔다.

내년 여름부터 가동될 이 기계는 첨단 AI 모델을 분석해 안전 기능을 테스트하고 신약 발견과 청정에너지 분야의 혁신을 주도하는 데 사용될 것이라고 영국 정부는 밝혔다.

영국은 이미 AI 부문에 5만 명 이상의 직원을 고용하고 있으며 매년 영국 경제에 37억 파운드(약 6조550억원)를 기여하고 있다.

또한, 영국은 다른 유럽 국가보다 두 배나 많은 AI 기업의 본거지이며, 매년 영국에서 수백 개 이상의 AI 기업이 창업하여 경제를 성장시키고 더 많은 일자리를 창출하고 있다.

한편, 미국도 AI 주도권을 영국에 뺏기지 않으려 움직이고 있다.

미국은 리시 수낙 영국 총리가 AI에 대한 글로벌 규칙과 조사를 마련하기 위한 정상회담을 주최한 날 인공지능을 감시하기 위한 자체 연구소를 설립할 것이라고 밝혔다.

미국 상무장관 지나 라이몬도(Gina Raimondo)는 1일(현지 시각) 영국이 국제 AI 안전 연구소를 설립하려는 계획에 대해 “환영과 박수를 보낸다고 말했다.

라이몬도 상무장관은 미국 연구소가 영국 연구소에 뒤지지 않는 동급 최고의 표준을 개발할 것이라고 말했다.

기술 최고 경영자는 미국의 입장이 기술 분야의 가장 큰 기업들의 본거지인 영국이 "우리의 상업적 통제권을 영국에 잃고 싶지 않다는 것을 의미한다"고 말했다.

공동 선언문 링크