전 세계 기업들이 AI 사용에 관한 법률 제정 및 준수에 대해 고심하고 있는 가운데 지난 4일(현지시간) 유럽위원회의 AI법 일부 가이드라인이 공개됐다.
유럽연합은 지난 3월, 세계 최초로 인공지능법을 내어놓고 2026년 8월 2일에 전면적으로 적용하는 방안을 모색 중에 있다. 그중 ‘허용할 수 없는 위험’으로 지정된 8가지 관행에 대한 일부 조항은 2025년 2월 2일부터 적용하기로 했다.
사람들의 안전, 생계, 권리에 대한 명확한 위협으로 간주되는 8가지는 ▲AI 기반 조작 및 사기 ▲AI 기반 취약점 악용 ▲사회적 점수 평가(Social Scoring) ▲평가 또는 예측 ▲얼굴 인식 데이터베이스를 생성하거나 확장하기 위해 인터넷이나 CCTV 자료를 비대상으로 스크래핑하는 것 ▲직장과 교육기관에서의 감정 인식 ▲특정 보호 특성을 추론하기 위한 생체 인식 분류 ▲공개적으로 접근 가능한 공간에서 법 집행 목적으로 실시간 원격 생체 인식 식별 등이 포함된다.
이에 따라 사용자를 조종하여 상당한 재정적 약속을 하도록 설계된 서비스에 내장된 AI 기반 다크 패턴과 사용자의 나이, 장애 또는 사회경제적 상황에 따라 사용자를 착취하는 AI 기반 애플리케이션을 금지했다.
또한, 사회 복지 기관 및 기타 공공 및 민간 기관이 출신 및 인종과 같은 관련 없는 개인 정보를 사용하여 AI 기반 사회적 점수 평가를 하는 것도 금지된다. 경찰은 검증되지 않은 생체 인식 데이터만을 기반으로 개인의 범죄 행동을 예측할 수 없다.
직장에서 고용주는 웹캠과 음성 인식 시스템을 사용해 직원의 감정을 추적할 수 없으며, 법 집행 목적으로 AI 기반 얼굴 인식 기술이 장착된 모바일 CCTV 카메라는 제한된 경우를 제외하고는 엄격한 안전 조치 하에 사용이 금지된다.
유럽집행위원회는 성명을 통해 "지침은 유럽 연합 전역에서 AI 법의 일관되고 효과적이며 균일한 적용을 보장하기 위해 고안되었다"라고 전했다. 그러나 유럽집행위원회 관계자는 기자회견을 통해 "가이드라인의 주요 목적은 금지가 어떻게 적용될지 설명하는 것"이라며 “이 가이드라인은 법적 구속력이 없다”라고 말했다. 궁극적으로 AI 법을 시행하고 판결하는 것은 규제 기관과 법원의 몫이 될 것으로 보인다.
EU 국가들은 8월 2일까지 AI 규칙을 시행하기 위한 시장 감시 기관을 지정해야 한다. AI 법안을 위반한 기업은 최대 3500만유로(약 526억원) 또는 총 글로벌 수익의 1.5%에서 최대 7%에 이르는 벌금이 부과될 수 있다.
이에 대한 빅테크 기업들의 반응은?
빅테크 기업들은 데이터에 대한 투명성을 높이기 위한 AI법의 부담스러운 조항에 반대하고 있다. 여기에는 제3자가 위험을 평가하기 위해 AI 모델 코드에 액세스할 수 있도록 하는 규칙과 오픈소스 기업 및 소규모 스타트업에 대한 일부 안전 규칙에 대한 AI법의 예외가 포함된다고 파이낸셜 타임즈(FT)는 전했다.
이번 달 초 트럼프 미국 대통령은 “유럽연합이 미국 기업에 대해 취하는 모든 움직임을 조세의 한 형태로 간주할 것”이라 경고했다. 그는 다보스에서 열린 세계경제포럼에서 연설하면서 "우리는 EU에 대해 매우 큰 불만이 있다"라고 말했다.
트럼프 대통령은 취임 첫 주에 일본의 소프트뱅크와 오픈AI가 주도하는 5000억달러(732조원) 규모의 AI 인프라 합작법인인 스타게이트를 설립했다. 그는 AI를 규제하려는 노력을 비판하며, 기술 개발을 둘러싼 많은 장애물을 제거하는 행정 명령에 서명했다.
AI법 시행에 참여한 한 고위 EU 관계자는 파이낸셜 타임스와의 인터뷰에서 "유럽집행위원회가 트럼프 대통령의 은근한 위협과 미국의 압력을 인정했지만 통과된 법은 변경되지 않을 것"이라고 말했다.
해당 과정에 정통한 한 소식통은 "이번에 발표된 EU의 금지 조치는 명확하며, 많은 거대 기술 기업들이 이미 이를 준수하고 있다"라고 말했다.
디지털 권리를 옹호하는 비영리 단체 액세스 나우(Access Now)의 EU 정책 분석가인 카테리나 로델리(Caterina Rodelli)는 “트럼프가 취임한 이후 유럽 내에서도 기술 규제에 대한 이야기가 바뀌었다”라고 말했다. 로델리는 "규제 당국이 AI 법 시행에 대한 접근 방식을 완화할 여지가 있으며, 금지 시행이 첫 번째 시험대가 될 것"이라고 전했다.
또한 유럽위원회 내에서 주목하고 있는 것은 범용 AI에 대한 실무 규범을 둘러싼 협상이라고 파이낸셜 타임즈는 전했다. 프로세스에 정통한 관계자는 AI법이 구글(Google)의 제미니(Gemini)와 오픈AI(OpenAI)의 GPT-4와 같은 강력한 AI 모델에 영향을 미칠 것이라고 말했다.
수백 명의 참가자가 참여하고 유럽집행위원회 연결 총국 산하 ‘AI 오피스’에서 조정하는 이 협상은 4월에 종료될 예정이다.