세계 최초 AI 규제법, EU 'AI Act' 합의

• 지난 12월 9일, 세계 최초 AI 포괄 규제법인 EU의 「인공지능법(AI Act)」에 대해 유럽집행위원회(EC)·유럽의회(EP)·유럽연합이사회가 3자 합의를 완료함.1)2) 구체적인 내용은 아직 공개되지 않았으며, 향후 문구 수정을 거치는 등 추가적인 단계들이 남아 있으나 해당 합의는 사실상 입법의 최종 단계로 평가됨. 지난 8월 15일, 중국에서 ‘생성형 AI’에 대한 규제가 발효된 바 있으나3) AI에 대한 포괄적인 규제를 포함한 입법은 EU의 「AI Act」가 최초임
• 합의된 법안에는 ① 고위험 AI 시스템뿐만 아니라 향후 시스템적 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델에 대한 규칙, ② EU 차원에서 일부 집행 권한을 가진 수정된 거버넌스 시스템, ③ 원격 생체인식 금지의 확대, ④ 고위험 AI 시스템 사용 전 기본권 영향 평가 수행 의무에 관한 내용이 포함됨(자료 1; The main elements of the provisional agreement)
• 즉 인지행동의 조작이나, 인터넷 또는 CCTV 영상을 통한 얼굴 이미지 스크랩, 직장 및 교육기관에서의 감정 인식, 소셜 스코어링, 성적 지향 또는 종교와 같은 민감한 데이터 추론을 위한 생체인식 분류 등은 금지되며, 다만 특정 범죄 및 테러 공격 등의 예방 및 범죄 피의자 수색 등에 대해서는 예외를 두었음(자료 1; Classification of AI systems as high-risk and prohibited AI practices, Law enforcement exceptions). 또한 챗GPT와 같은 범용 AI에 대해 엄격한 투명성을 요구함(자료 1; General purpose AI systems and foundation models)
• 기업은 규정 위반 시 직전 회계연도 글로벌 연간 매출액의 일정 비율 또는 미리 규정된 일정 금액 중 더 높은 금액의 벌금을 부담하며(금지된 AI 애플리케이션 위반 시 3,500만 유로 또는 7% / AI Act 위반 시 1,500만 유로 또는 3% / 부정확한 정보 제공 시 7,500만 유로 또는 1.5%)(자료 1; Penalties), 일부 조항을 제외하고는 법안 시행 후 2년이 경과된 후 발효될 예정임(자료 1; Entry into force)
• 한국의 경우 EU의 「AI Act」를 모방한 법안들이 국회에 다수 제출되어 있고 과학기술정보방송통신위원회(과방위)가 대안을 의결해 심의 중이나, EU 「AI Act」의 효과성에 대한 의문은 여전히 존재하며2) 해당 규제 방식이 적절하지 않음을 지적하는 의견도 있음4)
   
  <원문 주석>
   - 1. Council of the EU(2023.12.09), Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world
   - 2. The New York Times(2023.12.08), E.U. Agrees on Landmark Artificial Intelligence Rules
   - 3. CAC(2023.07.13), 생성형 인공지능 서비스 관리 임시 조치(生成式人工智能服务管理暂行办法)
   - 4. 박상철(2023.12.14), AI 규제, EU 방식은 정답이 아니다, 중앙일보