AI 책임에 관한 캐나다의 관점

• 캐나다 금융감독원(OSFI; Office of the Superintendent of Financial Institutions)은 글로벌리스크연구소(GRI; Global Risk Institute)와 함께 인공지능(AI) 관련 리딩 커뮤니티(FIFAI; Financial Industry Forum on Artificial Intelligence)를 구축하고, AI의 위험 관리에 대한 논의를 진행하는 한편, 2023년 4월 AI가 금융서비스 기관에 미치는 윤리적, 법적, 금융상의 영향에 대한 보고서를 발표함. 해당 보고서는 안전한 AI 개발을 지원하기 위해 AI 책임에 관한 'EDGE 원칙'을 제시하였는데, 이는 설명 가능성(Explainability), 데이터(Data), 거버넌스(Governance), 윤리(Ethic)를 의미함
• 설명 가능성(Explainability): AI 기술을 활용하는 데 있어 가장 중요하고도 지속적으로 제기되는 문제 중 하나는 해당 모델이 결론에 도달하는 방법을 설명하는 것이 어렵다는 것임. 모델이 목적에 적합한지 확인하기 위해서는 모델 설계 초기에 설명 가능성이 고려되어야 하며, 그 성능 검증 전 이론, 데이터, 방법론 및 접근 방식의 기타 기본적인 주요 요소들이 검토되어야 함(5p 및 9p)
• 데이터(Data): 새로운 데이터 소스 및 유형, 데이터 양의 증가, 데이터 생성 및 활용 속도가 증가함에 따라 금융기관의 데이터 위험 관리 및 제어 기능의 통합, 표준화가 어려워질 수 있음. 그런데 알고리즘을 훈련하는데 사용되는 데이터를 개선하는 경우 모델 성능에 직접적인 영향이 있음. 따라서 데이터의 정확성, 신뢰성, 완전성, 대표성, 일관성 및 데이터의 품질을 보장하여야 하며, 개인정보보호 문제 또한 중요하게 다루어져야 함. 이에 금융기관은 목표 달성을 위해 적정한 데이터를 수집, 관리, 분석하여야 하며, 그에 따라 비지니스 및 데이터 전략을 조정하여야 함(5p 및 16p)
• 거버넌스(Governance): 금융기관은 거버넌스에 대한 사전 예방적 접근 방식을 통해 AI의 책임감 있는 사용에 대한 의지를 입증하고 고객 및 이해관계자와 신뢰를 구축함. 거버넌스는 전반적으로 모든 조직의 수준, 역할 및 명확한 책임을 포함하여야 하며, 명확하게 정의된 위험 선호도를 포함하여야 하고, 기관이 AI를 채택함에 따라 유연하여야 함. 특히 효과적인 거버넌스를 위해서는 여러 분야의 접근 방식이 필요하며, 위험 기반 문화의 일부가 되어야 함(5p 및 24p)
   윤리(Ethic): 비지니스에서 윤리는 조직이 결정을 내리는 방식을 다루는 도덕적 원칙과 가치를 의미함. 윤리적 원칙에는 상환청구권(right to recourse), 공정성 및 개인정보보호와 같은 측면이 포함됨. 다만 윤리적 원칙과 가치는 상대적일 수 있으며, 윤리적 기준은 조직 내 특정 용도에 따라 달라질 수 있음. 또한 윤리적 기준은 시간이 지남에 따라 변화할 수 있음. 금융기관이 높은 윤리적 기준을 유지하고 있다는 사회적 기대는 꾸준히 증가하고 있으며, 조직은 AI 모델에 대한 높은 윤리적 기준을 보장하는 방법을 공개함으로써 내·외부적 투명성을 유지하여야 함(5~6p 및 33p)
  
  
  <관련 자료>
  - OSFI&GRI(2023.04.17), "Financial Industry Forum on Artificial Intelligence: A Canadian Perspective on Responsible AI"
  - 캐나다 금융감독원 관련 페이지(2023.06.01 최종 업데이트)