Article at a Glance

유럽연합이 인공지능법을 전격 제정하면서 AI 비즈니스 환경이 크게 달라졌다. 하지만 AI 분야의 글로벌 전문가들은 현재 대부분의 기업이 AI 위험에 대처하는 리스크 관리 역량이 부족하다고 평가한다. AI 기술의 급속한 발전이 역량 개선 속도를 앞지르고 있는 데다 기업의 AI 위험에 대한 이해가 부족하고, 관련 투자에도 적극적이지 않기 때문이다. 평가 기준조차 없는 게 현실이더라도 AI 위험에 대응하는 기업의 역량 구축이 시급하다. 기업은 높은 수준의 내부 지침을 마련하고 지속적으로 학습하며 AI 위험 관리에 민첩하게 대응해야 한다.

---

편집자주 | 이 글은 MIT 슬론 매니지먼트 리뷰(SMR) 홈페이지에 2024년 4월 23일 게재된 ‘AI-Related Risks Test the Limits of Organizational Risk Management’(BIG IDEA: RESPONSIBLE AI)를 번역한 것입니다.

---

MIT 슬론 매니지먼트 리뷰(SMR)와 보스턴컨설팅그룹(BCG)은 3년 전부터 학자, 업계 실무자를 포함한 글로벌 AI 전문가 패널을 구성해 기업과 조직에서 ‘책임 있는 인공지능(Responsible AI, RAI)’이 어떻게 구현되고 있는지 통찰력을 모아오고 있다. 이 프로젝트를 통해 2023년에는 ‘제3자(상용) AI 도구의 확산에 따른 RAI 프로그램의 강력한 구현’이라는 보고서를 발표한 바 있다.1 1원제는 ‘Building Robust RAI Programs as Third-Party AI Tools Proliferate’. 보고서 원문은 다음에서 확인할 수 있다. https://sloanreview.mit.edu/projects/building-robust-rai-programs-as-third-party-ai-tools-proliferate/ 닫기

올해는 세계 최초의 포괄적 인공지능 규제 법안인 유럽연합의 인공지능법이 법제화된 상황에서 AI 관련 위험(AI-related risks, 이하 AI 위험)에 대처할 수 있는 기업의 역량을 살펴보고자 한다.2 2원문에서는 AI 관련 위험에 대한 명확한 정의를 밝히지 않았지만 통상적으로 AI 관련 위험이란 AI 기술을 활용함에 따라 기업의 내외부에서 야기될 수 있는 잠재적 위험 요소를 포괄하는 용어이다. 포브스는 AI의 가장 큰 위험으로 15가지를 꼽는다. 투명성 부족, 편견과 차별, 개인정보 보호, 윤리적 딜레마 등이다. 자세한 내용은 다음 참조.
(https://www.forbes.com/sites/bernardmarr/2023/06/02/the-15-biggest-risks-of-artificial-intelligence/?sh=35e87c092706) 닫기

우선 우리는 패널에 참여한 전문가들과 거대 언어 모델(LLM)에 다음 진술에 대한 견해를 물었다.

“기업은 AI 위험에 대처할 수 있는 리스크 관리 역량을 충분히 갖추고 있다.”

전문가 패널의 과반수(62%)가 이 진술에 동의하지 않거나 매우 동의하지 않는다고 대답했다. (그림 1, 표 1) 효과적인 리스크 관리의 장애물로는 기술 발전 속도, 리스크의 모호성, 규제의 한계를 꼽았다.

이제부터는 전문가 패널의 인사이트를 공유하며 RAI 이니셔티브에서의 우리의 관찰과 경험을 바탕으로 AI 위험을 해결하기 위해 기업의 리스크 관리 역량을 어떻게 활용해야 하는지 여러 의견을 제시하도록 하겠다.

인기기사