[AI 트렌드] “기업 90%, AI 거버넌스 개선 필요” > 기업리뷰

Deloitte Access Economics와 Deloitte AP AI 연구소가 공동으로 발표한 본 리포트에 따르면 90% 이상의 기업이 AI 거버넌스의 개선을 필요로 하고 있으나 실제 구축에는 큰 어려움을 겪는 것으로 알려졌다. 이에 딜로이트는 AP 지역의 AI 거버넌스 현황과 개선방향을 심층적으로 분석하고, 기업들이 AI 신뢰를 기반으로 AI 활용을 극대화할 수 있는 전략을 제시했다.

딜로이트는 AP에서 AI 관련 투자가 2030년까지 1,170억 달러에 도달하며, 향후 10년간 5배 성장이 예상된다고 밝혔다. 다만 ‘보안취약성(86%)’, ‘감시(83%)’, ‘개인정보보호(83%)’가 AI 활용 시 고려해야 할 주요 리스크로 지목되고 있다. 조사 결과 소비자의 62%가 AI를 윤리적으로 활용하는 기업에 더 높은 신뢰를 보이는 것으로 나타나, 기업의 리스크 관리 역량이 경쟁력의 핵심 요소로 떠오르고 있다.

이에 따라 딜로이트는 ‘신뢰할 수 있는 AI 프레임워크’를 기반으로 한 거버넌스 구축을 강조한다. ▲투명성과 설명 가능성 ▲공정성과 편견 없음 ▲견고성과 신뢰성 ▲개인정보보호 존중 ▲안전과 보안 ▲책임성(사회∙윤리적 책임을 가지고 개발 및 운영) ▲명확한 책임 소재를 핵심 원칙으로 설정하고 있다.

이를 위해 조직 구조, 정책 및 원칙, 절차와 통제, 인력과 스킬, 모니터링 및 보고 등 AI 거버넌스 구축에 필요한 5가지 주요 항목들에 대한 성숙도 진단 평가가 도움이 될 것이라고 제안했다.

딜로이트는 AI 거버넌스 구축을 위한 대책으로 명확한 정책과 기준, AI 리스크 평가 절차, 사용 중인 AI 솔루션의 목록화, AI 솔루션 사용에 따른 리스크를 줄이기 위한 관리체계가 포함된 프로세스 및 관리체계 기준을 핵심 요소로 봤다. 나아가 인력과 역량에 대한 기준도 필요하다.

조사에 따르면 직원들 중 평균 56%만이 AI를 책임감 있게 사용할 기술과 역량을 갖추고 있으며, 교육 등을 통해 이러한 격차를 효과적으로 해소할 수 있다. AI 교육을 제공하는 기업은 그렇지 않은 기업에 비해 AI를 안전하게 사용할 수 있는 직원의 비율이 27% 더 높다고 분석했다. 또 문제 해결에 신속한 대응을 위한 AI 거버넌스 모니터링 구축도 필수적이라고 지적했다.

보고서는 AI 거버넌스 성숙도 지수에서 '준비 완료' 단계에 도달한 기업은 고객 서비스, 마케팅 및 판매, 운영 및 생산, 연구 개발(R&D) 등 다양한 영역에서 AI를 사용할 가능성이 세 배 이상 높다고 분석했다. 또 AI 거버넌스 체계를 구축하면 AI 솔루션이 배포된 분야에서의 활용 범위가 증가함을 확인했다.

한편 딜로이트는 리더가 AI 거버넌스를 개선하기 위해 AI 수익 창출을 위한 명확한 AI 거버넌스 우선순위를 설정해야 한다고 강조했다. 또한 광범위한 AI 공급망의 이해와 활용을 통해 기업의 경쟁력을 강화하고, 직원들을 단순한 리스크 회피자에서 리스크 관리자로 양성하는 것이 중요하다고 언급했다. 아울러, 조직 내 소통 강화와 AI 전환 준비 체계 구축을 신뢰할 수 있는 AI 거버넌스 정착을 위한 필수 요소로 제시했다.

김진숙 한국 딜로이트 그룹 AI혁신/거버넌스 부문 리더는 “생성형 AI 시대가 다가오고 있으나 안타깝게도 기업 현장에서는 신뢰할 수 있는 AI의 효과적 활용을 끌어낼 수 있는 AI 거버넌스가 제대로 구축되지 않고 있다”면서 “이번 리포트를 통해 딜로이트가 제시하는 AI 거버넌스 요소 및 현황을 바탕으로 의미 있는 AI 인사이트를 얻어 갈 수 있기를 바란다”고 말했다.