사이버 보험, AI 알고리즘 결함 등 손해보상 안해
AI 리스크에 특화된 AI 전용보험 개발 요구
[한국공제신문=홍정민 기자] 최근 인공지능(AI) 챗봇 '이루다'의 혐오 발언 등 AI 오작동·오류로 인한 사고가 발생하면서 기업들의 AI 리스크 대응을 위한 보험 개발이 필요하다는 주장이 제기되고 있다.
보험연구원은 최근 'AI 리스크와 전용보험의 필요성' 보고서를 통해 이같이 밝혔다.
AI 기술을 도입·활용하는 기업이 증가하면서 긍정적 효과가 부각되고 있으나 한편 AI로 인한 새로운 형태의 사고가 발생하면서 AI 실패에 대한 우려가 나오고 있다.
미국 시장조사 기업 가트너가 전 세계 89개국 3000명의 최고투자책임자(CIO)를 대상으로 진행한 설문에 따르면 지난 4년간(2015~2019년) 'AI 기술을 활용하고 있다'고 응답한 기업의 수는 10%에서 37%로 증가했고 구글, GM, 화이자 등 글로벌 기업의 91.5%는 'AI 기술에 지속적으로 투자하고 있다'고 응답했다.
그러나 AI 기술 도입이 단기간에 급격하게 증가함에 따라 이전에는 예상할 수 없었던 AI 오작동·오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기된다.
미국에서는 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 발생했으며 마이크로소프트가 개발한 트윗봇 '테이(Tay)'의 인종차별 및 정치편향적 트윗 업로드로 브랜드 이미지가 훼손된 사례가 생겼다.
국내에서도 스타트업이 개발한 챗봇 이루다가 잘못된 알고리즘 데이터 학습으로 인해 성차별 및 사회적 약자 혐오 발언을 하여 논란이 됐으며 해당 회사는 서비스를 잠정 중단한 사건이 있었다.
AI 리스크는 이처럼 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과를 뜻한다. 이는 기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 이미 현실화되고 있어 AI 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상된다.
김윤진 보험연구원 연구원은 "상당수 글로벌 기업들은 AI를 활발하게 도입해 사용하고 있음에도 불구하고 이에 대한 리스크를 명확하게 인지하지 못하고 있으며 그 결과 AI 리스크에 대응하기 위한 준비가 결여된 것으로 보인다"고 말했다.
우리나라 국회입법조사처 또한 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우의 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해 볼 필요가 있다고 주장한 바 있다.
현재 판매되고 있는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만을 보장하고 있기 때문에 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없어 AI 전용보험의 개발이 중요하다.
현재 에이스손해보험의 '첨단기술 배상책임보험' 등 국내외 일부 보험회사에서 AI 관련 보험이 개발되고 있으나 이들 보험은 AI 리스크 중 일부만을 보장하고 있기 때문에 보험회사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장범위를 확대할 필요가 있음
김 연구원은 "기업의 AI 기술 도입이 초기에 불과하기 때문에 AI 리스크 관련 사고빈도와 심도 데이터가 충분하지 않아 AI 전용보험 개발에는 시간이 필요할 것으로 보인다"며 "보험사는 AI 산업의 급속한 확장으로 인한 AI 리스크 보장 수요에 대응하여 AI 전용보험의 보장 범위를 단계적으로 확대할 필요가 있다"고 주장했다.
국내에서도 다양한 분야에서 AI 기술 도입이 증가하고 있기 때문에 보험사도 자체적으로 AI 리스크에 대비해야 한다고 밝혔다.
김 연구원은 "보험사의 AI 기술 활용 증가는 보험회사 자체의 AI 리스크를 확대할 수 있기 때문에 사회 전반에 걸친 AI 리스크 보장 확대와 함께 보험사의 자체적인 AI 리스크 관리 방안을 마련할 필요가 있다"고 강조했다.
