[한국공제보험신문=만소영 기자] 보험사를 비롯한 다양한 기업들이 생성형 AI를 활용하여 업무 효율성 향상을 모색하는 가운데, 생성형 AI로부터 발생할 수 있는 리스크를 담보하는 새로운 사이버보험 상품이 출시돼 주목된다.
최근 생성형 AI 활용이 크게 늘면서, 여러 기업들이 생성형AI를 이용해 텍스트·이미지·동영상·음성 등을 만들고, 이를 업무지원, 마케팅, 상품추천, 심사, 고객대응 등에 활용하고 있다.
그러나 생성형 AI의 활용은 다음과 같은 위험을 수반한다.
①할루시네이션(Hallucination): 생성형 AI가 사실과 다른 정보를 출력하거나, 맥락과 관련 없는 내용을 출력하는 현상으로 무의미하거나 잘못된 내용이 진실인 것처럼 결과물로 도출되어 혼란을 야기하는 위험.
②저작권 침해: 저작권이 있는 자료, 소프트웨어 라이센스 및 지적 재산권과 같은 특정 항목 또는 데이터를 활용할 때에 저작권을 침해할 수 있는 위험.
③신뢰성 문제: 생성형 AI에 적용되는 머신러닝은 정확도를 100% 보장하기 어려우며, 실수할 수 있는 위험이 있다.
④데이터 중독(Data poisoning): 머신러닝 모델을 개발하는 데 사용되는 클라이언트의 데이터 뿐만 아니라 학습 데이터를 조작하거나 오염시키는 행위. 공격자는 학습 데이터에 잘못된 정보를 입력하여 AI 시스템의 성능과 정확성을 손상시킬 수 있으며, 이로 인해 기업은 비용이 많이 드는 데이터 정리 및 위험을 감수해야 한다.
이러한 위험들을 대비하기 위해 최근 글로벌 보험사 AXA의 재산 및 상해(P&C)전문부서인 AXA XL은 기업이 생성형 AI 모델과 관련한 위험을 관리할 수 있도록 새로운 사이버보험 특약을 출시했다.
이번 특약은 머신러닝 모델을 개발하는데 사용되는 교육 데이터의 조작과 같은 생성형 AI와 관련된 위험을 보장한다.
또한, 기업이 학습 데이터에 잘못된 정보를 입력하여 생성형 AI 시스템의 성능과 정확성을 손상시키는 경우의 위험과 머신러닝에서 저작권이 있는 자료, 소프트웨어 라이선스 및 지적 재산권과 같은 특정 항목 또는 데이터를 사용할 때에 저작권을 침해할 수 있는 위험 등을 보장한다.
이번 사이버보험 특약은 미국 및 캐나다, 영국 및 로이드 시장(Lloyd's), 유럽 및 아시아 전역에서 사용할 수 있다.
특히, 이번 특약은 EU(유럽연합)의 AI법(AI Act)이 지난 5월 발효된 가운데 나온 것이라서 주목된다.
AI법은 AI기업들의 사람 이미지 데이터에 대한 무분별한 수집을 금지하고, AI가 생성한 사진·영상에 반드시 AI로 만든 이미지라는 표기를 하는 등 4등급으로 나눠 생성형 AI 규제를 엄격하게 적용한다. 이를 위반할 경우, 기업 전체 매출의 최대 7% 또는 3500만 유로(약 505억 원)의 과징금이 부과된다.
보험업계 관계자는 “한국도 생성형 AI 활용이 늘어나는 가운데, 새로운 리스크에 대비하기 위한 사이버보험 출시를 검토할 필요가 있다”고 말했다.