로고

한국 CPO 포럼
회원가입 로그인
  • Let’s Privacy
  • Privacy Column
  • Let’s Privacy

    Privacy Column

    Leader's Opinion

    회원사들의 개인정보보호 관련 컬럼 으로 구성됩니다.


    AI 서비스를 위해 반드시 고려할 사항

    페이지 정보

    profile_image
    작성자 사무국
    작성일Date 21-01-11 13:36

    본문

          3ec0bb7c29a3c17b13c965a27cccdbf8_1611205627_847.jpg 

    상명대학교 유진호 교수


    AI가 화두다. 알파고 대 이세돌의 딥마인드 챌린지 매치(Google Deepmind Challenge Match) 이후, 대학입시에서는 컴퓨터공학과의 경쟁률이 가장 치열해졌다. 대학교마다 AI 분야의 석·박사급 인재를 양성하기 위해 AI 대학원을 활발하게 운영하고 있다. 기업들은 AI 기술을 적용한 제품과 서비스 출시에 열을 올리고 있다. 이용자의 행동패턴, 사용자간 관계, 상품 유사도에 기반하여 AI 기술로 고객의 취향과 선호를 예측하고 이에 맞는 상품도 추천해주고 있다. 


    음성명령을 통해 음악도 틀고, 조명의 밝기도 조정한다. 음성명령을 통해 상품 주문도 이루어지고, "결제해줘"라는 음성 확인과 함께 결제가 이뤄진다. 자동차 업계에서는 얼굴인식 운전자 인증을 통해 사용자 편의 기능을 확대하고 있다. 대시보드 카메라는 얼굴인식 기술을 사용해 차량의 주요 운전자나 가족과 같은 인증된 운전자를 식별한다. 인증되지 않은 다른 사람이 운전석에 앉을 경우, 차의 시동을 차단하는 기능도 제공한다. 차 내부의 얼굴인식 기능은 개별 운전자의 운전 경험을 개인화하는 기능을 제공한다. 음악 볼륨, 운전자의 좌석 위치 등을 최적화시킨다.


    의료 분야에서는 환자 기록 접근, 환자 등록 간소화, 환자의 감정이나 통증 감지, 특정 유전 질환 식별에 도움이 되도록 얼굴인식 기술을 활용하고 있다. 은행 및 금융 업계는 얼굴인식 기술을 활용한 본인인증으로 보안성을 강화하고 있으며 이용자 편의성도 향상시키고 있다.


    AI 서비스를 이용할 때 정보주체 입장에서는 나의 개인정보가 어떻게 저장되고 어떻게 처리되는 지 궁금해질 수 밖에 없다. 그런데 대부분의 기업들은 AI 서비스를 운영하면서 개인정보처리방침은 주로 홈페이지에서 수집하는 개인정보에 대한 언급만 하고 있다. 새로운 AI 서비스에 대한 개인정보 수집과정에 대한 공지는 없는 것이 현실이다. 어쩌면 지금이 과도기이기 때문일 지도 모른다. AI 서비스 개발에 초점을 맞추고 있다 보니 미처 이 부분까지 신경쓰지 못하고 있을 수 있다.


    기업이나 기관 등 개인정보처리자는 CCTV 영상정보를 어떻게 처리하는 지를 정보주체에 알리기 위해 영상정보처리기기 운영·관리 방침을 운영하고 있다. 어떤 목적으로 어디에 설치하고 있고 어떻게 관리하고 있는지를 상세하게 알려주고 있다. 영상정보처리기기 운영 사무의 위탁정보 뿐만 아니라 개인영상정보의 안전성 확보를 위한 조치도 알려준다. 정보주체는 기업이나 기관들이 나의 영상정보를 제대로 잘 관리하고 있구나라고 안심할 수 있게 된다.


    많은 기업들이 AI 서비스에 대한 개인정보처리방침은 별도로 관리하지 않고, 일반적인 개인정보처리방침으로 갈음하고 있기 때문에, AI 서비스에서 수집하고 저장/관리하는 정보에 대해 이용자가 이해하는 것은 쉽지 않다. 영상정보에 대해서 영상정보처리기기 운영·관리 방침이 있는 것처럼, 기존의 서비스와 다른 새로운 AI 서비스를 개시할 때에는 기존의 개인정보처리방침 내에 별도로 AI 서비스 상에서의 개인정보 수집·처리 등에 대한 내용을 구분하여 공지하거나, 별도의 개인정보처리방침을 마련하여 공개할 필요가 있다. AI를 통한 의사결정이 개인에게 미치는 영향이나 이 결정을 철회할 수 있는지 여부 등도 포함하여 공개하는 것도 검토해야 한다.


    AI 호텔 서비스에서는 가상 비서가 AI를 작동시키는 명령어를 듣고 있지만 투숙객이 알지 못하는 상태에서 데이터를 저장하거나 투숙객을 모니터링하도록 설계되지 않았다는 것을 투숙객에게 명확히 설명할 수 있어야 한다. 어떤 명령어를 수집하고 어떤 경우에 음성 명령어를 서버로 전송하는 지 등을 알려주어야 한다.


    런던 소재 딥러닝 전문기업인 Callsign은 고객들과의 소통에 있어 투명한 열린 방식을 이용하여 AI 서비스를 위해 수집한 데이터의 종류, 수집 사유, 해당 데이터의 용도에 대해 알리고 있다. 이 회사의 데이터 처리 안내문(Data Processing Notice)은 개방적 소통의 좋은 사례다. Callsign은 디바이스, 위치 및 행동 데이터 수집과 사용에 대한 세부사항을 설명할 뿐만 아니라 클라이언트가 자사 제품을 이용하여 인증, 승인, 거래 위험을 관리할 수 있는 방법도 설명한다. 


    AI는 인지, 의사결정, 예측 등의 정보를 제공할 때 결과에 대한 충분한 근거를 제공하지 않기 때문에 설명 가능한 인공지능(Explainable AI)이 요구되고 있다. 또한 딥러닝으로 대표되는 인공신경망도 블랙박스와 같은 기능으로 인해 작동과정에 대한 투명성이 보장되지 않음에 대한 신뢰성 문제도 대두되고 있다.


    설명 가능한 AI는 쉬운 문제는 아니지만, 개인정보 처리의 투명성 제고를 위해 기본적으로 AI 알고리즘이 어떤 개인정보를 사용하고 어떻게 보관하고 처리하는지 등에 대해서 정보주체에게 알려주는 것은 매우 중요하다.


    AI 기술로 더 편리하고 개인에 최적화된 서비스가 다양해지고 있는 시점에서, AI 학습에 필요한 데이터가 수집되고 처리되는 과정에서 정보주체가 안심할 수 있도록 공지하는 것은 AI 시대 개인정보보호의 기본 원칙이다. 미국과 유럽의 프라이버시 법률의 기초가 되었던 FIPs(Fair Information Practices)의 가장 첫번째 핵심원칙이 공지·인식(Notice·Awareness)임을 기억하도록 하자.