존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터 인터뷰
카메라가 켜진다. 아이들이 등장한다. 화면은 곧 범죄의 현장이 된다. 아이들을 대상으로 성적인 학대가 이뤄지고, 이 장면은 국경을 넘어 전 세계로 실시간 중계된다. 피해 아동의 평균 연령은 11세. IJM과 노팅엄대학교 인권연구소에 따르면 2022년 한 해에만 약 50만 명의 필리핀 아동이 라이브스트리밍으로 성범죄 피해자가 됐다.
기술이 범죄의 통로가 되고 있다. 고도화된 디지털 기술은 범죄의 규모를 키운다. 이런 범죄를 막을 수 있는 수단 역시 ‘기술’이라고 전문가들은 말한다. 지난달 방한한 존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터는 “성착취 영상을 실시간으로 탐지해 촬영과 전송을 차단할 수 있는 기술은 이미 상당한 수준까지 개발돼 있다”며 “문제는 이런 기술을 기업들이 적극적으로 도입하고 적용하지 않는 것”이라고 말했다.
지난달 한국을 방문한 존 타나고 IJM 온라인아동성착취 대응센터 총괄디렉터는 "아동을 성범죄로부터 보호하는 기술은 기업의 글로벌 경쟁력이 될 수 있다"면서 한국 기업들이 디지털 안전 혁신에 나선다면 아시아·태평양 지역은 물론 세계에서도 리더십을 보여줄 수 있다”고 강조했다. 이건송 기자
기술은 준비됐다... 남은 건 실행
-온라인 아동 성착취를 탐지하고 차단하는 기술은 현재 어느 수준까지 발전했나.
“이미 실제 서비스에 적용할 수 있는 수준이다. 마이크로소프트, 구글, 애플을 비롯한 여러 기업이 인공지능이나 머신러닝을 활용해 아동 성착취ᐧ학대물(CSAM)을 탐지하거나, 이용자의 접근을 제한하는 기술을 개발해 사용하고 있다."
-예를 든다면.
"구글의 ‘콘텐츠 세이프티 API’는 기존에 신고되지 않았거나, 새롭게 발견된 이미지와 영상을 AI로 찾아내 이 중 아동 성착취ᐧ학대물일 가능성이 높은 콘텐츠를 따로 분류한다. 플랫폼이나 기관 담당자는 이 콘텐츠들을 직접 확인한 뒤 삭제ᐧ신고 여부를 결정한다. 비영리 단체 쏜(Thorn)이 개발한 ‘세이퍼 프레딕트’도 같은 기능을 가진 프로그램이다. 콘텐츠를 직접 호스팅하는 플랫폼은 이 프로그램을 활용해 신고된 적 없는 아동 성착취물을 선제적으로 찾아낼 수 있다. 최근에는 이렇게 불법 콘텐츠를 찾아내는 것을 넘어 영상통화나 라이브스트리밍 중 벌어지는 학대를 실시간으로 감지해 중단시키는 기술도 등장했다.”
-실시간 차단은 어떻게 가능한가.
“대표적인 사례가 마이크로소프트다. 인공지능이 영상통화 중 아동 성착취·학대물이 포함돼 있는지를 실시간으로 분석하고, 해당 콘텐츠가 탐지되면 영상 기능을 중단한다. 애플도 iOS 애플리케이션 개발자가 기기에서 영상 스트림을 분석할 수 있는 기술을 제공한다. 애플리케이션에서 민감한 영상이 감지됐을 때 화면을 가리거나 콘텐츠가 표시되기 전에 이용자에게 경고하는 방식으로 개입하도록 설계할 수 있다. 하지만 이런 기술이 서비스 전반에 고르게 적용되고 있는 것은 아니다.”
호주 온라인안전위원회(eSafety)의 조사에 따르면, 글로벌 IT 기업들은 아직 아동 성착취물 실시간 탐지 기술을 일부 서비스에만 적용하고 있다. 메타는 페이스북과 인스타그램의 라이브 방송에, 구글은 유튜브에 아동 성착취물을 실시간으로 탐지하는 기술을 도입했다. 그러나 메타는 같은 기술을 메신저 영상통화에는 적용하지 않았고, 구글도 영상통화 서비스인 '구글 미트(Google Meet)'에는 도입하지 않고 있다.
조사 대상 중 실시간 탐지·차단 기술을 적용한 곳은 마이크로소프트뿐이다. 마이크로소프트는 지난해 말 영상통화 서비스 ‘마이크로소프트 팀즈(Microsoft Teams)’에 AI 기반 실시간 탐지 도구를 도입했다. 다만 이 기능은 보안 설정에서 ‘종단 간 암호화(E2EE)’를 활성화하지 않은 이용자에게만 적용된다. 종단 간 암호화는 통신 내용을 암호화해 메시지를 주고받는 당사자만 이를 확인할 수 있도록 보호하는 기술이다.
존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터가 지난달 23일 IJM코리아와 더버터가 공동주최한 '디지털 세이프티 라운드테이블'에서 강연하고 있다. 이건송 기자
-실시간 탐지 기술이 플랫폼 이용자의 사생활을 침해할 수 있다는 우려도 있다.
“기술적으로 안전과 개인정보 보호를 동시에 확보할 수 있다. 서버에서 이용자의 대화 내용을 직접 확인하지 못하도록 종단 간 암호화를 유지하면서도 기기에서 불법 콘텐츠를 감지하고 제한할 수 있다. 애플과 메타, 구글이 현재 제공하는 안전 기능은 사진과 영상을 외부 서버로 보내지 않고 이용자의 기기에서 분석한다. 기업은 해당 콘텐츠 내용을 볼 수 없고 이용자가 직접 신고하지 않는 한 민감한 콘텐츠가 감지됐다는 사실도 알 수 없다. 다만 기술만으로 개인정보 침해 우려가 완전히 해소되는 것은 아니다. 중립적인 제3의 기관이 정기적으로 감사를 실시해 탐지 기술이 이용자 데이터를 부적절하게 수집하거나 공유하지는 않는지, 합법적인 이미지나 영상이 불법 콘텐츠로 잘못 탐지되고 있지는 않는지 검증하는 절차도 병행돼야 한다.”
제조업부터 금융까지, 기업의 역할
-하드웨어 기기에서도 차단할 수 있나.
“물론이다. 카메라로 불법 콘텐츠를 촬영하거나 화면에 표시되는 순간 개입할 수 있다. 새로운 이미지와 영상의 제작ᐧ전송을 중단시키고, 영상통화 중 아동학대가 발생하면 영상을 계속 시청하지 못하도록 화면을 차단하는 것이다. 불법 영상이 이미 인터넷에 퍼진 뒤 수습하는 것이 아니라 피해가 발생하는 단계에서 개입하기 때문에 효과적이다. 이용자가 어떤 앱이나 플랫폼을 사용하든 작동한다는 것도 장점이다. 하나의 플랫폼에서 콘텐츠를 삭제하는 방식과 달리, 기기 전체에 적용하면 불법 콘텐츠의 제작·저장·시청·전송을 여러 서비스에서 동시에 제한할 수 있다.”
-실제로 적용된 제품이 있나.
“아동용 스마트폰 ‘HMD 퓨즈(HMD Fuse)’가 있다. 이 기기에는 ‘함블록 AI(HarmBlock AI)’가 탑재돼 있다. 스마트폰 자체적으로 부적절한 콘텐츠를 감지하고 차단한다. 사진이나 영상, 인터넷 이용 기록을 외부로 보내 분석하지 않기 때문에 이용자의 개인정보를 보호하면서 콘텐츠에 개입할 수 있다.”
-플랫폼에 올라오는 콘텐츠를 관리하는 것만으로는 한계가 있다는 의미인가.
“그렇다. 이용자들이 불법 콘텐츠를 제작하고 공유하는 속도가 플랫폼 관리자가 이를 찾아 삭제하는 속도보다 빠르다. 특히 라이브스트리밍은 영상이 저장되거나 신고될 때까지 기다리는 사이 이미 학대가 벌어진다는 문제가 있다. 새로운 콘텐츠를 식별하는 AI 분류기와 실시간 영상 분석, 기기 내 보호 기술이 함께 필요한 이유다.”
-이미 기술이 있는데 기업들의 도입이 더딘 이유는.
“가장 큰 이유는 많은 국가에서 정부 규제와 정책 집행이 충분히 강력하지 않기 때문이다. 기업이 자발적으로 기술을 도입하지 않더라도 책임을 묻거나 개선을 요구하는 제도가 부족하다. 기술 기업은 새로운 서비스를 출시할 때 예상 가능한 위험을 제품 설계 단계부터 고려해야 한다. 카메라와 인터넷에 연결된 기기가 아동 성착취물을 제작하고 유통하는 데 악용될 수 있다는 사실은 이미 충분히 알려져 있다. 그럼에도 안전 기능을 선택 사항으로 두거나 일부 서비스에만 제한적으로 적용한다면 범죄자는 보호가 약한 서비스로 이동할 수 있다.”
-한국의 기업들은 각자의 기술과 자원을 어떻게 활용할 수 있을까.
“삼성과 같은 스마트폰 제조업체는 불법 이미지와 영상의 촬영·저장·표시·전송을 막는 안전장치를 기기에 내장할 수 있다. 구글 안드로이드와 같은 운영체제 개발업체와 협력해 스마트폰이 출고되는 시점부터 시스템 차원의 보호 도구를 탑재하는 방안도 가능하다.”
-금융 기업도 역할을 할 수 있나.
“물론이다. 금융회사는 의심 거래가 신고되거나 수사기관의 요청이 들어올 때까지 기다리는 사후 대응에서 벗어나야 한다. 고객 가입 단계부터 아동 성착취 범죄와 관련된 위험 요소를 확인하고, 거래 모니터링 과정에서는 AI를 활용해 고객의 평소 금융 활동과 맞지 않는 의심스러운 거래 패턴을 찾아낼 수 있다. 위험도가 높다고 판단되는 거래에 대해서는 법 집행기관이나 핫라인에 신고해야 한다.”
-한국의 기업이 이 문제에 더 적극적으로 관심을 가져야 하는 이유는.
“삼성을 비롯한 한국 기업들은 전 세계적으로 혁신 역량을 인정받고 있다. 이들이 온라인 아동 성착취를 막는 디지털 안전 기술을 선도한다면 한국뿐 아니라 아시아ᐧ태평양 지역과 세계시장에서 리더십을 보여줄 수 있다. 아동 보호를 제품과 서비스의 핵심 가치로 두는 접근은 이용자들의 신뢰를 높이고, 아동 보호 기술이 절실한 필리핀과 같은 국가에서 한국 기업을 차별화하는 경쟁력이 될 수 있다.”
[출처: 중앙일보, 최지 기자] “아동 보호 '디지털 안전 기술', 기업의 글로벌 경쟁력될 것” < 사회 < 기사본문 - 더버터
존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터 인터뷰
카메라가 켜진다. 아이들이 등장한다. 화면은 곧 범죄의 현장이 된다. 아이들을 대상으로 성적인 학대가 이뤄지고, 이 장면은 국경을 넘어 전 세계로 실시간 중계된다. 피해 아동의 평균 연령은 11세. IJM과 노팅엄대학교 인권연구소에 따르면 2022년 한 해에만 약 50만 명의 필리핀 아동이 라이브스트리밍으로 성범죄 피해자가 됐다.
기술이 범죄의 통로가 되고 있다. 고도화된 디지털 기술은 범죄의 규모를 키운다. 이런 범죄를 막을 수 있는 수단 역시 ‘기술’이라고 전문가들은 말한다. 지난달 방한한 존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터는 “성착취 영상을 실시간으로 탐지해 촬영과 전송을 차단할 수 있는 기술은 이미 상당한 수준까지 개발돼 있다”며 “문제는 이런 기술을 기업들이 적극적으로 도입하고 적용하지 않는 것”이라고 말했다.
지난달 한국을 방문한 존 타나고 IJM 온라인아동성착취 대응센터 총괄디렉터는 "아동을 성범죄로부터 보호하는 기술은 기업의 글로벌 경쟁력이 될 수 있다"면서 한국 기업들이 디지털 안전 혁신에 나선다면 아시아·태평양 지역은 물론 세계에서도 리더십을 보여줄 수 있다”고 강조했다. 이건송 기자
기술은 준비됐다... 남은 건 실행
-온라인 아동 성착취를 탐지하고 차단하는 기술은 현재 어느 수준까지 발전했나.
“이미 실제 서비스에 적용할 수 있는 수준이다. 마이크로소프트, 구글, 애플을 비롯한 여러 기업이 인공지능이나 머신러닝을 활용해 아동 성착취ᐧ학대물(CSAM)을 탐지하거나, 이용자의 접근을 제한하는 기술을 개발해 사용하고 있다."
-예를 든다면.
"구글의 ‘콘텐츠 세이프티 API’는 기존에 신고되지 않았거나, 새롭게 발견된 이미지와 영상을 AI로 찾아내 이 중 아동 성착취ᐧ학대물일 가능성이 높은 콘텐츠를 따로 분류한다. 플랫폼이나 기관 담당자는 이 콘텐츠들을 직접 확인한 뒤 삭제ᐧ신고 여부를 결정한다. 비영리 단체 쏜(Thorn)이 개발한 ‘세이퍼 프레딕트’도 같은 기능을 가진 프로그램이다. 콘텐츠를 직접 호스팅하는 플랫폼은 이 프로그램을 활용해 신고된 적 없는 아동 성착취물을 선제적으로 찾아낼 수 있다. 최근에는 이렇게 불법 콘텐츠를 찾아내는 것을 넘어 영상통화나 라이브스트리밍 중 벌어지는 학대를 실시간으로 감지해 중단시키는 기술도 등장했다.”
-실시간 차단은 어떻게 가능한가.
“대표적인 사례가 마이크로소프트다. 인공지능이 영상통화 중 아동 성착취·학대물이 포함돼 있는지를 실시간으로 분석하고, 해당 콘텐츠가 탐지되면 영상 기능을 중단한다. 애플도 iOS 애플리케이션 개발자가 기기에서 영상 스트림을 분석할 수 있는 기술을 제공한다. 애플리케이션에서 민감한 영상이 감지됐을 때 화면을 가리거나 콘텐츠가 표시되기 전에 이용자에게 경고하는 방식으로 개입하도록 설계할 수 있다. 하지만 이런 기술이 서비스 전반에 고르게 적용되고 있는 것은 아니다.”
호주 온라인안전위원회(eSafety)의 조사에 따르면, 글로벌 IT 기업들은 아직 아동 성착취물 실시간 탐지 기술을 일부 서비스에만 적용하고 있다. 메타는 페이스북과 인스타그램의 라이브 방송에, 구글은 유튜브에 아동 성착취물을 실시간으로 탐지하는 기술을 도입했다. 그러나 메타는 같은 기술을 메신저 영상통화에는 적용하지 않았고, 구글도 영상통화 서비스인 '구글 미트(Google Meet)'에는 도입하지 않고 있다.
조사 대상 중 실시간 탐지·차단 기술을 적용한 곳은 마이크로소프트뿐이다. 마이크로소프트는 지난해 말 영상통화 서비스 ‘마이크로소프트 팀즈(Microsoft Teams)’에 AI 기반 실시간 탐지 도구를 도입했다. 다만 이 기능은 보안 설정에서 ‘종단 간 암호화(E2EE)’를 활성화하지 않은 이용자에게만 적용된다. 종단 간 암호화는 통신 내용을 암호화해 메시지를 주고받는 당사자만 이를 확인할 수 있도록 보호하는 기술이다.
존 타나고 IJM 온라인아동성착취대응센터 총괄디렉터가 지난달 23일 IJM코리아와 더버터가 공동주최한 '디지털 세이프티 라운드테이블'에서 강연하고 있다. 이건송 기자
-실시간 탐지 기술이 플랫폼 이용자의 사생활을 침해할 수 있다는 우려도 있다.
“기술적으로 안전과 개인정보 보호를 동시에 확보할 수 있다. 서버에서 이용자의 대화 내용을 직접 확인하지 못하도록 종단 간 암호화를 유지하면서도 기기에서 불법 콘텐츠를 감지하고 제한할 수 있다. 애플과 메타, 구글이 현재 제공하는 안전 기능은 사진과 영상을 외부 서버로 보내지 않고 이용자의 기기에서 분석한다. 기업은 해당 콘텐츠 내용을 볼 수 없고 이용자가 직접 신고하지 않는 한 민감한 콘텐츠가 감지됐다는 사실도 알 수 없다. 다만 기술만으로 개인정보 침해 우려가 완전히 해소되는 것은 아니다. 중립적인 제3의 기관이 정기적으로 감사를 실시해 탐지 기술이 이용자 데이터를 부적절하게 수집하거나 공유하지는 않는지, 합법적인 이미지나 영상이 불법 콘텐츠로 잘못 탐지되고 있지는 않는지 검증하는 절차도 병행돼야 한다.”
제조업부터 금융까지, 기업의 역할
-하드웨어 기기에서도 차단할 수 있나.
“물론이다. 카메라로 불법 콘텐츠를 촬영하거나 화면에 표시되는 순간 개입할 수 있다. 새로운 이미지와 영상의 제작ᐧ전송을 중단시키고, 영상통화 중 아동학대가 발생하면 영상을 계속 시청하지 못하도록 화면을 차단하는 것이다. 불법 영상이 이미 인터넷에 퍼진 뒤 수습하는 것이 아니라 피해가 발생하는 단계에서 개입하기 때문에 효과적이다. 이용자가 어떤 앱이나 플랫폼을 사용하든 작동한다는 것도 장점이다. 하나의 플랫폼에서 콘텐츠를 삭제하는 방식과 달리, 기기 전체에 적용하면 불법 콘텐츠의 제작·저장·시청·전송을 여러 서비스에서 동시에 제한할 수 있다.”
-실제로 적용된 제품이 있나.
“아동용 스마트폰 ‘HMD 퓨즈(HMD Fuse)’가 있다. 이 기기에는 ‘함블록 AI(HarmBlock AI)’가 탑재돼 있다. 스마트폰 자체적으로 부적절한 콘텐츠를 감지하고 차단한다. 사진이나 영상, 인터넷 이용 기록을 외부로 보내 분석하지 않기 때문에 이용자의 개인정보를 보호하면서 콘텐츠에 개입할 수 있다.”
-플랫폼에 올라오는 콘텐츠를 관리하는 것만으로는 한계가 있다는 의미인가.
“그렇다. 이용자들이 불법 콘텐츠를 제작하고 공유하는 속도가 플랫폼 관리자가 이를 찾아 삭제하는 속도보다 빠르다. 특히 라이브스트리밍은 영상이 저장되거나 신고될 때까지 기다리는 사이 이미 학대가 벌어진다는 문제가 있다. 새로운 콘텐츠를 식별하는 AI 분류기와 실시간 영상 분석, 기기 내 보호 기술이 함께 필요한 이유다.”
-이미 기술이 있는데 기업들의 도입이 더딘 이유는.
“가장 큰 이유는 많은 국가에서 정부 규제와 정책 집행이 충분히 강력하지 않기 때문이다. 기업이 자발적으로 기술을 도입하지 않더라도 책임을 묻거나 개선을 요구하는 제도가 부족하다. 기술 기업은 새로운 서비스를 출시할 때 예상 가능한 위험을 제품 설계 단계부터 고려해야 한다. 카메라와 인터넷에 연결된 기기가 아동 성착취물을 제작하고 유통하는 데 악용될 수 있다는 사실은 이미 충분히 알려져 있다. 그럼에도 안전 기능을 선택 사항으로 두거나 일부 서비스에만 제한적으로 적용한다면 범죄자는 보호가 약한 서비스로 이동할 수 있다.”
-한국의 기업들은 각자의 기술과 자원을 어떻게 활용할 수 있을까.
“삼성과 같은 스마트폰 제조업체는 불법 이미지와 영상의 촬영·저장·표시·전송을 막는 안전장치를 기기에 내장할 수 있다. 구글 안드로이드와 같은 운영체제 개발업체와 협력해 스마트폰이 출고되는 시점부터 시스템 차원의 보호 도구를 탑재하는 방안도 가능하다.”
-금융 기업도 역할을 할 수 있나.
“물론이다. 금융회사는 의심 거래가 신고되거나 수사기관의 요청이 들어올 때까지 기다리는 사후 대응에서 벗어나야 한다. 고객 가입 단계부터 아동 성착취 범죄와 관련된 위험 요소를 확인하고, 거래 모니터링 과정에서는 AI를 활용해 고객의 평소 금융 활동과 맞지 않는 의심스러운 거래 패턴을 찾아낼 수 있다. 위험도가 높다고 판단되는 거래에 대해서는 법 집행기관이나 핫라인에 신고해야 한다.”
-한국의 기업이 이 문제에 더 적극적으로 관심을 가져야 하는 이유는.
“삼성을 비롯한 한국 기업들은 전 세계적으로 혁신 역량을 인정받고 있다. 이들이 온라인 아동 성착취를 막는 디지털 안전 기술을 선도한다면 한국뿐 아니라 아시아ᐧ태평양 지역과 세계시장에서 리더십을 보여줄 수 있다. 아동 보호를 제품과 서비스의 핵심 가치로 두는 접근은 이용자들의 신뢰를 높이고, 아동 보호 기술이 절실한 필리핀과 같은 국가에서 한국 기업을 차별화하는 경쟁력이 될 수 있다.”
[출처: 중앙일보, 최지 기자] “아동 보호 '디지털 안전 기술', 기업의 글로벌 경쟁력될 것” < 사회 < 기사본문 - 더버터