사진 출처: WEF 기고문의 상단 이미지
국제 NGO International Justice Mission(이하 IJM)의 설립자이자 CEO인 게리 하우겐(Gary A. Haugen)은 최근 세계경제포럼(World Economic Forum, WEF)에 'AI 시대, 가장 가난하고 취약한 사람들을 어떻게 보호할 것인가' 라는 제목의 기고문을 발표하고, 인공지능(AI)의 급속한 발전이 범죄조직의 착취와 인신매매를 더욱 고도화하고 있다며 책임 있는 AI 개발과 강력한 거버넌스 구축을 촉구했다.
이번 기고문에서 게리 하우겐 대표는 최근 교황 레오 14세가 발표한 AI 책임성에 관한 회칙을 인용하며 AI기술 발전은 인류에게 큰 가능성을 제공하는 동시에 가장 가난하고 취약한 이들에게는 새로운 위협이 되고 있다고 강조했다. 그는 "AI가 인류의 발전에 기여하기 위해서는 기술 혁신뿐 아니라, 악용을 예방할 수 있는 책임 있는 관리와 안전장치가 함께 마련되어야 한다."고 밝혔다.
게리 하우겐 대표는 IJM이 지난 30여 년간 전 세계 사법기관과 협력하며 축적한 현장 데이터를 비춰볼때 AI가 이미 국제 범죄조직에 의해 조직적으로 활용되고 있다고 설명했다.
동남아시아에서는 AI 번역 기술, 음성 복제, 딥페이크 영상, 자동화된 온라인 모집 기술 등이 현대판 노예 노동에 기반한 대규모 온라인 사기 산업에 활용되고 있다. IJM이 구출한 생존자들은 감금된 상태로 하루 24시간 온라인 사기를 강요당했으며 할당량을 채우지 못할 경우 폭행과 감전, 굶주림, 성폭력을 경험했다고 증언했다. 이러한 범죄조직은 수백억 달러 규모의 불법 수익을 창출하며 때로는 국가 예산을 뛰어넘는 경제력을 갖춘 것으로 분석된다.
또 AI는 온라인 아동 성착취 범죄 역시 더욱 빠르게 확산시키고 있다. 해외 성범죄자가 인터넷을 통해 다른 국가의 아동 성착취를 실시간으로 지시하는 '라이브스트리밍 아동 성착취'는 AI 기술을 통해 더욱 정교하게 운영되고 있다. IJM의 연구에 따르면 필리핀에서는 단 1년 동안 약 50만 명의 아동이 온라인 성착취를 경험한 것으로 나타났다.
아울러 AI 기반 가짜 구인광고와 자동화된 챗봇은 강제노동과 인신매매를 위한 피해자 모집에도 활용되고 있다. 범죄조직은 다양한 언어로 맞춤형 허위 채용 공고를 대량 생성해 이전보다 훨씬 넓은 범위의 취약계층을 표적으로 삼고 있다.
게리 하우겐 대표는 AI 산업 역시 다른 산업과 마찬가지로 공공의 안전을 위한 규제와 책임 체계를 갖춰야 한다고 강조했다. 그는 과거 르완다 집단학살현장을 조사했던 경험을 언급하며 위험 신호를 제때 인식하고 대응하지 못할 때 비극은 급속하게 확산된다고 강조했다. 또 "AI는 인류의 발전을 이끌 수 있는 강력한 기술이지만, 동시에 가장 취약한 사람들을 위협하는 새로운 수단이 될 수도 있다"며 "미래 세대는 AI의 방향이 결정되던 이 시점에 우리가 어떤 선택을 했는지를 돌아볼 것이다. 지금이야말로 모두가 안전하게 기술의 혜택을 누릴 수 있도록 책임 있는 거버넌스와 실질적인 보호 장치를 마련해야 할 때"라고 덧붙였다.
한편 IJM은 전 세계 30여 개국에서 정부 및 사법기관과 협력해 인신매매, 온라인 아동 성착취, 강제노동, 폭력 등으로부터 가장 취약한 사람들을 보호하고, 범죄를 예방하는 사법 시스템 구축을 지원하고 있다. 최근에는 AI와 디지털 기술이 범죄에 악용되는 현실에 대응하기 위해 관련 연구와 정책 제언을 이어가는 한편, 정부와 국제기구, 기술기업 등 다양한 파트너와 협력하며 안전한 디지털 환경을 조성하기 위한 노력을 지속하고 있다.
[세계경제포럼 기고문] AI is scaling human exploitation. Here’s why we must act now | World Economic Forum
사진 출처: WEF 기고문의 상단 이미지
국제 NGO International Justice Mission(이하 IJM)의 설립자이자 CEO인 게리 하우겐(Gary A. Haugen)은 최근 세계경제포럼(World Economic Forum, WEF)에 'AI 시대, 가장 가난하고 취약한 사람들을 어떻게 보호할 것인가' 라는 제목의 기고문을 발표하고, 인공지능(AI)의 급속한 발전이 범죄조직의 착취와 인신매매를 더욱 고도화하고 있다며 책임 있는 AI 개발과 강력한 거버넌스 구축을 촉구했다.
이번 기고문에서 게리 하우겐 대표는 최근 교황 레오 14세가 발표한 AI 책임성에 관한 회칙을 인용하며 AI기술 발전은 인류에게 큰 가능성을 제공하는 동시에 가장 가난하고 취약한 이들에게는 새로운 위협이 되고 있다고 강조했다. 그는 "AI가 인류의 발전에 기여하기 위해서는 기술 혁신뿐 아니라, 악용을 예방할 수 있는 책임 있는 관리와 안전장치가 함께 마련되어야 한다."고 밝혔다.
게리 하우겐 대표는 IJM이 지난 30여 년간 전 세계 사법기관과 협력하며 축적한 현장 데이터를 비춰볼때 AI가 이미 국제 범죄조직에 의해 조직적으로 활용되고 있다고 설명했다.
동남아시아에서는 AI 번역 기술, 음성 복제, 딥페이크 영상, 자동화된 온라인 모집 기술 등이 현대판 노예 노동에 기반한 대규모 온라인 사기 산업에 활용되고 있다. IJM이 구출한 생존자들은 감금된 상태로 하루 24시간 온라인 사기를 강요당했으며 할당량을 채우지 못할 경우 폭행과 감전, 굶주림, 성폭력을 경험했다고 증언했다. 이러한 범죄조직은 수백억 달러 규모의 불법 수익을 창출하며 때로는 국가 예산을 뛰어넘는 경제력을 갖춘 것으로 분석된다.
또 AI는 온라인 아동 성착취 범죄 역시 더욱 빠르게 확산시키고 있다. 해외 성범죄자가 인터넷을 통해 다른 국가의 아동 성착취를 실시간으로 지시하는 '라이브스트리밍 아동 성착취'는 AI 기술을 통해 더욱 정교하게 운영되고 있다. IJM의 연구에 따르면 필리핀에서는 단 1년 동안 약 50만 명의 아동이 온라인 성착취를 경험한 것으로 나타났다.
아울러 AI 기반 가짜 구인광고와 자동화된 챗봇은 강제노동과 인신매매를 위한 피해자 모집에도 활용되고 있다. 범죄조직은 다양한 언어로 맞춤형 허위 채용 공고를 대량 생성해 이전보다 훨씬 넓은 범위의 취약계층을 표적으로 삼고 있다.
게리 하우겐 대표는 AI 산업 역시 다른 산업과 마찬가지로 공공의 안전을 위한 규제와 책임 체계를 갖춰야 한다고 강조했다. 그는 과거 르완다 집단학살현장을 조사했던 경험을 언급하며 위험 신호를 제때 인식하고 대응하지 못할 때 비극은 급속하게 확산된다고 강조했다. 또 "AI는 인류의 발전을 이끌 수 있는 강력한 기술이지만, 동시에 가장 취약한 사람들을 위협하는 새로운 수단이 될 수도 있다"며 "미래 세대는 AI의 방향이 결정되던 이 시점에 우리가 어떤 선택을 했는지를 돌아볼 것이다. 지금이야말로 모두가 안전하게 기술의 혜택을 누릴 수 있도록 책임 있는 거버넌스와 실질적인 보호 장치를 마련해야 할 때"라고 덧붙였다.
한편 IJM은 전 세계 30여 개국에서 정부 및 사법기관과 협력해 인신매매, 온라인 아동 성착취, 강제노동, 폭력 등으로부터 가장 취약한 사람들을 보호하고, 범죄를 예방하는 사법 시스템 구축을 지원하고 있다. 최근에는 AI와 디지털 기술이 범죄에 악용되는 현실에 대응하기 위해 관련 연구와 정책 제언을 이어가는 한편, 정부와 국제기구, 기술기업 등 다양한 파트너와 협력하며 안전한 디지털 환경을 조성하기 위한 노력을 지속하고 있다.
[세계경제포럼 기고문] AI is scaling human exploitation. Here’s why we must act now | World Economic Forum