AI 기술의 진화와 함께하는 범죄 대응

국가수사본부의 딥페이크 탐지 소프트웨어 개발

현대 사회는 지식 정보 시대에요. 이 새로운 시대는 과학 기술의 눈부신 발전을 가져왔지요. 그중에서도 인공지능(AI)은 많은 변화를 주도하고 있는데요, 특히 최근에는 딥페이크 기술이 큰 관심을 받으며 사회적 이슈가 되고 있어요. 딥페이크란 딥러닝(deep learning)과 가짜(fake)의 합성어로, AI를 활용해 비디오나 오디오 등에서 얼굴이나 목소리를 바꾸는 기술을 말합해요. 이 기술은 연예인이나 정치인의 얼굴을 본딴 영상을 만들어 진위를 구분하기 어렵게 할 뿐만 아니라, 가짜 뉴스나 사기 등 범죄에도 사용될 수 있으므로, 적극적인 대응이 필요한 상황이 발생했죠.????️‍♂️????

이에 국가수사본부는 딥페이크 탐지 소프트웨어를 개발하여 딥페이크 관련 범죄에 선제적으로 대응하겠다는 계획을 발표했어요. 이 소프트웨어는 한국인 데이터에 특화되어 있으며, 의심되는 영상에 대한 분석을 단시간 내에 수행할 수 있다고 해요. 이는 높은 탐지 정확도를 무기로 공정한 선거를 촉진하고 가짜 뉴스로 인한 사회적 혼란을 막기 위한 목적에서 출발한 거라고 전하고 있어요. [1] [2].

딥페이크 탐지 소프트웨어의 중요성과 기술적 측면

• 현대 사회의 문제: 딥페이크는 그 사실적인 완성도로 인하여 사회의 혼란을 가져오고 범죄에 악용될 위험이 매우 커요.[1] [2]
• 기술적 대응의 필요성: 고도화되고 다양한 딥페이크 기술에 효과적으로 대응하기 위하여, 상당한 기술적 진보가 필요하였고, 이를 통해 개발된 탐지 소프트웨어는 높은 탐지율을 자랑해요. [3]

탐지 소프트웨어의 사회적 기여

• 선거의 공정성: 딥페이크 영상이 선거에 미칠 수 있는 부정적 영향을 줄이기 위해서 개발되었으며, 해외데이터에 의존하는 기존 탐지 기술과 달리 한국인 데이터를 중심으로 개발되어 보다 높은 정확도를 기대할 수 있어요[1].
• 범죄 예방 및 단속: 딥페이크를 활용한 허위 정보 유포 및 범죄를 예방하고 단속할 수 있는 하나의 수단으로 자리 잡을 수 있어요.[2]

사회는 항상 새로운 기술이 가져오는 혜택과 위험 사이에서 줄타기를 하고 있다고 생각해요.

딥페이크 탐지 소프트웨어 개발은 기술 진보에 따른 사회적 문제에 대응하기 위한 우리의 노력 중 하나로 볼 수 있죠. 기술의 발전은 멈추지 않을 것이며, 이에 대한 우리의 지혜로운 대처 방법 또한 계속 발전시켜 나가야 할 것이에요.

AI 생성 허위 정보의 위협과 감별･규제 대응

인공지능(AI) 기술의 빠른 발전으로 생성되는 가짜 정보(fakes)가 글로벌 리스크로 조명받고 있다고 하는데요. 세계적인 전문가들도 AI로 만들어진 허위 정보를 큰 위협 요인으로 지목하고 있어요. ???? AI가 생성한 가짜 정보를 감별하고 규제하려는 여러 국가의 노력과 이와 관련한 법안, 한국의 상황까지 자세히 알아볼게요! 

세계적 위협으로 인식되는 AI 생성 허위 정보

• 글로벌 리스크로 부각: '글로벌 리스크 리포트 2024'에서 AI로 만들어진 허위 정보가 지구의 기후 위기, 사회적 갈등 등과 더불어 인류에게 큰 위협이 될 수 있다고 지적됐어요. 전문가 1,490명이 이를 명시하며 우려를 표했다고 해요.[1]
• 2024년 특히 문제 시된 AI 허위 정보: 올해 많은 국가에서 선거가 진행되면서 가짜뉴스의 영향을 더욱 우려하고 있어요. AI 생성 가짜 정보는 선거 시기에 더 크게 작용하는 여론 조작 수단으로 인식되고 있으며, 불법 콘텐츠에 대한 대응을 감별반 구성 및 규제 강화로 준비 중이라고 하네요.[2]

 한국의 AI 허위 정보 감별과 규제 대응

• 중앙선관위의 대응: 중앙선관위는 AI 기술로 생성된 가짜 콘텐츠의 선거 운동 활용을 금지하고, 수준 높은 대응을 강조하고 있어요. AI 감별 전문가 및 이를 위한 팀을 만들어서 선거 기간이 다가올수록 대응 수준을 높여 나갈 계획이에요.[1]
• AI 허위 정보 추적과 수사의 어려움: IP 주소를 변경하여 해외에서 유포하는 경우 추적은 물론, 사후 수사조차 어렵게 만드는 현실이 있어요. 또한, 플랫폼 사업자에게 허위 콘텐츠 차단 의무를 부과하는 강력한 제재 수단이 없는 상황이에요. 이로 인해 선거일 임박해 허위 정보가 확산될 경우 큰 혼란이 우려되고 있어요.[2]

아직 완벽하지 않은 AI 기반 가짜 정보 감별 기술과 실제 많은 나라가 이를 규제하기 위한 방안을 모색하고 있어요. 한국 또한 선거를 앞두고 엄격한 규제와 감별 시스템을 갖추기 위한 노력을 계속하고 있다고 하니 기다려 지네요!

국가수사본부, '딥페이크 탐지 소프트웨어' 개발 및 선거 범죄 단속 활용

경찰청 국가수사본부가 개발한 딥페이크 탐지 소프트웨어가 선거 범죄 단속에 본격적으로 활용될 예정이라고 밝혔어요.

딥페이크 탐지 기능과 경찰청 활용 계획

• 딥페이크 탐지 소프트웨어 소개: 국가수사본부가 개발한 소프트웨어는 의심 가는 영상을 시스템에 업로드하면 약 5~10분 내에 분석하여 진위를 판별하고 결과보고서를 생성, 수사에 활용할 수 있게 한다고 해요.[1]
• 특징 및 성능: 이 소프트웨어는 한국인 데이터 100만 점, 아시아 계열 인종 데이터 13만 점 등 총 5400명의 다양한 데이터 520만 점을 학습하여 탐지율을 기존 대비 높였으며, 약 80%의 진위 탐지율을 보이고 있는데요.[2]
• 기존 문제점 및 개선: 해외 제작 모델들이 주로 서양인 데이터에 최적화되어 있었던 반면, 국가수사본부의 모델은 한국인 데이터에 초점을 맞춰 국내 상황에 맞는 탐지 능력을 강화하였다고해요.[3]
• 활용 계획: 경찰청은 탐지율이 100%가 아닌 점을 고려하여 증거자료보다는 수사 방향을 설정하는 참고 자료로 활용할 예정이며 또한, 학계나 기업의 AI 전문가들로 구성된 민간 자문위원회의 교차 검증을 거쳐 오탐지 가능성을 최소화할 방침이라고 밝혔다고 해요.

국가수사본부의 이번 소프트웨어 개발과 선거 범죄 단속에의 활용은 22대 총선을 앞두고 증가하는 딥페이크 관련 범죄에 대응하기 위한 것으로 보여 지네요. [1]

AI 기술의 발전과 함께 딥페이크 범죄가 사회적 문제로 부각되고 있는 상황에서 이러한 노력이 범죄 예방 및 단속에 기여할 것으로 기대돼요. AI가 생성한 가짜 정보의 위험으로부터 우리 사회가 안전하게 보호받길 바라면서, 앞으로의 진전된 대응책에도 관심을 가져보아요!

국가수사본부의 이번 결정과 노력이 현명한 대처 방법 중 하나가 되기를 희망합니다. 

<관련기사>

○ "10분 내 가짜 영상 잡아낸다" 경찰, 딥페이크 탐지 기술 개발 (2024.03.05.)

○ 딥페이크 가짜뉴스 주의보! 딥페이크는 나쁜 기술인가요? (2024.02.29.)

○ 내가 지금 보고 있는 미디어는 진짜 일까? (2022.07.22.)

SNS가 우리 도청하고 있는거 아니야?

 맞춤형 광고 관련 정책 방안 필요

최근에 친구들하고 자주 하는 이야기가 있어요. “SNS가 우리 도청하고 있는 거 아니냐!”.

무슨 소리인가 하면, 얼마 전 친구들과 한 떡볶이 프랜차이즈에서 신메뉴로 로제 떡볶이를 출시했다는 얘기를 나눈 적이 있는데, 이후로 SNS에 들어갈 때마다 그 떡볶이가 피드에 뜨는 거예요. 이런 적이 한두 번이 아니라 장난 식으로 우리 이야기가 도청되고 있다,라는 농담을 하곤 했어요. 그런데 이게 우연의 일치일 리는 없잖아요!

다행히 실제로 저희 이야기를 도청하는 건 아니에요.

다만, 주어진 토픽으로 이야기를 하다 보면 자연스레 스마트폰을 들어서 검색을 하게 되죠.

이렇게 검색을 하면 어떤 사이트에 접속을 했고, 어떤 내용을 보았는지가 서버에 남게 된다고 해요. 이렇게 남게 된 데이터는 검색 기록이나 활동 로그를 삭제한다고 해서 지워지는 항목이 아니에요. 그렇기에 이 정보들은 계속 남아있게 되고, 사이트의 운영자들은 이러한 기록들을 수집하고 분석하여 사용자들의 관심사를 알아낸다고 해요. 그래서 제가 친구들과 떡볶이에 대해서 이야기하고 온 날은 계속해서 떡볶이 관련 게시글이 뜨는 거였어요. 분명히 제가 검색한 내용이 맞긴 해요. 하지만 그렇다고 해서 그 이후로도 뉴스 기사를 클릭할 때도 동영상을 시청할 때도, 끊임없이 나오는 떡볶이 게시글은 괜찮은 걸까요?

이렇게 수집한 데이터가 사용자의 편의를 위해 사용된다고 하더라도 누군가의 개인정보를 이용한다는 게 명백한 이상, 논란의 여지가 있을 수밖에 없겠죠.

아무래도 이런 식으로 수집된 정보를 이용하여 홍보를 하는 게 그렇지 않은 경우보다 훨씬 더 효과적일 테니 기업의 입장에서는 홍보 효과를 포기하기엔 아까울 거에요. 이러한 광고가 마음에 들지 않다면 해당 사이트에서 ‘개인 정보 수집 비동의’를 체크해 주시는 것도 하나의 방법이에요.

그런데 한때 메타에서 개인정보 수집 동의를 강요한 적이 있었죠. 개인 정보를 수집하겠다는 항목에 동의하지 않으면 사용을 불가하게 하겠다는 거예요.

아무리 메타의 비즈니스 모델(BM)이 광고라고 해도 이건 선을 넘는 것 같아요. 메타가 수집하겠다는 개인정보는 게시물, 댓글, 이미지뿐만 아니라 오디오 데이터, 친구 목록, 연락처, 사진 촬영 장소, 휴대전화의 기종까지 엄청나게 광범위해요. 이렇게까지 수집을 해야 되나 싶을 정도에요.

그런데 최근 개인정보위원회에서 반가운 정책 방안을 마련했다고 해요.

정보 주체의 자기 결정권을 보호하는 한편, 법적 불확실성 없이 기업이 행태정보를 안전하게 처리할 수 있도록 하는 내용이에요. 지난 2017년에 관련 가이드라인이 제정되었긴 한데, 이번 정책 방안에서는 사업자와 광고 매체 사업자에게 구체적인 책임을 부여하는 업그레이드된 내용을 포함하고 있다고 해요. 광고 매체 사업자는 행태정보를 처리하는 과정에서 특정 개인을 식별할 가능성이 발생하지 않도록 해야 하고, 투명성 확보와 사후 통제권 제공, 안전조치 이행 등 권고 조치를 준수해야 한다고 강조했어요. 아울러, 처리 과정을 투명하게 공개하도록 권고했고요. 또, 14세 미만 아동의 행태정보를 처리하여 맞춤형 광고를 제공하려면 법정 대리인의 동의도 필요하다고 하니, 꽤 까다로워졌죠. 이러한 노력들이 모여 시도 때도 없이 보이는 맞춤형 광고에 더 이상 불편하거나 불쾌해하지 않고, 마음껏 검색을 하고 소비를 할 수 있는 날이 곧 올 것만 같아요.

<관련기사>

○ '내 속내 읽었나'…찜찜한 맞춤형 광고, 정보보호 강화한다 (2024.01.31.)

○ 유튜브 감청 음모론 진짜일까? (2023.12.05.)

○