AI 딥페이크 보이스피싱 및 사이버 보안 위협 보고서

AI 딥보이스를 활용한 피싱 사건 증가CEO 목소리를 AI로 합성해 자금 이체를 시도한 사건 발생홍콩에서는 CFO·직원 영상 딥페이크로 약 350억 원 이체 시도2023년 하반기 보이스피싱 266건 발생 → 상반기 대비 442% 증가 진화하는 AI 기반 사이버 공격 수법생성형 AI 이용한 사회공학적 공격 증가악성코드 없이 시스템 침투하는 비악성 기반 공격 확산주로 IT 직원 사칭, 가짜 로그인 페이지 유도, 악성 파일 다운로드 방식 사용 대표적인 사이버 범죄 그룹 활동컬리 스파이더 / 채티 스파이더 / 플럼프 스파이더: AI로 자격 탈취, 탐지 회피 등 고도화된 공격 수행채티 스파이더: 콜백 피싱으로 최대 117억 원 요구주 타깃: 법률·보험 업계 국가 연계 해커 집단 동향이란 해커: AI 활용한 취약점..

• format_list_bulleted 정보보안/정책 및 기술
• · 2025. 4. 4.
• textsms

2025.4.04 딥페이크 음란물 젠노미스’(GenNomis)를 통해 노출

사건 개요국내 AI 이미지 생성 서비스 에이아이노미스(AINomis)의 플랫폼 ‘젠노미스(GenNomis)’의 데이터베이스(DB)가 비밀번호나 암호화 없이 클라우드에 노출 피해 규모총 47.8GB, 약 10만 장 이상의 이미지가 포함된 데이터 노출.노출된 데이터딥페이크 이미지일반 인물 사진을 누드 이미지로 변환한 ‘누디파이’ 결과물아동 또는 아동으로 묘사된 이미지, 유명인 아동 묘사 등 심각한 윤리·법적 문제이미지 생성에 사용된 프롬프트 내용과 링크 정보(Json 파일 형태)  원인 및 대응AI 서비스 클라우드 저장소의 보안 설정 부재(무암호 노출)가 직접적 원인.파울러가 발견 후 에이아이노미스 측에 경고하였고, 현재 젠노미스 및 공식 웹사이트는 폐쇄됨.서비스 사용자 동의 여부 불명, 법적 대응 가능성도..

• format_list_bulleted 정보보안/사건사고
• · 2025. 4. 4.
• textsms

신종 딥페이크 사기 - 조직적인 시스템으로 64억 갈취

부유한 독신 여성인 것처럼 속여 돈을 뜯어내는 신종 딥페이크 사기단이 홍콩에서 검거사우스차이나모닝포스트(SCMP)에 따르면 홍콩 경찰은 지난주 말레이시아, 대만, 싱가포르 등 아시아 전역에서 신종 로맨스·투자 사기 행각을 벌인 범죄 조직 일당 31명을 체포 사기 방법신입 조직원들은 일본어 배우기, 골프, 러닝, 성공한 사람들의 자서전 및 최신 도서 읽기, 자산 구매 또는 여행, 10만홍콩달러(약 1900만원) 이상의 고급 와인 맛보기 등을 주제로 대화를 이끌어 나가는 방법을 교육교육은 학교나 학원 수업처럼 이뤄졌다. 각 주제와 관련해 어떻게 대답해야 하는지 모범 답안이 제시됐고, 조직원들은 정말로 공부하는 것처럼 필기 메모까지 하면서 수업 진행이러한 교육은 대화를 통해 피해자의 직업이나 교육 수준, 재무..

• format_list_bulleted 정보보안/정책 및 기술
• · 2025. 1. 7.
• textsms

2024.10.08 여군을 대상으로 한 딥페이크 성범죄

사건 개요최근 여군을 대상으로 한 딥페이크 성범죄가 발생, 텔레그램 '여군능욕방'에서 불법 합성물이 유포됨. 피해 신고는 7건 피해 규모피해자들의 실명과 계급이 노출된 불법 합성물은 주변인이 쉽게 알아볼 수 있을 정도로 심각하며, 불법 합성물 다수는 여군의 군 증명사진을 기반으로 제작 원인군 내부 시스템의 개인정보 유출 가능성 제기. 피해자 본인이 아닌 동료나 국방부 조사본부 등을 통해 발견된 사례가 대부분

• format_list_bulleted 정보보안/사건사고
• · 2024. 10. 8.
• textsms

텔레그램 이용 딥페이크 구매자 27명 검거. 판매자 2명은 구속

사건 개요경기남부경찰청 사이버수사과는 2023년 11월부터 2024년 7월까지 텔레그램을 통해 딥페이크 불법 합성물을 판매한 10대 남성 3명을 조사하고, 이 중 2명을 구속이 불법 합성물을 유료로 구매하고 시청한 20대 이하의 구매자 24명도 함께 검거불법 합성물 거래와 관련된 범죄수익 1,000만원을 압수딥페이크 불법 합성물의 유통은 주로 텔레그램을 통해 이루어짐 처벌 내용경기남부경찰청 사이버수사과는 2023년 11월부터 올해 7월까지 텔레그램 채널을 개설해 딥페이크 불법합성물을 판매해 수익을 올린 10대 남성 A씨 등 2명을 구속하고, 미성년 판매자 C씨와 해당 채널에서 이를 유료로 구입하고 시청한 24명의 구매자를 아동·청소년의 성보호에 관한 법률(청소년성보호법) 위반 혐의로 불구속하는 등 총 2..

• format_list_bulleted 정보보안/처벌 및 징계
• · 2024. 9. 20.
• textsms

페북 딥페이크

13일 블룸버그 통신에 따르면 폴란드 억만장자 라팔 브조스카는 메타 플랫폼스를 상대로 자신의 이미지나 아내의 이미지를 사용한 허위 광고를 폴란드에서 게시하지 못하도록 하는 임시 금지 명령을 받아냈다.폴란드 개인정보보호국은 지난주 브조스카가 자신 부부 얼굴 사진을 딥페이크로 합성해 조작했다며 제재를 요구한 투자사기 광고에 대해 3개월 동안 게시 금지 명령을 내렸다.폴란드 당국이 메타에 내린 광고 취소 조치는 유럽연합(EU) 데이터보호법을 적용해 가짜 콘텐츠를 내리도록 한 EU 첫 사례네덜란드의 AI 연구소 센서티가 2019년 진행한 조사에 따르면 그해 제작된 1만4600여건의 딥페이크 영상 가운데 96%가 음란물이었다. 대부분은 일반인 개인 SNS 등에서 불법적으로 수집한 이미지와 영상을 활용했다고 전해졌다.

• format_list_bulleted 정보보안/정책 및 기술
• · 2024. 8. 20.
• textsms

신종 학폭 - 피해 학생 개인정보 받아내 도박, 사기에 이용

오픈 채팅방에 학교 친구 등을 강제로 초대한 뒤 개인정보를 요구하고 이를 악용하는 신종 학교폭력(학폭)이 유행 청소년들이 SNS 단체 대화방에 학교 친구나 후배를 초대해놓고 개인정보를 요구하는 사이버 학교 폭력가해 학생들은 대화방에서 이름과 생년월일 등 개인정보와 이를 통해서 얻을 수 있는 '인증번호'를 요구하고, 단체 대화방을 나가려면 다른 친구를 초대하고 나가야 한다며 협박피해 학생의 개인정보를 업자에 돈을 받고 파는 경우도 있다.당근마켓 등 중고 물품 거래에서 사기 거래를 하기도 한다. 가령 구매자에게 접근해 선입금 해달라고 하면서 물건을 발송하지 않는 식의 사기다.학교에서는 딥페이크 기술을 활용해 지인의 얼굴을 음란 영상에 합성하는 등 사이버 폭력도 늘고 있다.

• format_list_bulleted 정보보안/정책 및 기술
• · 2024. 8. 12.
• textsms

2024.6.24 파리올림픽 가짜 티켓 판매 및 허위 정보 유포

가짜 티켓 판매 프랑스 국립헌병대는 올림픽 파트너사와 협업해 가짜 올림픽 티켓 예매 사이트 338곳을 적발했고, 51곳을 폐쇄했다. 140곳에는 사법당국 조치가 통보가짜 판매 사실이 드러나 도메인 운영 중단 조치가 내려진 웹사이트는 '파리24티켓(paris24tickets)''시츠넷(seatsnet)'이라는 이름의 웹사이트를 통해 예매를 진행했다가 실제 티켓을 수령하지 못한 것이 대표적공격자는 사용자가 스포츠 종목 아이콘을 누르면, 해당 티켓 페이지로 바로 연결해 티켓과 결제 방법을 선택하도록 유도 및 관련해 계좌 설정도 가능한 것처럼 꾸몄다. AI를 이용한 허위 정보 유출미국 정치 액션 스릴러 '백악관 최후의 날(Olympus Has Fallen)'을 모방한 장편 영화가 온라인상 유포모방 영화 포스터에..

• format_list_bulleted 정보보안/사건사고
• · 2024. 6. 25.
• textsms

딥페이크를 활용한 해킹

딥페이크, 얼굴 스와핑 기술을 활용한 해킹 사건 개요 영국에 본사를 두고 홍콩에 지사를 둔 다국적 기업에서 발생 지사 재정 업무 직원은 업무 중 CFO 로 부터 자신을 대신하여 긴급한 거래 한 건을 처리 요청하는 메시지를 받음 직원은 메시지를 무시했으나 일정 시간이 흐른 후 CFO로 부터 화상 컨퍼런스 콜이 들어옴. CFO와 다른 동료들이 함께 회의에 참여하고 있었고 회의에 접속한 후 간단히 인사를 나눴다. 미티에엇 CFO가 다시 한 번 송금 건을 처리해달라고 요청했고 미팅이 끝난 후 2550만 달러의 돈을 15번에 나누어 요청한 계좌로 송금 얼마 뒤 모든 것이 사기임이 밝혀짐 해킹 기술 얼굴 스와핑 도구를 활용하여 실시간으로 얼굴과 목소리를 변조하여 대상을 속임 AI의 발전에 따라 다크웹에서 손쉽게 도..

• format_list_bulleted 정보보안/정책 및 기술
• · 2024. 2. 7.
• textsms