악성 AI 해킹툴

 ChatGPT로 시작된 LLM 기반의 서비스가 봇물을 이루면서 나오고 있다. 사회에 명과 암이 있듯이 GPT도 ChatGPT, Gemini 같은 유익한 서비스도 있지만 해킹을 도와주는 서비스도 다양하게 나오고 있다. 

 

 이런 류의 AI 서비스는 해킹 코드를 만들어 주거나 피싱 메일을 위한 정교한 콘텐츠 생성을 제공한다. 

 피싱메일의 경우 타켓의 일부 개인정보만 입력하면 관련된 SNS를 탐색하여 그 타깃에 맞는 콘텐츠를 구성해 준다. 

 예를 들면, 이름과 이메일을 입력하면 페이스북, 링크드인 등 모든 SNS 서비스를 검색하여 취미, 기호, 가족, 지인 정보를 수집하여 콘텐츠를 구성하여 준다. GPT 이전에는 이 작업이 거의 막일 작업으로 해커들이 스피어피싱을 위해 가장 많이 소비한다. 현재는 이런 작업이 몇 분이면 가능하다. 

 

 가장 유명한 GPT로는 WormGPT가 있다. 그리고 대부분의 피싱 관련 AI 서비스도 WormGPT 기반이다. 아래 몇 가지를 소개한다. 다만 아래 GPT는 그런 서비스가 있구나하고 거기서 끝내야지 잘못 사용하면 큰집을 가거나 본인의 정보가 털려서 해커의 먹잇감이 될 수도 있다.

WormGPT

 

• WormGPT: 이 모델은 텍스트 생성, 질문 응답, 요약 등 피싱 메일 생성 작업에서 사용
• FraudGPT: 사기 탐지, 신용카드 부정 사용 탐지 등의 작업에서 높은 성능을 보임
• XXXGPT: 성적인 내용을 포함한 텍스트 생성
• WolfGPT: 자연어 처리 작업에서 높은 성능을 보이며, 특히 텍스트 생성 작업에서 우수한 결과
• EvilGPT: 악의적인 텍스트 생성 작업에서 사용

 이러한 모델들은 모두 GPT-3 모델을 기반으로 하며 악용 시에는 피해가 예상됨으로 주의가 요구된다.