악성코드 숨긴 AI/ML 모델을 활용한 해킹

오픈소스 AI/ML 모델이 증가하면서 AI 플랫폼에서 심각한 취약점도 다수 발견되고 있다. ML플로우(MLflow), 클리어ML(ClearML), 허깅페이스(Hugging Face)와 같은 오픈소스 플랫폼에서 초고위험도 취약점이 발견되었다. 특히 , 허킹페이스에서 악성 코드가 숨겨진 AI/ML 모델이 100개 이상 발견되었다. 해당 모델은 시스템 제어권 탈취, 서버 내 저장 파일 삭제, 백도어 설치, 원격에서 코드 실행과 같은 심각한 악성행위를 할 수 있는 취약점이어서 주의가 필요하다. 악성코드가 사용된 모델은 파이토치가 95%, 텐서플로우가 5% 를 차지 공격 기법 ComPromptMized : 공격자는 쿼리와 데이터에 코드를 삽입함으로써 이러한 애플리케이션이 생성 AI 서비스 또는 검색 증강 생성(R..

• format_list_bulleted 정보보안/정책 및 기술
• · 2024. 3. 6.
• textsms

AI 시대에 가장 충격 받는 직종 - 소프트웨어 개발자

결론적으로 AI 도입되면서 역설적으로 소프트웨어엔지니어가 앞으로 2~3년간 부정적으로 영향받을 직종으로 본다. 그리고, AI 이용하여 개발하는 개발자와 그렇지 않은 개발자의 경쟁력은 엄청난 차이가 있을 것이다. 인공지능(AI)이 사회에 끼친 영향을 평가하는 것은 이제 새로운 일이 아니다. 특히, 최근 ChatGPT의 출현으로 AI의 발전은 더욱 빠른 속도로 현실을 변화시키고 있다. 컴퓨터와 인터넷이 대중화되며 많은 블루칼라 직종이 사라졌고, 스마트폰이 일상화되면서 서비스 업종에 혁신을 가져왔다. 이제는 AI가 화이트칼라 직종에 가장 큰 영향을 줄 것으로 전문가들은 예상하고 있다. 그 중에서도 특히 법률가, 의료 전문가, 회계사 등 지식 기반 전문직들이 AI의 영향을 크게 받을 것으로 보인다. 또한 소프트..

• format_list_bulleted IT/AI
• · 2024. 2. 29.
• textsms

경량 LLM 성능 비교

무료 이용이 가능한 경량 LLM 비교 Google Gemma가 가장 우수 LLM Model 라이센스 상업적 이용 Pretraining size (tokens) Leaderboard socre LLama 2 70B Chat (reference) Llama 2 license O 2T 67.87 Gemma-7B Gemma license O 6T 63.75 DeciLM-7B Apache 2.0 O unknown 61.55 PHI-2 (2.7B) MIT O 1.4T 61.33 Mistral-7B-v0.1 Apache 2.0 O unknown 60.97 Llama 2 7B Llama 2 license O 2T 54.32 Gemma 2B Gemma license O 2T 46.51 LLamma는 META LLM, G..

• format_list_bulleted IT/AI
• · 2024. 2. 28.
• textsms