의료 분야 LLM 공격으로 환자 정보 유출 가능

서울아산병원 연구팀이 악성 공격으로 LLM의 보안 취약성을 실험한 결과, 최대 81%의 공격 성공률을 보임. 즉, 환자 정보 유출 가능성이 매우 높다는 것을 의미. 악성 공격으로 LLM 보안 기능 무력화연구팀은 LLM 프롬프트를 변형하는 방식으로 악성 공격을 시도했고, 이를 통해 LLM의 보안 장치를 우회하여 개인 정보에 접근LLM, 학습 데이터 노출 위험LLM이 답변을 생성하는 과정에서 학습된 원본 데이터가 노출될 가능성도 최대 21.8%로 나타남구체적인 환자 정보 및 의료진 정보 유출 가능성:실제로 수술 준비 시스템에 적용된 LLM을 대상으로 실험한 결과, 환자의 민감한 정보뿐만 아니라 의료진의 정보까지 노출되는 것을 확인의료 분야 LLM, 데이터 보안 강화 필수연구팀은 의료 분야에서 LLM을 활용할..