[사이언스미디어센터] 전문가 의견 <의료 AI 모델, 개인정보 침해 위험 제기...소수 집단 위험 더 커 (네이처)>

(엠바고 25일 0시 해제) 기술적 발전과 한계, 그 사이에서

2026. 6. 25.

잘 안 보이실 땐 여기를 눌러주세요.

전문가 의견 26-075 의료 AI 모델, 개인정보 침해 위험 제기...소수 집단 위험 더 커 (네이처)

2026.6.25. **엠바고 25일 0시 해제**

> SMCK 등록 기자는 더 많은 정보를 접하실 수 있습니다. -> 기자 등록하기

배경
- 의료 인공지능(AI) 모델 학습에 사용되는 데이터의 소유자인 개인들이 사이버 공격 시 신원이 노출될 위험이 있다는 연구 결과가 25일 새벽 '네이처'에 발표됐습니다.
  - 특히 소수 집단은 데이터 유출 위험에 불균형적으로 더 많이 노출될 수 있다고 연구는 지적하고 있습니다.
- 독일 뮌헨공대 등 연구팀은 개인 정보 보호 위험에 초점을 맞춰 의료 AI 모델을 시험했습니다.
  - 연구팀은 의료 영상, 심전도, 전자 건강 기록 등 실제 임상 데이터로 구성된 7개의 대규모 데이터 세트를 사용해, 데이터 제공자 중 가장 취약한 환자를 파악했습니다.
- 그 결과, 개인 수준에서는 의료 AI 공격(멤버십 추론 공격, MIA)의 표적이 된 환자들이 거의 오류 없이 성공적으로 공격당했음을 확인했습니다.
  - 집단 수준에서는 희귀 질환 환자, 소수 인종 집단 또는 사회경제적 지위에 속한 사람, 또는 드문 성별을 가진 사람들이 데이터 세트에서 과소 대표되는 집단으로 확인됐습니다.
  - AI 모델이 인코딩하는 데이터가 특수할수록(예를 들어 양성 종양이나 고밀도 유방 조직 이미지 등), 이런 집단과 개인은 개인정보 침해 공격에 더욱 취약하고 불균형적으로 노출되는 것으로 나타났습니다.
  - 연구팀은 의료 AI 공격의 성공률이 모델의 용량과 규모에 비례해 증가한다는 사실도 발견했습니다. 일부 모델은 거의 완벽한 공격 성공률을 보였습니다.
    - 시각 모델의 경우, 특정 모델(예를 들어 비전 트랜스포머)의 MIA 성공률은 레즈넷(ResNet)보다 높았습니다.
- 연구팀은 MIA와 같은 개인정보 침해 공격이 현재 생각보다 훨씬 효과적으로 개인을 표적으로 삼을 수 있음을 보여준다고 밝혔습니다.
- 또한, 개인정보 위험의 차이가 기존의 의료 불평등을 심화시켜, 소수 집단이 AI시스템에 대한 신뢰를 잃게 할 수 있다고 경고했습니다.
  - 논문 제목: Disparate privacy risks from medical AI (Nature)

참여 전문가
- 김남국 울산의대・서울아산병원 융합의학과 교수

기자 여러분은 아래 주의사항을 참고해 활용해주시길 부탁드립니다.

엠바고는 25일 0시 해제됐습니다. 자유롭게 활용 가능합니다.
되도록 원문을 그대로 활용해주시길 부탁드립니다.
SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
- "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."

*SMCK 홈페이지 | 📌 이런 메일을 계속 받고 싶으시다면: 전문가 의견 구독(기자 등록)

김남국 울산의대・서울아산병원 융합의학과 교수

*2026.6.25.

이 연구는 의료 AI 모델의 프라이버시 취약성을 기존의 집단 단위 분석에서 벗어나 '환자 개인 수준(Patient-level)'에서 실증적으로 검증했다는 점에서 중요한 의의를 가진다고 생각합니다. 연구에서 핵심이 된 멤버십 추론 공격(Membership Inference Attack, MIA)은 특정 개인의 데이터가 AI 모델의 학습에 사용되었는지 여부를 역추적해내는 기법입니다. 의료 데이터의 특성상 학습 참여 여부 자체가 특정 환자의 병력이나 민감한 건강 상태의 유출로 직결되기에 치명적입니다. 다만, 우리나라 전 국민의 지문이 등록되어 관리되고 있기 때문에 개인을 구분할 수 있는 개인정보로 사용할수 있듯이, 비식별화된 데이터가 학습에 사용되었는지를 구별할수 있다고 해서, 당장 환자의 프라이버시에 심각한 문제가 되진 않을 것이라 사료됩니다.

이번 연구는 현재 대형언어모델(LLM) 등의 학습 및 추론(Inference) 과정에서 나타나는 고질적인 기술적 한계, 안전 장치(Guiderail)의 부재, 그리고 보안 우회(Bypass) 기술의 발전과 맞물려 시사하는 바가 있습니다. 특히, 희귀 질환 등의 취약한 소수 집단의 위험성이 높은 만큼, 이 연구는 다양한 데이터 주입 공격이나 모델 추출 공격 등 더욱 다양한 형태의 고도화된 공격 기법(Attack methods)으로 확장해 검증할 필요가 있습니다.

namkugkim@gmail.com

한국과학기술미디어센터(SMCK) 소개

한국과학기술미디어센터는 근거 기반의 과학 정보를 언론에 제공하는, 과학계와 미디어 사이의 다리 역할을 하는 독립 비영리 조직입니다. 잘못된 정보와 가짜 뉴스가 넘쳐나는 세상에서, 제대로 된 전문가의 해설과 의견을 빠르고 다양하게 기자들에게 제시하고 이를 체계적으로 아카이빙하는 역할을 합니다.

2025년 7월 이사회를 구성하고(이사장 노정혜 전 한국연구재단 이사장) 센터장(이근영 전 한겨레 과학전문기자)을 선임했으며, 같은해 9월 개소식을 열며 활동을 시작했습니다.

*참고 기사:

SMCK 역할

SMCK는 세 분야 전문가인 과학자, 기관 커뮤니케이터(홍보팀), 기자에게 구체적인 도움을 드리고자 설립됐습니다. 각각 아래와 같습니다.

과학자, 연구자에게는 의견과 해설이 온전한 맥락과 함께 제공되는 안전한 발언 공간이 돼줍니다. 선의를 위해 한 논평이 기사화 과정에서 왜곡되거나 부정확하게 변질될 우려를 줄이는 완충 작용을 합니다.
기관 홍보 담당자에게는 기관의 성과를 기자들에게 보다 객관적이고 정교하게 알리고, SMC 글로벌 네트워크를 통해 영향력을 높일 기회를 제공합니다.
기자에게는 사안을 해석하는 데 도움이 될 치우침 없는 종합적인 정보를 빠르고 풍성하게 제공하고, 이를 통해 기사에서 과학과 기술을 보다 자유롭고 편리하게 활용하도록 돕습니다.

SMCK는 이를 통해, 궁극적으로 근거에 기반해 사안을 합리적으로 판단하고 이것이 정책에까지 반영되는 사회를 만드는 데 기여하고자 합니다.

해외 협력

사이언스미디어센터(SMC)는 2002년 영국에서 최초로 설립됐고 현재 호주와 뉴질랜드, 독일, 스페인, 대만, 아일랜드 등으로 확장됐습니다. 한국은 2025년 12월, 7번째 센터로 합류했습니다. 글로벌 네트워크에 포함된 8개 조직은 엄격한 독립성과 신뢰성이라는 가치를 공유하고 있으며 협력을 통해 주요한 국제 과학 이슈에 공동 대응하고 있습니다.