(코멘트 추가) 기술적 발전과 한계, 그 사이에서 전문가 의견 26-075(Ver.2) 의료 AI 모델, 개인정보 침해 위험 제기...소수 집단 위험 더 커 (네이처)
2026.6.26. **엠바고 해제** 코멘트 추가
|
|
|
- 배경
- 의료 인공지능(AI) 모델 학습에 사용되는 데이터의 소유자인 개인들이 사이버 공격 시 신원이 노출될 위험이 있다는 연구 결과가 25일 '네이처'에 발표됐습니다.
- 특히 소수 집단은 데이터 유출 위험에 불균형적으로 더 많이 노출될 수 있다고 연구는 지적하고 있습니다.
- 독일 뮌헨공대 등 연구팀은 개인 정보 보호 위험에 초점을 맞춰 의료 AI 모델을 시험했습니다.
- 연구팀은 의료 영상, 심전도, 전자 건강 기록 등 실제 임상 데이터로 구성된 7개의 대규모 데이터 세트를 사용해, 데이터 제공자 중 가장 취약한 환자를 파악했습니다.
- 그 결과, 개인 수준에서는 의료 AI 공격(멤버십 추론 공격, MIA)의 표적이 된 환자들이 거의 오류 없이 성공적으로 공격당했음을 확인했습니다.
- 집단 수준에서는 희귀 질환 환자, 소수 인종 집단 또는 사회경제적 지위에 속한 사람, 또는 드문 성별을 가진 사람들이 데이터 세트에서 과소 대표되는 집단으로 확인됐습니다.
- AI 모델이 인코딩하는 데이터가 특수할수록(예를 들어 양성 종양이나 고밀도 유방 조직 이미지 등), 이런 집단과 개인은 개인정보 침해 공격에 더욱 취약하고 불균형적으로 노출되는 것으로 나타났습니다.
- 연구팀은 의료 AI 공격의 성공률이 모델의 용량과 규모에 비례해 증가한다는 사실도 발견했습니다. 일부 모델은 거의 완벽한 공격 성공률을 보였습니다.
- 시각 모델의 경우, 특정 모델(예를 들어 비전 트랜스포머)의 MIA 성공률은 레즈넷(ResNet)보다 높았습니다.
- 연구팀은 MIA와 같은 개인정보 침해 공격이 현재 생각보다 훨씬 효과적으로 개인을 표적으로 삼을 수 있음을 보여준다고 밝혔습니다.
- 또한, 개인정보 위험의 차이가 기존의 의료 불평등을 심화시켜, 소수 집단이 AI시스템에 대한 신뢰를 잃게 할 수 있다고 경고했습니다.
- 참여 전문가
- 박한우 영남대 사이버감성연구소・미디어커뮤니케이션학과・디지털융합비즈니스대학원 교수, 영국 옥스포드인터넷연구소 전 방문연구원 (NEW)
- 김남국 울산의대・서울아산병원 융합의학과 교수
|
|
|
기자 여러분은 아래 주의사항을 참고해 활용해주시길 부탁드립니다.
- 엠바고는 25일 0시 해제됐습니다. 자유롭게 활용 가능합니다.
- 되도록 원문을 그대로 활용해주시길 부탁드립니다.
- SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
- "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."
|
|
|
박한우 영남대 사이버감성연구소・미디어커뮤니케이션학과・디지털융합비즈니스대학원 교수, 영국 옥스포드인터넷연구소 전 방문연구원
*2026.6.26. 추가
이번 연구의 가장 큰 의의는 의료AI의 성능이 아니라 가명정보의 안전성에 대한 기존의 전제를 다시 생각하게 했다는 점이다. 연구는 멤버십 추론 공격(Membership Inference Attack, MIA)을 통해 AI 모델만 접근할 수 있어도 특정 환자의 데이터가 학습에 사용되었는지를 높은 정확도로 추론할 수 있으며, 특히 희귀질환자나 소수 집단처럼 데이터가 적은 보건 약자일수록 이러한 위험이 더 커질 수 있음을 실증적으로 보여주었다. 무엇보다 이 연구는 의료영상, 심전도, 전자의무기록(EHR) 등 실제 임상데이터를 활용하여 개인 수준과 집단 수준을 모두 분석하고, 다양한 의료AI 모델에서 일관된 결과를 제시했다는 점에서 모범적인 증거 기반 연구라고 평가할 수 있다.
이는 현재 우리나라에서 논의 중인 디지털헬스법에서 가명정보 활용을 확대하려는 정책에도 중요한 시사점을 제공한다. 다만 이 연구를 의료데이터 활용을 위축시키거나 가명정보 활용을 제한해야 한다는 주장으로 해석하는 것은 바람직하지 않다. 의료AI 산업은 양질의 데이터가 축적되고 공유될 때 발전할 수 있으며, 과도한 규제는 오히려 혁신을 저해할 가능성이 있다. 중요한 것은 가명정보를 사용할 것인가 말 것인가의 문제가 아니라, 어떻게 안전하게 활용할 것인가이다.
따라서 앞으로의 정책은 모든 의료AI에 동일한 규제를 적용하는 방식이 아니라, 위험 기반(risk-based) 접근으로 전환할 필요가 있다. 예를 들어 희귀질환 데이터나 소수 집단처럼 재식별 가능성이 높은 경우에는 보다 강화된 보호조치를 적용하고, 상대적으로 위험이 낮은 경우에는 데이터 활용을 적극 지원하는 차등적 거버넌스가 필요하다. 또한 정부의 역할도 단순히 동의 절차를 강화하거나 사후 제재를 확대하는 데 그쳐서는 안 된다. AI 모델이 MIA와 같은 공격에 얼마나 취약한지를 개발 단계에서부터 지속적으로 점검하는 프라이버시 감사(privacy audit)와 사전 위험평가(prebunk) 체계를 제도화하는 것이 더욱 효과적이다.
한편, 이번 연구는 주로 북미와 유럽의 의료 데이터를 기반으로 수행된 것으로 생각한다. (논문에서 정확한 데이터의 출처를 찾지 못했다.) 따라서 그 결과를 한국 의료 환경에 그대로 일반화하는 데에는 신중할 필요가 있다. 한국은 단일 건강보험체계, 높은 의료 데이터베이스 인프라, 상대적으로 동질적인 인구 구조 등 서구와 다른 특성을 가지고 있다. 따라서 국내 의료 데이터를 활용하여 가명정보의 재식별 위험과 MIA 취약성을 검증하는 한국형 후속 연구가 반드시 필요하다. 이러한 연구 결과가 축적될 때 비로소 디지털헬스법도 이념이나 추상적 원칙이 아니라 객관적 증거에 기반한 시장친화적이고 신뢰 중심의 규제 체계로 발전할 수 있을 것이다. 이는 개인정보 보호와 의료AI 산업 경쟁력을 동시에 달성하는 현실적인 정책 방향이라고 생각한다.
han.woo.park.korea@yu.ac.kr |
|
|
김남국 울산의대・서울아산병원 융합의학과 교수
*2026.6.25.
이 연구는 의료 AI 모델의 프라이버시 취약성을 기존의 집단 단위 분석에서 벗어나 '환자 개인 수준(Patient-level)'에서 실증적으로 검증했다는 점에서 중요한 의의를 가진다고 생각합니다. 연구에서 핵심이 된 멤버십 추론 공격(Membership Inference Attack, MIA)은 특정 개인의 데이터가 AI 모델의 학습에 사용되었는지 여부를 역추적해내는 기법입니다. 의료 데이터의 특성상 학습 참여 여부 자체가 특정 환자의 병력이나 민감한 건강 상태의 유출로 직결되기에 치명적입니다. 다만, 우리나라 전 국민의 지문이 등록되어 관리되고 있기 때문에 개인을 구분할 수 있는 개인정보로 사용할수 있듯이, 비식별화된 데이터가 학습에 사용되었는지를 구별할수 있다고 해서, 당장 환자의 프라이버시에 심각한 문제가 되진 않을 것이라 사료됩니다.
이번 연구는 현재 대형언어모델(LLM) 등의 학습 및 추론(Inference) 과정에서 나타나는 고질적인 기술적 한계, 안전 장치(Guiderail)의 부재, 그리고 보안 우회(Bypass) 기술의 발전과 맞물려 시사하는 바가 있습니다. 특히, 희귀 질환 등의 취약한 소수 집단의 위험성이 높은 만큼, 이 연구는 다양한 데이터 주입 공격이나 모델 추출 공격 등 더욱 다양한 형태의 고도화된 공격 기법(Attack methods)으로 확장해 검증할 필요가 있습니다.
namkugkim@gmail.com |
|
|
한국과학기술미디어센터(SMCK) 소개
한국과학기술미디어센터는 근거 기반의 과학 정보를 언론에 제공하는, 과학계와 미디어 사이의 다리 역할을 하는 독립 비영리 조직입니다. 잘못된 정보와 가짜 뉴스가 넘쳐나는 세상에서, 제대로 된 전문가의 해설과 의견을 빠르고 다양하게 기자들에게 제시하고 이를 체계적으로 아카이빙하는 역할을 합니다.
2025년 7월 이사회를 구성하고(이사장 노정혜 전 한국연구재단 이사장) 센터장(이근영 전 한겨레 과학전문기자)을 선임했으며, 같은해 9월 개소식을 열며 활동을 시작했습니다.
*참고 기사:
SMCK 역할
SMCK는 세 분야 전문가인 과학자, 기관 커뮤니케이터(홍보팀), 기자에게 구체적인 도움을 드리고자 설립됐습니다. 각각 아래와 같습니다.
- 과학자, 연구자에게는 의견과 해설이 온전한 맥락과 함께 제공되는 안전한 발언 공간이 돼줍니다. 선의를 위해 한 논평이 기사화 과정에서 왜곡되거나 부정확하게 변질될 우려를 줄이는 완충 작용을 합니다.
- 기관 홍보 담당자에게는 기관의 성과를 기자들에게 보다 객관적이고 정교하게 알리고, SMC 글로벌 네트워크를 통해 영향력을 높일 기회를 제공합니다.
- 기자에게는 사안을 해석하는 데 도움이 될 치우침 없는 종합적인 정보를 빠르고 풍성하게 제공하고, 이를 통해 기사에서 과학과 기술을 보다 자유롭고 편리하게 활용하도록 돕습니다.
SMCK는 이를 통해, 궁극적으로 근거에 기반해 사안을 합리적으로 판단하고 이것이 정책에까지 반영되는 사회를 만드는 데 기여하고자 합니다.
해외 협력
사이언스미디어센터(SMC)는 2002년 영국에서 최초로 설립됐고 현재 호주와 뉴질랜드, 독일, 스페인, 대만, 아일랜드 등으로 확장됐습니다. 한국은 2025년 12월, 7번째 센터로 합류했습니다. 글로벌 네트워크에 포함된 8개 조직은 엄격한 독립성과 신뢰성이라는 가치를 공유하고 있으며 협력을 통해 주요한 국제 과학 이슈에 공동 대응하고 있습니다.
|
|
|
* 지난 의견은 '지난 의견 다시 보기'를 선택해주세요. |
|
|
진행・내용문의: 윤신영 미디어국장 yoonsy@smck.or.kr
비상 연락(당직 전화): 010-4440-5450
한국과학기술미디어센터(SMCK)
|
|
|
|
|