(해외 전문가 코멘트 추가) 보안 위협을 탐지하는 LLM 모델의 등장, 위기? 전문가 의견 26-040(Ver.2) 앤트로픽 '미토스' 등장과 보안 패러다임의 변화
2026.4.16. **엠바고 없음** 해외 코멘트 추가
|
|
|
-
배경
- 대형언어모델(LLM)의 새 모델이 기존보다 월등한 성능으로 소프트웨어 보안 취약점을 식별할 수 있다는 주장이 나오면서, 보안의 패러다임이 바뀔지 여부가 화제가 되고 있습니다.
- 14일(현지시간), 오픈AI는 자사가 개발한 새로운 LLM 모델 ‘GPT-5.4-Cyber’를 우선 소수 기업 및 조직과 공유한 뒤, 이후 더 많은 파트너와 공유할 방침이라고 밝혔습니다(참고글: 오픈AI 블로그).
- 이는 지난주, 앤트로픽이 새 모델 ‘미토스 프리뷰’의 강력한 보안 취약점 식별 능력을 이유로 소수의 신뢰할 수 있는 기업 또는 조직에게만 기술을 공유하겠다고 밝힌 데 따른 것입니다(참고기사).
- 문제는, 이들 기술이 보안 취약점을 발견해 보완하는 데 활용될 수 있지만, 반대로 취약점을 공격하는 데 사용될 수도 있다는 사실입니다.
- LLM은 이미 프로그래밍 능력에서 월등한 속도와 효율을 보이고 있고, 에이전트로 개발되면서 일정 수준 자율성을 지닌 채 임무를 수행할 수 있습니다.
- 이미 지난주, 미국 정부는 미국 은행 경영진들을 대상으로 새로운 LLM 모델이 사이버 공격 위험을 높일 수 있다고 경고한 바 있습니다(참고기사).
- 한국에서도 과기정통부가 14일, 통신 3사와 주요 정보기술(IT), 플랫폼 기업 정보보호 최고 책임자와 긴급 현안 점검 회의를 개최하는 등 바뀐 상황을 예의주시하는 상태입니다(참고기사).
- 전문가 의견 요청 내용
- 탁월한 프로그래밍과 연산 능력, 그리고 에이전트 기술은 사이버 보안 분야에 어떤 영향을 미칠까요.
- LLM의 진화는 보안의 패러다임 변화를 가져올까요. 가져온다면 어떤 양상으로 변화할까요.
- 이번 미토스와 GPT-5.4-Cyber는 정말 이렇게 패러다임을 바꿀 만큼 위험성이 클까요.
- 미리 대비하고자 한다면 어떤 기술적 방법이 있을까요.
- 한국의 보안 대비 상황은 어떤 수준이고, 만약 보완과 대책이 필요하다면 어떤 일이 필요할까요.
|
|
|
기자 여러분은 아래 주의사항을 참고해 활용해주시길 부탁드립니다.
- 엠바고는 없습니다. 자유롭게 활용 가능합니다.
- 되도록 원문을 그대로 활용해주시길 부탁드립니다.
- SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
- "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."
|
|
|
아래는 독일 사이언스미디어센터(SMC Spain)에서 9일 수집한 전문가 반응입니다. 독일 SMC 홈페이지에서도 확인할 수 있습니다. |
|
|
Leiter des Lehrstuhls für Maschinelles Lernen und Sicherheit, Berlin Institute for the Foundations of Learning and Data (BIFOLD), Technische Universität Berlin
Fähigkeiten des neuen Modells Claude Mythos Preview
„Die aktuellen Ergebnisse von Anthropic sehen wirklich beeindruckend aus. Insbesondere bei der Ausnutzung von Schwachstellen scheint es einen großen Sprung gegeben zu haben.“
„Das ist tatsächlich keine gute Neuigkeit für die IT-Sicherheit. Grundsätzlich muss nämlich zwischen dem Finden und dem Ausnutzen von Schwachstellen unterschieden werden. Das Finden ist eigentlich immer eine gute Sache, das Ausnutzen jedoch nur unter sehr bestimmten Umständen. Ohne detaillierte Veröffentlichungen kann man allerdings jetzt noch keine Schlüsse ziehen.“
Rolle von KI für Cybersicherheit
„KI-Modelle sind ein wichtiges Werkzeug bei der Analyse von Software. Sie helfen, Schwachstellen schneller zu finden und zu beheben. Allerdings wird ihre Leistungsfähigkeit darin regelmäßig überschätzt.“
„Offenbar kann eine Reihe von Schwachstellen durch KI-Modelle besser gefunden werden als bisher. Warum das so ist, bleibt bislang weitgehend unklar. Dass KI-Modelle irgendwann alle Schwachstellen automatisch finden werden, ist allerdings ausgeschlossen: Eine perfekte Erkennung ist beweisbar unmöglich.“
Bedeutung der laut Anthropic neu gefundenen Sicherheitslücken
„Es ist immer gut, wenn alte Fehler gefunden und behoben werden. In FFmpeg wurden allerdings in den letzten Jahren über 250 Schwachstellen gefunden. Eine weitere überrascht daher nicht besonders.“
„Der Fall bei OpenBSD ist interessanter: Das ist ein System mit sehr hohem Sicherheitsniveau. Deshalb ist jede gefundene Schwachstelle relevant. Die gefundene Schwäche ermöglicht es, das System zu verlangsamen, nicht jedoch, es zu übernehmen.“
„Für ein KI-Modell sind diese Funde dennoch beeindruckend. Wobei man davon ausgehen darf, dass Anthropic hier das Beste präsentiert, was sie finden konnten.“
KI-Entwicklung aus Gründen der Cybersicherheit stoppen?
„Sicherheit in IT-Systemen entsteht auch durch das Finden und Beheben von Fehlern in Software. Es wäre daher falsch, diese Entwicklung vollständig auszubremsen. Da weitere Modelle ähnliche Ergebnisse erzielen werden, wäre die Zurückhaltung eines einzelnen Unternehmens ohnehin nicht besonders hilfreich.“
„Die Vorteile von KI-Modellen, die der Wirtschaft versprochen werden, werden aus meiner Sicht zwangsläufig auch die Cyberkriminalität erreichen. Eine Regulierung von KI-Modellen mag in der Theorie helfen. In der Praxis werden leistungsfähige KI-Modelle für Angreifer aber ohnehin zugänglich sein.“
IT-Infrastruktur gegen Cyberangriffe schützen
„Es ist wichtig festzustellen, dass bestehende Schutzmaßnahmen für IT-Systeme grundsätzlich auch gegen KI-gestützte Angriffe wirken. Denn KI-Modelle, die Schwachstellen finden und ausnutzen, sind letztlich nur schnellere Angreifer. Diesen Geschwindigkeitsvorteil haben aber auch Verteidiger. Sie können Schwachstellen nun früher entdecken und schließen.“
„Mit Blick auf die Ergebnisse von Anthropic scheint es derzeit einen Vorteil für Angreifer zu geben. Ob und wie sich dieser in tatsächlicher krimineller Aktivität niederschlägt, bleibt abzuwarten. Cyberkriminelle setzen bislang überwiegend auf einfache Techniken und nutzen mangelhaft gesicherte Systeme aus. Für ein profitables kriminelles Geschäftsmodell braucht es daher bisher keine KI.“
Prof. Dr. Jörn Müller-Quade
Professor für Kryptographie und Sicherheit, Karlsruher Institut für Technologie (KIT), Karlsruhe
Fähigkeiten des neuen Modells Claude Mythos Preview
„Cyberangriffe werden durch künstliche Intelligenz (KI) in Zukunft ganz anders skalieren. Eine Softwareentwicklung, die Fehler in Kauf nimmt und nach und nach schließt, können wir uns in Zukunft nicht mehr leisten. Das gilt zumindest für kritische Infrastrukturen.“
„Angriffsmöglichkeiten, wie sie das neue Modell von Anthropic gefunden hat, sind nichts Neues. Neu ist, wie Cyberangriffe jetzt skalieren: Bisher benötigte es sehr fähige Hacker, um solche Schwachstellen zu finden. Nun erlaubt es ein KI-Modell jedem Laien, Angriffe durchzuführen. Das Problem ist also nicht neu, aber viel größer geworden. Die Befürchtungen von Anthropic sind also begründet und eine Welle von Angriffen mit KI ist zu erwarten.“
„Gerade das Finden sehr alter Sicherheitslücken ist beeindruckend. Menschen haben diese viele Jahre nicht entdecken können. KI-Systeme scheinen solche Lücken nicht nur zu finden, sondern auch sofort autonom ausnutzen zu können. Das macht das Problem angreifbarer Software viel größer als bisher.“
„Bisher wird zu wenig für gute Softwarequalität getan. Das muss sich in Zukunft ändern, wenn die Anzahl von Angriffen und deren Geschwindigkeit durch agentische KI stark gesteigert wird.“
KI-Entwicklung aus Gründen der Cybersicherheit stoppen?
„Ich glaube, ein Entwicklungsstopp ist kaum durchsetzbar. Denn dann werden solche KI-Systeme in einem Graubereich entstehen und noch schwieriger zu kontrollieren sein.“
„Dass diese KI-Systeme möglich sind, war denkbar und ist nun klar. Statt eines Entwicklungsstopps ist ein verantwortungsvoller Umgang mit ihnen der richtige Weg. Hier zeigt Anthropic einen guten Ansatz. Ich kann nur hoffen, dass andere Firmen, deren Modelle ähnliche Fähigkeiten haben, auch so verantwortungsvoll sind.“
„Lange wird man solche Systeme aber nicht ‚unter dem Deckel‘ halten können. Dann braucht es eine Regulierung der Nutzung. Aber: Es sollte in der Forschung möglich sein, mit solchen Systemen zu arbeiten, ohne gegen Gesetze verstoßen zu müssen.“
IT-Infrastruktur gegen Cyberangriffe schützen
„Das Problem der Sicherheitslücken und der schlechten Softwarequalität ist nicht neu. Durch die KI bekommt es aber eine ganz neue Größenordnung. Damit die notwendigen Sicherheitsmaßnahmen effektiv sein können, muss man wegkommen von einer Softwareentwicklung, die Sicherheitslücken hinterher schließt. Und man muss hin zu einer Softwareentwicklung, die die Qualität von Anfang an sicherstellt.“
„Es gibt jetzt schon sichere Programmiersprachen. Und es gibt gute Ideen, IT-Systeme so modular aufzubauen, dass ein falscher Klick nicht mehr den ganzen Computer oder die ganze Firma lahmlegt. Solche qualitätvolle und sichere Software wird teurer sein. Und sie kann insbesondere nicht mit ein paar Prompts von einer KI entwickelt werden.“
Rolle von KI für Cybersicherheit
„KI könnte also in zweierlei Hinsicht zu einem Problem werden. Erstens, weil sie als Angriffswerkzeug die Probleme der Cybersicherheit verstärkt. Und zweitens, weil sie als Entwicklungswerkzeug vielleicht zu neuen Sicherheitslücken im Code führt. Hier ist ein systematischer Ansatz gefragt. Dieser könnte zum Beispiel die Software und die dazugehörigen Sicherheitsgarantien gleichzeitig entwickelt und für Menschen nachvollziehbare Dokumentation produzieren. Viele Ideen existieren hier bereits, waren aber bisher zu teuer. Eine Änderung der Haftung für Softwarefehler könnte einer systematischen Softwareentwicklung zum Durchbruch verhelfen.“
wissenschaftlicher Direktor, Max-Planck-Institut für Sicherheit und Privatsphäre, Bochum
Fähigkeiten des neuen Modells Claude Mythos Preview
„Frontier-Modelle (die fortschrittlichsten und größten KI-Modelle auf dem Markt; Anm. d. Red.) spielen bereits heute eine Rolle bei Cyberangriffen und deren Abwehr: Sie können Angriffe beschleunigen – etwa bei der Analyse von Schwachstellen und deren Ausnutzung. Zugleich können sie die Verteidigung stärken – ebenfalls bei der Analyse von Code auf mögliche Schwachstellen hin. Sie helfen aber auch bei beim Schließen möglicher Schwachstellen oder bei der Analyse von Angriffen. Das nennt man ‚Incident Response‘.“
„Die Bedenken von Anthropic sind daher grundsätzlich plausibel und nachvollziehbar. Der entscheidende Punkt ist weniger, dass solche Modelle völlig neue Angriffe ermöglichen. Der Punkt ist, dass sie bestehende Fähigkeiten skalieren und beschleunigen. Außerdem machen sie sie teilweise auch weniger erfahrenen Akteuren zugänglich.“
Rolle von KI für Cybersicherheit
„In diesem Sinne erleben wir tatsächlich eine neue Phase der Cybersicherheit: Moderne Methoden zum Finden von Schwachstellen auf Basis von Fuzzing (Methode zum Softwaretest; Anm. d. Red.) können viele Arten von Angriffspunkten finden. Die Frontier-Modelle können nun aber auch vollständige Angriffspläne erstellen.“
Bedeutung der laut Anthropic neu gefundenen Sicherheitslücken
„Wenn ein Modell jahrzehntealte Schwachstellen in breit untersuchten Projekten findet, ist das aus Sicherheitssicht sehr relevant. Das deutet darauf hin, dass solche Systeme systematischer nach Fehlern suchen können als bisherige Werkzeuge. Sie finden Schwachstellen, die lange übersehen wurden.“
„Besonders wichtig ist die Kombination aus dem Finden und Validieren möglicher Ausnutzung sowie dem Schließen der Sicherheitslücken. Das erhöht das Tempo auf beiden Seiten, also sowohl bei Verteidigern als auch bei Angreifern. Es ist allerdings noch unklar, welche Art von Schwachstellen Mythos besonders gut finden kann. Außerdem ist unklar, welche Arten von Schwachstellen von dem Modell immer noch übersehen werden und eventuell von anderen Techniken wie Fuzzing besser gefunden werden können.“
KI-Entwicklung aus Gründen der Cybersicherheit stoppen?
„Einen generellen Entwicklungsstopp halte ich weder für realistisch noch für sinnvoll: Dieselben Fähigkeiten wie für den Angriff werden auch für die Verteidigung benötigt. Anthropic arbeitet mit vielen Firmen und Organisationen zusammen, um die gefundenen Schwachstellen zeitnah zu schließen.“
„Aus meiner Sicht ist eine risikobasierte Regulierung sinnvoll: also zum Beispiel eine abgestufte Freigabe und eine Selbstverpflichtung zur Meldung von relevanten Sicherheitslücken an die betroffenen Firmen. Neben Anthropic arbeiten viele weitere Firmen an ähnlichen KI-Modellen. Firmen, sowohl aus den USA als auch aus Ländern wie China, werden in den nächsten Monaten über entsprechende Modelle verfügen.“
Conflicts of interest
„Keine Interessenkonflikte bei mir.“
Prof. Dr. Jörn Müller-Quade
„Ich habe keine Interessenkonflikte.“
„Ich habe keine Interessenkonflikte.“
Sources
Literaturstellen, die vom SMC zitiert wurden
|
|
|
박한우 영남대 미디어커뮤니케이션학과・디지털융합비즈니스대학원・사이버감성연구소 교수, 영국 옥스포드인터넷연구소 전 방문연구원
*2026.4.15.
흔히 해킹은 ‘창’, 보안은 ‘방패’로 비유된다. 그러나 최근 등장한 클로드 미토스와 GPT-5.4-Cyber와 같은 첨단 LLM 및 에이전트 기술은 이 구도를 빠르게 무너뜨리고 있다. 이들은 인간 해커가 발견하기 어려운 취약점을 시간과 공간의 제약 없이 탐색하고 공격할 수 있기 때문이다. 특히 이러한 차세대 AI는 기존의 보안 패러다임 자체를 흔들 만큼의 잠재적 위험성을 내포하고 있다.
실제로 2026년 4월 11일 New York Times 오피니언 “ Iran Is Losing the Cyberwar, Not the Real War”에 따르면, 이란은 물리적 전장에서는 일정한 성과를 거두었을지 모르지만, 사이버 전에서는 기대만큼의 실질적 성과를 내지 못한 것으로 평가된다. 이는 단순히 이란의 한계를 넘어, 미국 AI 기업들이 구축한 기술적 우위가 이미 글로벌 표준으로 작동하고 있음을 보여주는 사례다.
이러한 상황은 보안 전략의 근본적 전환을 요구한다. 이제 보안은 더 이상 공격(창)을 방어(방패)로 막는 경쟁이 아니라, ‘신뢰를 어떻게 설계할 것인가’의 문제로 이동하고 있다. 즉, 사이버 보안에서 우위를 점하는 주체는 공격 능력이 뛰어난 쪽이 아니라, 보이지 않는 인프라와 규칙을 설계하고 통제하는 프로토콜을 가진 쪽이다.
다시 창과 방패의 비유로 돌아가 보면, 현재 전 세계는 누가 더 강한 창을 만들고, 더 단단한 방패를 갖출 것인가를 놓고 소모적인 경쟁을 벌이고 있다. 여기에 AI가 결합되면서 상황은 더욱 복잡해졌다. 우리는 편리함을 얻었지만, 동시에 ‘기술 봉건제(techno-feudalism)’ 혹은 ‘기술 농노제(techno-serfdom)’에 가까운 구조로 진입하고 있다. 더 중요한 변화는, AI가 이미 ‘판단’을 시작했다는 점이다.
클로드 미토스와 GPT-5.4-Cyber와 같은 에이전트형 AI의 등장은 이러한 구조를 더욱 강화하고 있다. 이제 핵심 질문은 명확하다. 그 판단을 누가 통제하는가이다.
이 문제에 대응하기 위해서는 기술적 접근만으로는 부족하다. 사회기술적(socio-technical) 설계가 필요하다. 핵심은 단순하다. 판단(Decision) / 실행(Execution) / 책임(Accountability)을 분리하는 구조를 설계해야 한다. 현재는 이 세 가지를 하나의 기업 혹은 플랫폼이 통합적으로 수행하고 있으며, 이는 구조적 위험을 내포한다.
특히 금융 및 보안 영역에서는 블록체인 기반의 기록과 검증, 그리고 탈중앙화 자율조직(DAO)을 통한 집단적 의사결정 시스템이 중요한 대안으로 제시된다. AI가 판단하고 실행하는 환경에서는, 특정 플랫폼이 모든 권한을 독점하는 구조가 아니라, 인간과 AI가 공동으로 설계한 분산형 거버넌스가 필요하다.
이러한 맥락에서 AIDAO는 하나의 해법이 될 수 있다. AIDAO는 AI의 판단과 실행 과정 위에 블록체인을 통해 기록과 검증을 수행하고, DAO를 통해 집단적 의사결정을 구현하는 구조다. 즉, 결정·책임·소유를 분산된 방식으로 오케스트레이션하는 신뢰 운영체제라 할 수 있다.
한편, 한국의 상황은 또 다른 과제를 안고 있다. 현재 AI와 클라우드 인프라에서 미국 의존도가 높으며, 데이터베이스 시스템과 하드웨어 공급망 역시 외산 의존이 심화된 상태다. 이러한 구조는 기술 주권의 취약성으로 이어질 수 있다. 만약 한국이 AI 보안 영역에서 주권을 포기하지 않으려 한다면, 소프트웨어와 하드웨어 전반에서의 해외 의존도를 점진적으로 낮추는 전략이 필요하다.
기술과 에이전트는 계속 진화하고 확장된다. 하지만 신뢰는 자동으로 만들어지지 않는다. 설계해야 한다. 결국 문제는 기술 자체가 아니다. 정책과 구조, 그리고 신뢰 설계의 문제다.
*COI: 최근 신간 『AI시대의 디지털자산과 신뢰의 운영체제』을 발간했습니다.
han.woo.park.korea@yu.ac.kr
|
|
|
한국과학기술미디어센터(SMCK) 소개
한국과학기술미디어센터는 근거 기반의 과학 정보를 언론에 제공하는, 과학계와 미디어 사이의 다리 역할을 하는 독립 비영리 조직입니다. 잘못된 정보와 가짜 뉴스가 넘쳐나는 세상에서, 제대로 된 전문가의 해설과 의견을 빠르고 다양하게 기자들에게 제시하고 이를 체계적으로 아카이빙하는 역할을 합니다.
2025년 7월 이사회를 구성하고(이사장 노정혜 전 한국연구재단 이사장) 센터장(이근영 전 한겨레 과학전문기자)을 선임했으며, 같은해 9월 개소식을 열며 활동을 시작했습니다.
*참고 기사:
SMCK 역할
SMCK는 세 분야 전문가인 과학자, 기관 커뮤니케이터(홍보팀), 기자에게 구체적인 도움을 드리고자 설립됐습니다. 각각 아래와 같습니다.
- 과학자, 연구자에게는 의견과 해설이 온전한 맥락과 함께 제공되는 안전한 발언 공간이 돼줍니다. 선의를 위해 한 논평이 기사화 과정에서 왜곡되거나 부정확하게 변질될 우려를 줄이는 완충 작용을 합니다.
- 기관 홍보 담당자에게는 기관의 성과를 기자들에게 보다 객관적이고 정교하게 알리고, SMC 글로벌 네트워크를 통해 영향력을 높일 기회를 제공합니다.
- 기자에게는 사안을 해석하는 데 도움이 될 치우침 없는 종합적인 정보를 빠르고 풍성하게 제공하고, 이를 통해 기사에서 과학과 기술을 보다 자유롭고 편리하게 활용하도록 돕습니다.
SMCK는 이를 통해, 궁극적으로 근거에 기반해 사안을 합리적으로 판단하고 이것이 정책에까지 반영되는 사회를 만드는 데 기여하고자 합니다.
해외 협력
사이언스미디어센터(SMC)는 2002년 영국에서 최초로 설립됐고 현재 호주와 뉴질랜드, 독일, 스페인, 대만, 아일랜드 등으로 확장됐습니다. 한국은 2026년 1월 7번째 센터로 합류했습니다. 글로벌 네트워크에 포함된 8개 조직은 엄격한 독립성과 신뢰성이라는 가치를 공유하고 있으며 협력을 통해 주요한 국제 과학 이슈에 공동 대응하고 있습니다.
|
|
|
* 지난 의견은 '지난 의견 다시 보기'를 선택해주세요. |
|
|
내용문의: 윤신영 미디어국장 yoonsy@smck.or.kr
비상 연락(당직 전화): 010-4440-5450
한국과학기술미디어센터(SMCK)
|
|
|
|
|