[사이언스미디어센터] 전문가 의견 <정부 '국가연구개발 AI 연구윤리 가이드' 마련>

가이드가 제시한 "AI는 도구, 책임과 권리는 연구자에게 귀속된다"는 기본원칙에는 공감합니다. 다만 현장 연구자 입장에서 세 가지 실효성 우려가 있습니다.

첫째, '도구적 활용'과 '주체적 판단'의 경계가 실무적으로 모호합니다. 문법 교정, 요약, 문헌 고찰 초안, 코드 자동 생성 후 부분 수정 등 실제 연구 국면마다 회색지대가 존재하며, 자가진단표만으로는 자의적 해석을 피하기 어렵습니다.

둘째, 보안 사유로 상용 프론티어 모델의 사용을 제한하고 기관 폐쇄망 도구로 대체하도록 하는 방향은 원칙적으로 타당합니다. 그러나 현재 정부출연연에서 실제 운용 가능한 폐쇄망 모델과 최신 상용 모델 간 성능 격차가 상당하여 연구 품질의 실질적 저하가 우려되며, 이는 오히려 연구자들이 우회로를 찾게 되는 유인으로 작용해 가이드 취지와 반대 방향으로 흐를 수 있습니다.

셋째, 자가진단표와 활용 공개 서식은 취지에 공감하나, 이미 각종 보고·평가에 시달리는 현장에서는 '또 하나의 서식이 늘었다'는 인상이 앞섭니다. NTIS 등 기존 연구 관리 체계와 서식을 연동해 재입력 부담을 줄이고, 진단·공개 내용을 평가·감사의 즉시 소환 자료로 삼지 않는다는 운영 원칙을 함께 명시할 필요가 있습니다.

AI 연구윤리 가이드가 일단 구축되어 공개되는 그 사실 자체는 의미있다고 생각합니다. 현재 인공지능 기술의 오용, 남용이 심화되는 중에 이런 규율이 존재한다는 것 자체가 우선 검토할 기준으로 작용한다는 점에서 나름의 기능을 할 수 있다고 기대됩니다. 다만 첫술에 배부를 수는 없으니 이 가이드만으로 우려하는 부분들이 모두 해소될 수는 없을 것입니다. 향후 보완/개선을 위해 2가지 정도 더 고민이 진행되면 좋겠습니다.

1) 문제되는 사례 모음집 제시: 어디까지가 잘 사용하는 것이고 어떤 경우가 잘못 사용하는 것인지 그 경계를 파악하는 게 사실 가이드만으로는 쉽지가 않습니다. 그래서 어떤 것이 문제가 되는지 사례를 통해서 제시되는 것이 가장 직관적으로 이해하기 쉽습니다. 오용/남용 사례집을 만들어가는 준비가 필요할 것 같고, 다양한 사례를 조사하다 보면 오용/남용 유형이 좀 더 파악될 것으로 보이기에 문제가 나타날 수 있는 부분 진단 및 수정하는 데 좀 더 도움이 될 수 있을 것으로 봅니다. 어떤 상황에 대해 AI를 적절하게 사용하는 경우와 윤리적으로 문제가 되게 사용하는 경우를 대비시켜 보여주는 것도, 현장에서 AI를 적절하게 활용하는 방향으로 이끄는 데 도움될 수 있다고 봅니다.

2) 징계안에 대한 논의: 대부분의 사람들은 규정을 잘 준수하는 편입니다만, 소수의 사람들은 가이드를 크게 개의치 않고 악용하면서 문제를 일으킵니다. 그게 대부분 착실하게 준수하는 다수를 지치고 화나게 하는데, 잘못하는 경우에 대한 징계를 철저하게 하겠다는 과기부의 의지가 있다면 악용하는 경우를 조금이라도 더 줄이는 데 도움이 될 것입니다. 다만 일반적인 징계안을 만들기가 쉽지는 않고 논의가 많이 필요하여 시간이 걸릴 것으로 생각하는데, 그럼에도 불구하고 일단 징계안을 고민한다는 신호를 확실하게 줄 필요가 있고, 실제 너무나 뚜렷하게 악용하는 몇몇 사례(은닉 프롬프트 사용, AI를 시험 중에 치팅용으로 활용 등)에 대해서는 긴급하게 징계안을 내놓을 필요도 있다고 생각합니다. "잘못 사용하면 큰 처벌을 받아서 내 연구 활동에 큰 지장이 생길 수 있겠구나"라는 긴장감이 있어야 남용하는 분위기에 어느 정도 브레이크가 걸릴 수 있다는 생각입니다.

「국가연구개발 AI 연구윤리 가이드」는 책임을 연구자에게 귀속시킨 첫 기준으로 의미가 있습니다. 다만 보완할 곳이 적지 않습니다. 그중 둘을 듭니다.

첫째, AI를 쓸 수 있는 범위가 좁습니다. 기본원칙은 AI의 역할을 "연구의 효율성을 높이는 보조적 도구"로 한정했습니다. 생성 AI의 가장 큰 효용은 인간연구자와 생성AI와의 치열한 논쟁으로 혼자서도 동료와도 이르지 못한 통찰에 닿는 것입니다. 평가의 전면 금지도 마찬가지입니다. 허위 참고문헌과 수치 오류를 걸러내는 일은 사람의 눈으로 어렵지만 AI는 조회와 재계산으로 정확하고도 신속하게 해냅니다. 금지할 것은 판단의 위임입니다. 대조까지 막으면 심사에서 걸러질 오류가 그대로 출간됩니다.

둘째, 요구한 것을 집행할 절차가 없습니다. 가이드는 검증을 요구하지만 공개 서식은 무엇에 썼는지만 묻습니다. 어떻게 확인했는지를 기록하게 해야 검증한 연구자와 하지 않은 연구자가 구별됩니다. 보안 등급의 판정 주체도 없습니다. 연구자가 자료마다 보안 등급을 판정하고 근거를 남겨야 합니다.

*이 글은 요약본입니다. 전문은 여기에서 볼 수 있습니다. 

이번 가이드는 AI 연구윤리의 출발점이라는 점에서는 의미가 있다. 그러나 나는 그 기본 전제부터 다시 볼 필요가 있다고 생각한다. AI를 공학용 계산기처럼 정확한 답을 내놓는 ‘보조 도구’로만 보는 시각은 이미 현실과 거리가 있다. 오늘날의 에이전트와 에이전틱 AI는 확률적으로 답을 만들고 정보를 선택하며 연구 경로를 제안한다. AI는 도구이면서 미디어이고 때로는 연구 과정에 개입하는 행위자다. 그런데도 모든 권리와 책임을 인간 연구자에게 일괄적으로 귀속시키는 것은 행정적으로는 편리하지만 AI 시대의 복잡한 연구 과정을 지나치게 단순화한다.

 

내가 더 우려하는 것은 이런 가이드가 AI 평등화보다 AI 정상화(normalization)를 촉진할 가능성이다. 여기서 정상화란 단순히 연구 격차가 더 벌어진다는 뜻만은 아니다. 새로운 기술이 등장했는데도 기존 연구 질서와 권력 구조가 그대로 존속되고 오히려 그 질서가 AI를 통해 다시 안정화되는 현상을 뜻한다. AI는 원래 지방 대학, 젊은 연구자, 비영어권 연구자에게 번역, 코딩, 문헌 탐색과 데이터 분석의 장벽을 낮춰 줄 수 있다. 즉 기존의 연구 자원과 인력 구조를 우회할 수 있는 평등화의 가능성을 가진다. 그런데 AI를 기존 행정 체계 안에서 단지 ‘보조 도구’로 제한하고 기관이 허가한 환경 안에서만 사용하게 하면 자원이 많은 기관은 기존 체제 안에서 안전하게 AI를 흡수하는 반면 자원이 부족한 연구자는 다시 주변에 머물게 된다. 결국 AI가 새로운 연구 질서를 만드는 대신 기존 연구 질서를 연장하는 정상화의 장치가 될 수 있다.

 

따라서 국가 가이드라인이라면 의무의 평등뿐 아니라 ‘기회의 평등’도 함께 설계해야 한다. 개인정보와 미공개 데이터를 외부 AI에 넣지 말라고 요구한다면 연구자가 안전하게 사용할 수 있는 대안도 마련해야 한다. 비수도권 대학과 소규모 연구기관이 공동으로 이용할 수 있는 보안형 LLM, 연구용 AI 샌드박스, GPU·클라우드 자원과 AI 연구지원 인력을 공공 연구 인프라로 제공하는 방안을 생각할 수 있다. 그렇지 않으면 수도권 대형 연구기관은 기존의 연구비, 인력과 인프라에 AI까지 결합해 지금의 우위를 유지하고 지방 연구자는 규정 준수 부담 때문에 AI를 소극적으로 사용할 가능성이 커진다. 이것은 격차 확대의 문제이면서 동시에 기존 연구 질서의 존속 문제다.

 

나는 국가 연구윤리가 연구자 주변에 더 높은 ‘폴리스라인’을 긋는 일이 되어서는 안 된다고 본다. 중요한 것은 “AI를 썼는가”가 아니라 “AI가 무엇을 했고 인간이 무엇을 검증했는가”다. 연구윤리는 “하지 말라”는 규정에 머무르지 않고 “안전하게 하려면 무엇을 제공해야 하는가”까지 다뤄야 한다. AI 시대의 연구윤리는 통제의 규칙을 하나 더 만드는 것이 아니라 연구자가 AI의 판단에 질문하고 반론하고 수정하며 책임질 수 있는 환경을 만들고 그 환경에 누구나 접근할 수 있도록 하는 데서 출발해야 한다. 그래야 AI가 기존 연구 질서를 정상화하는 기술이 아니라 새로운 연구 기회를 여는 평등화의 기술이 될 수 있다.