(엠바고 없음) 급속한 인공지능 발전 시기, 되짚어볼 부분들 전문가 의견 26-100 정부, '인공지능 윤리원칙' 제정
|
|
|
- 배경
- 24일 오후, 정부가 제12회 과학기술관계장관회의 심의 의결을 거쳐 '대한민국 인공지능(AI) 윤리원칙'을 확정했다고 밝혔습니다.
- AI 윤리원칙은 AI의 건전한 활용과 사회의 지속적인 발전을 위해, AI를 개발·제공하고 이용하는 다양한 주체와 사회 전체가 함께 지켜나가야 할 공통의 가치와 원칙을 우리 사회의 맥락에서 밝힌 것입니다.
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(‘인공지능기본법’) 제27조에 따라 제정됐으며, 사회 전 영역에 적용되어 각 분야 윤리기준과 지침의 토대가 됩니다.
- 모든 주체가 참고할 공통의 기준으로서, 2020년 「인공지능(AI) 윤리기준」을 계승하되 기술 발전과 「인공지능기본법」 시행 등 달라진 여건을 반영한 새 윤리원칙을 마련했다고 정부는 밝혔습니다.
- 윤리원칙은 3대 가치와 7대 원칙으로 구성됩니다.
- 3대 가치: 인간의 존엄성 / 사회의 공공선 / 인류의 지속가능성
- 7대 원칙: 인간중심성 / 프라이버시 보호 / 공정성·포용성 / 책임성 / 안전성 / 신뢰성 / 투명성
- 각 원칙별로 구체적인 설명과 공급자, 이용자, 정부·사회 등 주체별 역할을 제시해, 실제 AI 개발·제공·이용 과정에서 참고할 수 있도록 했다고 정부는 밝혔습니다.
- 윤리원칙은 각 주체가 지켜야 할 원칙을 담고 있으며, 특히 이용자도 책임 있는 AI 활용의 주체로서 윤리와 역할을 지닙니다. 아울러 AI 자원을 많이 지닌 국가와 기업의 책임을 강조하고, 혜택이 특정 국가나 지역, 집단에 치우치지 말아야 한다는 메시지도 담았습니다.
- 정부는 현장에서 잘 실천될 수 있도록 대상별 해설서 및 자율점검표, 윤리교육 교재 등을 마련하고 국제사회에도 공유한다고 밝혔습니다.
- 전문가 의견
- 윤리원칙 제정의 의의
- 시점과 의도, 방향, 과정에 대한 평가
- 원칙 속 주제 및 논점의 적절성
- 연구자 또는 응용 입장에서 예상되는 현장의 변화
- 충분한 효과를 발휘하기 위해 향후 보완되면 좋을 점 등
- 참여 전문가
- 홍성욱 서울대 과학학과 교수
- 김남국 울산의대・서울아산병원 융합의학과 교수
|
|
|
기자 여러분은 아래 주의사항을 참고해 활용해주시길 부탁드립니다.
- 엠바고는 없습니다. 기획 등에 자유롭게 활용 가능합니다.
- 되도록 원문을 그대로 활용해주시길 부탁드립니다.
- SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
- "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."
|
|
|
홍성욱 서울대 과학학과 교수
*2026.8.25.
우리 상황과 맥락을 고려한 윤리원칙을 만들려고 한 점은 높게 살 수 있으나, 인공지능(AI)과 AI 시스템을 너무 좁게 정의해서, AI를 발전시키는 데 필요한 GPU 같은 칩, 이 칩에 특화된 반도체, 이를 구동하기 위해 필요한 데이터센터, 데이터 센터에 필요한 전력과 물의 사용, AI 훈련에 필요한 라벨링 저임금 노동 등에 대한 책임의 문제를 다루고 있지 않다. 이는 지속가능성을 위해 조율해야 할 사회적 문제인데, 이에 대해서는 언급이 없다. 그 이유는 AI나 AI 시스템을 알고리즘과 모델 정도로 좁게 정의한 데에서 비롯한다. 예를 들어 인류의 지속가능성을 설명한 아래 조문을 보면 AI 영향은 오랜 시간에 걸쳐서 나타난다고 했는데, 지금 보여주는 변화를 보면 AI가 환경에 미치는 영향은 급격할 수 있다. 추후 개정시에는 이런 점을 포함해야, 글로벌한 호응을 얻을 수 있는 윤리원칙이 될 수 있을 것이다.
- "AI의 영향은 환경뿐만 아니라 사회에도 오랜 시간에 걸쳐 나타난다. 인류는 이러한 장기적 변화를 지속적으로 살피고, 그 변화에 책임 있게 대응해야 한다."
comenius@snu.ac.kr |
|
|
김남국 울산의대・서울아산병원 융합의학과 교수
*2026.8.25.
미·중이 데이터, 컴퓨팅 자원과 모델 성능을 놓고 격차를 벌리는 국면과 이에 따라 너무 빨리 기술자체가 변화하고 있는 상황에서, 이번 윤리원칙은 방향은 틀리지 않으나, 시의성에 문제가 있다고 생각한다. 인간중심성·공정성·투명성은 누구도 반박할 수 없는 당위이지만, 기존의 OECD·유네스코 권고와 차별점을 찾기 어렵다. 더 큰 문제는 우리가 전 세계에서 앞장서서 할 만큼 우리만의 의견이 중요한 상황인지에 대한 의구심이 있다. 특히, 우리만의 전략적 선택이 담기지 않았다는 점에서 AI 개발 및 활용에 방해가 되진 않을지 걱정이 된다.
두 번째의 문제는 실기(失機)의 위험이다. 자율규범이라지만 해설서와 자율점검표가 쌓이면 현장에서는 사실상 준칙으로 작동한다. 원칙 간 충돌의 우선순위를 정하지 않은 채 판단을 현장에 넘긴 구조에서, 산업은 가장 보수적인 해석을 택해 도입을 미루게 된다. 이런 혁명적인 상황에서는 정부 주도로 유연한 사회적 합의를 위한 회의체를 제안하는 것이 더 맞지 않을까 한다.
우리나라는 포지티브 규제에 익숙하지만, 지금 상황에서는 AI 분야에서는 네가티브 규제를 과감하게 도입하고, 다양한 예외에 대한 실증 특례와 면책 범위를 넓혀 빠르게 시도하고 사례를 축적할 필요가 있다.
namkugkim@gmail.com |
|
|
한국과학기술미디어센터(SMCK) 소개
한국과학기술미디어센터는 근거 기반의 과학 정보를 언론에 제공하는, 과학계와 미디어 사이의 다리 역할을 하는 독립 비영리 조직입니다. 잘못된 정보와 가짜 뉴스가 넘쳐나는 세상에서, 제대로 된 전문가의 해설과 의견을 빠르고 다양하게 기자들에게 제시하고 이를 체계적으로 아카이빙하는 역할을 합니다.
2025년 7월 이사회를 구성하고(이사장 노정혜 전 한국연구재단 이사장) 센터장(이근영 전 한겨레 과학전문기자)을 선임했으며, 같은해 9월 개소식을 열며 활동을 시작했습니다.
*참고 기사:
SMCK 역할
SMCK는 세 분야 전문가인 과학자, 기관 커뮤니케이터(홍보팀), 기자에게 구체적인 도움을 드리고자 설립됐습니다. 각각 아래와 같습니다.
- 과학자, 연구자에게는 의견과 해설이 온전한 맥락과 함께 제공되는 안전한 발언 공간이 돼줍니다. 선의를 위해 한 논평이 기사화 과정에서 왜곡되거나 부정확하게 변질될 우려를 줄이는 완충 작용을 합니다.
- 기관 홍보 담당자에게는 기관의 성과를 기자들에게 보다 객관적이고 정교하게 알리고, SMC 글로벌 네트워크를 통해 영향력을 높일 기회를 제공합니다.
- 기자에게는 사안을 해석하는 데 도움이 될 치우침 없는 종합적인 정보를 빠르고 풍성하게 제공하고, 이를 통해 기사에서 과학과 기술을 보다 자유롭고 편리하게 활용하도록 돕습니다.
SMCK는 이를 통해, 궁극적으로 근거에 기반해 사안을 합리적으로 판단하고 이것이 정책에까지 반영되는 사회를 만드는 데 기여하고자 합니다.
해외 협력
사이언스미디어센터(SMC)는 2002년 영국에서 최초로 설립됐고 현재 호주와 뉴질랜드, 독일, 스페인, 대만, 아일랜드 등으로 확장됐습니다. 한국은 2025년 12월, 7번째 센터로 합류했습니다. 글로벌 네트워크에 포함된 8개 조직은 엄격한 독립성과 신뢰성이라는 가치를 공유하고 있으며 협력을 통해 주요한 국제 과학 이슈에 공동 대응하고 있습니다.
|
|
|
* 지난 의견은 '지난 의견 다시 보기'를 선택해주세요. |
|
|
내용문의: 윤신영 미디어국장 yoonsy@smck.or.kr
비상 연락(당직 전화): 010-4440-5450
한국과학기술미디어센터(SMCK)
|
|
|
|
|