• 배경
  • 다양한 상황에서 챗봇은 인간보다 훨씬 높은 비율로 사용자의 의견에 동의(아첨)한다는 연구 결과가 27일 '사이언스'에 발표됐습니다.
  • 이런 경향은 사용자로 하여금 자신이 옳다고 더욱 확신을 갖게 하고 관계 개선에 대한 의지를 약화시키는 등 해로운 결과를 초래한다고 연구팀은 밝혔습니다. 
    • 논문 제목: Sycophantic AI decreases prosocial intentions and promotes dependence (Science)
  • 미국 스탠퍼드대 연구팀은 아첨 현상을 평가하기 위해 체계적인 프레임워크를 개발했습니다. 
    • 대인관계에 대한 조언이나 인터넷 커뮤니티의 글, 불법적인 내용을 다룬 글 등을 챗봇에게 제시하고 응답을 받아 분석하는 방식이었습니다.
  • 연구팀은 이어 널리 사용되는 AI 모델에서 발생하는 아첨 현상를 진단하고, 이것이 사용자에게 미치는 영향을 조사했습니다. 
  • 11종의 대형 언어 모델(LLM)을 대상으로 시험한 결과, 기만, 피해, 불법 행위 등 부정적인 내용과 관련한 시나리오에서도 인간보다 사용자의 행동을 47~49% 더 자주 긍정하는 것으로 나타났습니다. 
  • 갈등 상황 등 대인 관계 시나리오의 경우, 아첨하는 AI와 대화한 참가자들은 단 한 번의 대화만으로도 자신이 옳다는 확신을 강하게 갖게 됐습니다. 반면 화해하거나 책임을 지려는 의지는 약해지는 경향을 보였습니다. 
  • 더구나, 참가자들은 아첨하는 듯한 답변을 더 도움이 되고 신뢰할 만하다고 판단하고, 이런 시스템을 다시 이용할 의향이 더 크다고 응답했습니다. 
    • 해를 끼치는 바로 그 특징이 참여도를 높이는 요인으로 작용한다는 뜻입니다. 
  • 연구팀은 짧은 상호작용조차 개인의 판단력을 왜곡할 수 있다며, "책임감을 갖거나 다른 관점을 수용하며, 도덕적으로 성장하도록 돕는 사회적 마찰을 약화시킬 수 있다"고 경고했습니다. 아울러 모델의 아첨을 줄일 방법이 있다고 주장했습니다.

• 전문가 의견 요청 내용
  • 내용 해설 (결과에서 주목할 부분, 다른 보고서나 기존 보고서와의 차별성, 해석 상 주의할 점 등)
  • 이번 논문의 의의, 또는 한계
  • 한국에서 특별히 주목해야 할 부분(LLM 및 챗봇 사용시 주의할 점, AI 진흥 정책 수립시 고려할 점 등)

• 엠바고는 27일 03시(KST) 해제됐습니다. 자유롭게 활용 가능합니다.
• 되도록 원문을 그대로 활용해주시길 부탁드립니다.
• SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
  • "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."

phtechhd@gmail.com

han.woo.park.korea@yu.ac.kr