인공지능(AI)이 인간의 감정을 학습하는 과정에서 오히려 인간다운 복합적 감정 표현 능력을 잃고 있다는 연구 결과가 나왔다. 프랑스 라이언 리서치 연구소(RRI)의 김상백 박사는 최근 인간과 AI의 감정 표현 방식을 비교 분석한 논문 ‘관계 서사 분석을 통한 조절된 표현 신호로서의 감정-서사 불일치’를 발표했다고 20일 밝혔다.

이번 연구는 국제 학술지 ‘PLOS ONE’에도 게재됐다. 연구의 핵심은 인간의 감정 표현이 단순히 감정 크기에 비례하지 않으며, 인간 피드백 기반 강화학습(RLHF)으로 학습된 대형언어모델(LLM)은 오히려 인간보다 훨씬 제한적이고 획일적인 감정 표현 패턴을 보인다는 점이다. 즉 인간은 상황에 따라 감정을 절제하거나 과장하고, 때로는 감정이 너무 커 표현이 무너지는 등 매우 입체적인 감정 구조를 보이지만, 현재 AI는 인간의 선호에 맞춘 ‘무난하고 매끄러운 답변’ 중심으로 학습되면서 감정 표현 다양성을 잃고 있다는 분석이다.

김 박사는 2012년부터 2023년까지 온라인 커뮤니티에서 수집한 익명 영어 관계 서사 데이터 35만1734건을 분석했다. 연구팀은 각 사례를 ▲문장 구조와 표현 정교함을 의미하는 ‘서사 구조(N)’ ▲언어적으로 추론된 ‘감정 강도(A)’ 두 축으로 분석했으며, 두 값의 차이를 ‘감정-서사 불일치(D=N-A)’로 정의했다. 분석 결과 인간 언어에서는 감정 강도와 문장 구조 사이 상관관계가 거의 0(r=0.009)에 가까운 것으로 나타났다. 이는 감정이 강하다고 반드시 표현이 격해지거나 정교해지는 것은 아니라는 의미다.

연구는 인간의 감정 표현을 크게 네 가지 유형으로 분류했다. 가장 일반적인 형태는 감정과 서사가 균형을 이루는 ‘결합 표현’으로 전체의 91.3%를 차지했다. 반면 강한 감정을 짧고 절제된 언어로 표현하는 ‘전략적 절제’는 5.75%, 감정이 너무 커 표현 구조 자체가 무너지는 ‘붕괴’는 2.29%, 정교한 서사 안에 약한 감정을 숨기는 ‘전략적 과장’은 0.63%로 나타났다. 김 박사는 “가장 힘든 사람이 가장 크게 우는 것은 아니다”라며 “그동안 감정 데이터의 잡음으로 취급됐던 불일치 영역이 실제로는 인간이 취약성 노출을 스스로 조절하는 중요한 신호일 수 있다”고 설명했다. 같은 방식으로 대형언어모델(LLM)을 분석한 결과, AI의 감정 표현 영역은 인간보다 약 1.7배 좁은 것으로 확인됐다.

특히 인간이 보이는 극단적 절제와 과장, 감정이 폭발해 말문이 막히는 형태의 ‘붕괴 표현’은 AI에서는 거의 발견되지 않았다. 연구진은 이것이 최근 AI 업계에서 논란이 되는 ‘AI 아첨 현상(sycophancy)’과도 연결된다고 분석했다. AI가 사용자 기분을 맞추는 방향으로 지나치게 최적화되면서, 오히려 인간다운 감정 표현의 다양성과 복합성이 사라지고 있다는 것이다. 김 박사는 “이번 연구는 AI 정렬(alignment) 기술이 표현의 기하학 자체를 축소시킨다는 점을 보여준 첫 대규모 실증 사례”라고 설명했다.

또 최근 유럽연합(EU)의 AI 규제법(AI Act) 논의와 관련해 감정 인식 AI 규제에 과학적·정량적 근거를 제공할 수 있다는 점에서도 의미가 크다고 강조했다. 그는 “현재 AI는 매우 매끄럽고 일관된 감정 언어를 생성할 수 있지만, 그러한 일관성이 인간 표현의 다양성을 제대로 보존하는지는 앞으로 해결해야 할 중요한 과제”라고 덧붙였다.

최연철 과학 전문기자