김동환

스캐터랩이 20살 여성 컨셉으로 출시한 인공지능 챗봇 이루다가 흑인 차별, 페미니즘 혐오 등 각종 문제성 대답을 내놓고 있어 화제다.

이 챗봇은 '택스트앳'이라는 카톡 기반 감정분석 서비스의 대화 데이터를 기반으로 학습한 인공지능으로 추정된다. 나눈 얘기를 보여주면 상대방이 나를 어떻게 생각하는지 알려주겠다는 게 이 서비스의 킬러콘텐츠인데, 이런 원리 때문에 택스트앳을 이용하려면 당연히 자신의 카톡 대화 텍스트를 입력해야 한다.

택스트앳을 써본 사람들이란 아마 IT기술에 친숙한 2030정도로 범주화 할수 있을 것이다. 지금 이루다를 통해 나오는 대답들이 그 사람들의 보편적인 정서와 깊은 관련이 있다는 얘기다. 물론 메신저 특성상 1:1 대화창 데이터가 대부분일테니 아주 솔직한 개인적 의견들의 모음이라고 봐야 할 것이다.

한국 사회에는 아직 인공지능에 대한 보편적 이해가 퍼지지 않은 상태다. 사람들이 지금은 데이터와 이루다의 인과관계를 바로 떠올리지 못하지만, 시간이 약간만 지나면 곧 해석하게 될 것이다. '아. 챗봇에 이런 얘기가 나오다니 이렇게 생각하는 사람이 다수인가 보군' 이라고 말이다.

재미있는 지점은 이런 방식으로 혐오정서가 확인되는 경우에는 사회적 제제가 상당히 어렵다는 것이다. 페이스북에 어떤 사람이 계정 파서 혐오발언할때는 그 사람을 조리돌림하거나 신고해서 계정을 날려버리면 되는데, 익명화된 생각이 AI 에이전트를 통해 표출될때는 때릴 수 있는 타격점이 없다. 물론 kibun이 나쁘다는 이유를 들어 챗봇을 만드는 회사를 날려버릴 수 있겠지만 그것도 이상하다. 사람들의 진실된 생각들을 구조화했다고 해서 회사를 날린다?

당장 할수있는 방식은 이 회사가 데이터셋을 수집하는 과정에서 편향성이 있는 정보들을 집중 반영하지 않는지 들여다보는 정도일 것이다. 다만 이루다의 경우 지금까지 공개된 정보들로는 그런 문제가 있었을 가능성은 낮아 보인다. 이 문제가 어떻게 흘러가게 될지 흥미롭다.