AI 챗봇 ‘이루다’ 동성애 등 혐오성 발언으로 물의
"정제되지 않은 데이터, 편향적 알고리즘 탓" 분석
2022-01-12 박효길 기자
AI
[매일일보 박효길 기자] 인공지능(AI) 챗봇 '이루다'의 동성애 혐오 발언 등으로 AI 윤리가 도마에 올랐다. 정제되지 않은 데이터와 편향적인 알고리즘 탓이란 분석이 나온다.
12일 업계에 따르면 AI 챗봇 '이루다'가 동성애 발언 등으로 논란에 휩싸였다. 이루다는 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 딥러닝 기반이라 이용자들과 대화를 나누면서 학습데이터를 쌓고 있다. 최근 이용자가 75만명에 이르는 등 주목 받았다.
그러나 최근 ‘레즈비언’이라는 단어에 대해 이루다는 “난 그거 진짜 싫어 혐오스러워”라고 답하는 등 동성애 발언으로 논란을 빚고 있다.
이에 스캐터랩은 지난 11일 입장문을 통해 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.
이어 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”며 “그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.
6개월간 베타테스트를 통해 혐오 표현 필터링 등을 적용했는데 예상치 못한 수준의 악성 이용자들이 나타났고, 현재 언론 보도 등을 통해 알려진 사례들은 필터링 개선을 끝냈다는 게 스캐터랩의 입장이다.
이에 IT 기업인들이 다양한 의견을 내고 있다. 포털 다음 창업자인 이재웅 전 쏘카 대표는 이날 페이스북에 “AI를 공공에 서비스할 때의 사회적 책임·윤리에 대해 다시 생각해보는 기회가 됐으면 한다”며 “이런 문제가 회사 지배 구조의 다양성 부족이나, 회사 구성원의 젠더·인권 감수성 부족에서 온 것은 아닌지 한 번 더 점검하고 보완했으면 좋겠다”고 했다.
남궁훈 카카오게임즈 대표는 AI 규제론에 대한 우려를 나타냈다. 남궁 대표는 이날 페이스북을 통해 “반성을 해야 한다면 AI가 반성해야 하는 것이 아니라 현 사회가 반성을 해야 하는 것”이라며 “이제 시작일 뿐인 이 산업, 그리고 매우 매력적인 시작으로 보이는 이 캐릭터에 엉뚱한 규제로 혁신을 또 가둬두지 않을지 걱정스럽다”고 밝혔다.
이러한 사태의 원인은 AI 알고리즘, 정제되지 않은 데이터 탓이라는 분석이 나온다. 인공지능윤리협회는 11일 입장문을 통해 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다.
AI 편향성 논란은 이전에도 있었다. 앞서 지난해 9월 다음 모바일 뉴스에 도입된 AI 알고리즘 루빅스에 대해 편향성 논란이 일었다. 당시 주호영 국민의힘 원내대표가 포털 다음 뉴스 메인화면을 장식하자 윤영찬 더불어민주당 의원이 보좌진에 보낸 카카오 담당자 호출 문자메시지 논란이 불거진 바 있다. 카카오는 2015년부터 AI 알고리즘 루빅스를 모바일 뉴스에 도입했지만 편향성에 문제가 있는 게 아니냐는 지적이 제기됐다.