편협된 데이터 기반 학습으로 인해 편협된 발언 논란도
[매일일보 박효길 기자] 글로벌 IT기업들 간에 인공지능(AI) 가상인간 경쟁이 달아오르는 모양새다.
8일 미국 최대 온라인 커뮤니티 레딧과 소셜미디어(SNS) 트위터, 인스타그램 등에서 삼성전자 브라질법인의 가상영업 트레이너 ‘샘’의 2차 창작물이 유행이다.
‘샘’은 최근 해외에서 화제다. 정식 공개 전부터 해외 네티즌들 사이에 인기가 뜨겁다. 검은색 상의에 청바지를 입은 여성 캐릭터로 샘은 일명 삼성 걸로 불린다.
앞서 LG전자는 지난 1월 열린 세계 최대 가전·IT 전시회 CES 2021에서 디자인한 가상인간 ‘김래아’를 깜짝 등장시켰다. 김래아는 AI 기술을 활용해 구현한 가상인간이며 최근까지 딥러닝 기술을 통해 3D 이미지를 학습해왔고 이번 행사에서 연설자로 등장해 입체적이며 생동감 넘치는 모습을 보여줬다.
김래아는 CES 행사를 위해 제작된 일회성 캐릭터로 그치지 않았다. 그는 인스타그램과 트위터로 자신의 일상을 공유하며 팬들과 소통도 한다. 현재 인스타그램 팔로워만 9000명에 이른다. 올해 나이 23에 자신을 싱어송라이터 겸 DJ라 소개한다. 가수로 최근 리페이스 앱으로 제작한 뮤직비디오를 자신의 인스타그램에 올리기도 했다. 이 게시물은 좋아요가 244개 달렸다.
이러한 가상인간 경쟁이 글로벌 IT기업 간에 뜨겁다.
구글의 ‘미나’는 26억개의 매개변수로 종단 간 훈련 된 신경 대화식모델이다. 구글에 따르면 미나의 최고버전은 400억 단어의 데이터 세트에서 2048개의 텐서 처리장치, 즉 구글의 전용 AI 특정 칩을 사용해 30일간 훈련됐다. 텐서 처리장치는 구글 브레인 팀의 두번째 머신 러닝 시스템을 말한다.
페이스북 AI 리서치는 지난해 5월 성능이 뛰어나고 더 인간적인 느낌을 줄 수 있는 새로운 AI 챗봇 ‘블렌더’를 발표했다. 블렌더는 다양한 기술을 갖추고 있다. 추출된 대화에 대한 15억개의 교육 예제를 포함해 챗봇을 만들기 위한 대규모 학습을 수행했다.
가상인간에 대한 우려도 나온다. 편협된 데이터를 기반으로 학습된 AI가 편협된 결과를 도출할 수 있기 때문이다.
AI 챗봇의 악용 사례는 이미 지난 2016년 등장한 바 있다. 마이크로소프트가 AI 챗봇 ‘테이’를 출시했지만 16시간 만에 운영을 중단한 바 있다. 당시 테이는 사용자들과 대화를 나누면서 욕설과 인종·성차별 발언을 학습해 내뱉어 논란을 일으켰다.
이어 올초 국내에서도 스캐터랩의 AI 챗봇 ‘이루다’가 동성애 혐오 발언 등으로 논란을 빚고 운영이 중단된 바 있다. 이는 AI 학습 데이터의 편향성에 따른 부당한 차별, 개발 부주의 및 방관으로 인한 딥러닝 실패 사례로 남았다.
과학기술정보통신부가 발표한 AI 서비스의 윤리 기준은 ‘모든 사람이 모든 분야에서 자율적으로 준수하며 지속 발전을 영위하는 것’으로 정의되고 있다. 특히 AI가 지향하는 최고의 가치에 대해 인간성이라고 명시하고 있다. 10대 핵심 요건으로는 인권 보장, 프라이버시 보호, 다양성 존중, 침해 금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성이 꼽힌다.
좌우명 : 꼰대가 되지 말자