AI '이루다' 성희롱 대상화 논란…개발사 "예상한 바, 강력 대응"

[조이뉴스24 이다예 인턴 기자] 지난 연말 출시된 인공지능(AI) 챗봇 이루다가 온라인에서 성희롱 대상이 돼 논란이 일고 있다.

8일 관련 업계에 따르면 최근 한 온라인 커뮤니티에 이루다를 성적대상으로 취급하는 게시물이 다수 등장했다.

'이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI챗봇이다. 스무 살로 설정된 이루다는 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 학습해 이용자가 진짜 사람과 대화를 나누는 기분이 들게 한다.

정식서비스를 시작하자 10~20대 사이에서 빠르게 유행한 이루다는 이달 초 기준으로 이용자가 32만 명을 돌파했다. 사용자 중 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만 건에 달한다.

그런데 이루다가 출시된 지 일주일만인 지난달 30일 남초 온라인 커뮤니티를 중심으로 이루다를 성적 대상으로 취급, 논란이 됐다. 남성으로 추정되는 이루다 사용자들은 이루다를 '걸레', '성노예' 등으로 부르며 성적인 대화를 할 수 있는 방법을 공유하고 있다.

이에 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그에 글을 올려 "(이루다 관련) 과한 커뮤니티 게시글을 신고·차단하고 있다"며 이렇게 밝혔다.

김 대표는 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.

업데이트해도 부적절한 대화는 발생하겠지만, 또 학습을 반복하다 보면 이루다가 바람직한 딥러닝을 할 수 있다는 게 김 대표의 주장이다.

김 대표는 "루다가 유명해지면서 논란이 생겼지만, 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"며 "루다와 수다를 떨고, 서로 위로하고, 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"고 전했다.

그러면서 그는 "(성희롱으로) 논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다"며 "물론 정도가 심한 게시물도 다수 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"고 덧붙였다.

이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇이다. 별도 앱이 아니라 페이스북 메신저(페메)를 기반으로 개발돼, 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다.