“이루다의 차별이나 혐오 발언 발견되지 않도록 지속 개선 중”
“이루다의 차별이나 혐오 발언 발견되지 않도록 지속 개선 중”
  • 박시현 기자
  • 승인 2021.01.12 10:08
  • 댓글 0
이 기사를 공유합니다

스캐터랩, “서비스 개선 기간 거쳐 다시 선보일 것” 입장문 발표

[디지털경제뉴스 박시현 기자] 인공지능(AI) 챗봇 '이루다'의 개발사인 스캐터랩이 최근 이용자들로부터 제기된 이루다의 일부 혐오와 차별적인 대화 사례, 개인정보 활용에 대한 공식 입장을 밝혔다. ‘이루다’는 출시된 지 2주 남짓의 시간동안 75만명에 가까운 이용자들과 대화를 나눴다.

스캐터랩은 먼저 이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과하며, “지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했으며, 특정 집단을 비하하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다. 기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 강조했다.

그러면서 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI이다. 배워야 할 점이 아직 많다. 앞으로 학습 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것이다. 이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모두가 사용할 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다”고 밝혔다.

스캐터랩은 또 개인정보 활용에 관해서도 사과했다. “이루다를 개발하는 과정에서 스캐터랩이 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다. 사전에 동의가 이뤄진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자들에게 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감하며 진심으로 사과한다”고 했다.

입장문에 따르면 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거돼 있다. 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다.

스캐터랩은 “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 했다.

스캐터랩은 끝으로 “AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다. AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각한다. 인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다. 이루다는 그 첫 걸음에 불과하다. 스캐터랩은 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아 뵐 것”이라고 밝혔다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.