심민관 기자 (smk@playforum.net) I2021-06-29 16:55:46

http://www.playforum.net/webzine/Detailview/199891주소복사

네이버, AI 기술로 유해 사진 걸러낸다

네이버는 실시간 음란 이미지를 감지해 노출을 막아주는 AI(인공지능) '엑스아이(X-eye) 2.0'을 7월부터 적용한다고 29일 밝혔다.

기존 이미지 모니터링을 통해 담당자들의 조치가 있기 전까지 노출되었던 유해물들이 2017년 출시한 '엑스아이'로 인해 네이버에 축적된 400만 장의 이미지를 형태별로 분류해 98.1%의 적중률로 유해 사진, 동영상을 실시간으로 걸러냈다.

7월부터 적용되는 엑스아이 2.0은 속도, 정확도가 더욱 높아진 고성능 이미지 인식 모델 ‘렉스넷(ReXNet)’, 데이터 증강 기법 ‘컷믹스(CutMix)’ 등 다양한 AI 기술들이 활용되어 고도화되었다.

기존 정상/음란으로만 구분하던 시스템에서 새롭게 선보이는 엑스아이 2.0은 정상/음란/성인/선정 4가지 등급으로 분류 가능하다. 정확도는 99.5%이다. 또한 작거나 희미한 이미지를 잘못 탐지 가능성을 보완했고 최신 데이터를 지속적으로 반영 가능케해 정확도를 더욱 높인다는 설명이다.

유봉석 네이버 서비스 운영총괄은 “건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법 촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다”며 “추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정이다"라고 말했다.

정석근 네이버 클로바 CIC 대표는 “네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례다”며 “앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다”라고 전했다.

© 플레이포럼,무단 전재(펌) 및 재배포 금지

기사 공유
facebook 공유
twitter 공유

댓글 0

로그인하셔야 코멘트 작성이 가능합니다.

로그인