국내 연구진이 인공지능(AI)을 활용해 온라인상의 자살 유해 콘텐츠를 실시간으로 찾아내고 대응할 수 있는 기술을 개발했다. ‘자살률 OECD 1위’라는 오명을 벗기 위해 디지털 환경에서의 선제적 방역 체계가 마련될 것으로 기대된다.
경희대병원 정신건강의학과 백종우 교수팀(성균관대 박진영 교수, 한국자살예방협회 박성준 박사, 뉴욕대 조경현 교수 공동연구)은 온라인 자살 유해 콘텐츠를 조기 탐지하고 대응하는 AI 기술 개발에 성공했다고 27일 밝혔다.
그동안 자살 유해 정보 차단은 주로 인력 중심의 모니터링에 의존해 왔다. 그러나 쏟아지는 온라인 게시물을 24시간 감시하기에는 역부족이었고, 모니터링 요원들이 유해 콘텐츠에 반복 노출되면서 2차 트라우마를 겪는 등 관리의 한계가 명확했다.
연구팀은 이 같은 문제를 해결하기 위해 SNS와 온라인 커뮤니티 게시물 4만 3244건을 정밀 분석했다. 특히 정신건강의학과 전문의와 심리학자가 직접 검토한 ‘벤치마크 데이터’를 구축해 AI의 판독 정확도를 높였다.
이번에 개발된 AI 시스템은 게시물의 위험도에 따라 △불법 △유해 △잠재적 유해 △무해 △비자살 등 5단계로 자동 분류한다.
가장 큰 특징은 단순 키워드 검색을 넘어선 ‘맥락 이해’ 능력이다. 검열을 피하기 위해 사용되는 각종 은어, 비유, 약어 등 우회 표현까지 정밀하게 탐지해낸다. 실제 성능 평가 결과 GPT-4 모델을 적용했을 때 불법 콘텐츠 탐지율 66.46%, 유해 콘텐츠 탐지율 77.09%라는 높은 정확도를 기록했다. 이는 숙련되지 않은 인력이 육안으로 확인하는 것보다 훨씬 높은 효율성이다.
연구를 주도한 백종우 교수는 "이번 기술은 안전한 디지털 환경을 조성하고, 고위험군을 조기에 발견하는 데 핵심적인 역할을 할 것"이라며 "비용 효과적인 정책 대응을 통해 국가 자살 예방 인프라를 공고히 하는 기반이 되길 기대한다"고 전했다.
한편, 이번 연구 성과는 의료 정보학 분야의 세계적 권위지인 『지미르 메디컬 인포매틱스(JMIR Medical Informatics)』 2월호에 게재되며 기술적 완성도를 인정받았다.
.gif)
