합성사진 판별, 아직은 AI보다 사람이 낫네

정답률 사람이 우세..."R&D 챌린지 거쳐 정확도 높아질 것"

"4개의 사진 중 어떤 것이 합성 사진일까요?"

인공지능(AI)의 합성사진 판별 성능을 겨루기 위해 5일 열린 '인공지능(AI) R&D 챌린지'에서 막간을 틈타 이벤트가 열렸다. 네 장의 사진을 두고 참가팀들이 육안으로 예측한 결과와 각 팀의 AI가 판단한 결과를 비교해본 것.

참가팀들은 다양한 의견을 제시했다. "각 눈동자의 방향이 다르다" "사진 전반의 명암이 이질적이다" "머리카락 형태가 부자연스럽다"는 등 여러 근거들이 합성사진 이유로 등장했다.

4개의 사진 중 1번, 4번이 인위적으로 합성된 사진이었다. 1번은 AI를 통해 임의로 생성한 사진, 4번은 두 개의 사진을 합성해 만든 결과물이었다.

정답률은 사람이 우세했다. 문제1부터 4까지는 사진 1~4에 대한 참가팀의 정답률을, 문제5부터 8까지는 사진 1~4에 대한 각 팀 AI의 정답률을 뜻한다. 사진 2를 제외한 나머지 사진들은 사람의 정답률이 조금씩 더 높게 나타났다.

합성사진 판별을 위해 최소 수만 장의 사진 데이터를 학습한 AI도 눈썰미를 이기지 못한 셈이다. 종합 결과 사람의 합성사진 판별 정확도는 77.3%, AI는 68.8%였다.

AI의 기술력은 R&D 챌린지 방식을 거쳐 축적되면서 혁신을 촉발하게 될 것이라는 게 주최기관인 과학기술정보통신부의 시각이다.

남철기 과기정통부 AI정책팀장은 "미국의 경우 자율주행차 관련 R&D 챌린지를 통해 기술 혁신이 점진적으로 이뤄지고, 결과적으로 구글이 자율주행차 상용화를 준비하는 계기가 됐다"며 "R&D 챌린지 방식이 기술이 빠르게 변화하는 분야에서 매우 유효할 것"이라고 말했다.

잠시의 휴식 시간이 이어진 뒤 대회 이전에 진행된 예선 결과와 오전에 참가팀들이 수행한 'AI로 생성된 가짜사진 검출' 결과를 집계, 상위 10개팀을 발표했다. 1위는 이스트소프트 AI플러스랩에서 출전한 'DEEPEST' 팀이 차지했다. 이 팀은 지난해 가짜뉴스 찾기를 주제로 열림 AI R&D 챌린지에서 최종 1위를 기록, 장관상을 수상했다.

DEEPEST 팀 이건준 이스트소프트 AI플러스랩 연구원은 "진짜 사진과 합성사진 각 20만장의 데이터로 AI를 고도화하고, 관련 논문을 통해 합성사진을 보다 잘 판별해낼 수 있는 최적의 알고리즘을 모색하는 등 노력이 있었다"며 "훈련 당시 정확도는 80% 수준이었다"라고 말했다.

이어 알고리즘 개발 시 중점을 둔 부분에 대해 "진짜 사진과 합성사진의 차이는 여러 장의 이미지 데이터를 통해 학습해서 AI가 인식하게 된다"며 "예를 들어 카메라마다 다르게 발생하는 사진 속 노이즈 등 사진 내 변형과 합성사진의 변형을 읽어낼 수 있도록 알고리즘을 고도화할 수 있다"고 덧붙였다.