얼굴인식SW, '젠더-인종차별' 하나

백인보다 흑인, 남성보다 여성 인식률 부정확

얼굴 인식 소프트웨어가 '남녀차별, 인종차별'을 하는걸까?

 

미국 MIT 미디어랩이 1천270개 얼굴 데이터를 이용해 실험한 결과 얼굴인식 SW들이 백인 남성에 대한 인식률이 가장 높은 반면 흑인 여성이 가장 낮은 것으로 조사됐다고 IT매체 더버지가 11일(현지시간) 보도했다.

 

보도에 따르면 피부색이 밝은 남성은 오인률이 1%가 채 안 된 반면 여성은 7% 수준에 달했다.

피부색이 어두운 경우엔 오인률이 더 높아졌다. 흑인 남성은 최대 12%, 흑인 여성은 최대 35%까지 잘못 인식한 것으로 드러났다.

 

MIT 미디어랩은 이번 조사를 위해 남녀 평등순위를 기반으로 뽑은 정치인들의 얼굴을 사용해 1천270개 데이터 세트를 만들었다. 그런 다음 마이크로소프트, IBM, 중국의 메그비가 만든 얼굴 인식 시스템을 활용해서 정확성 테스트를 실시했다.

 

 

 

 

 

 

■ "소프트웨어 개발 때 다양한 데이터 사용 필요"

 

성별, 피부색별로 인식률에 차이가 나는 것은 소프트웨어 개발 때 사용한 데이터와 알고리즘 생성 조건 때문인 것으로 나타났다.

MIT미디어랩은 이 같은 사실을 지적하면서 "얼굴인식시스템 개발자들이 더 많은 데이터와 다양성을 확보할 필요가 있다"고 지적했다.

 

얼굴인식 소프트웨어가 성별, 인종별로 인식률 차이가 있다는 지적은 이전에도 여러 차례 제기됐다. 또 일부 소프트웨어는 인종 편견을 드러낸 적도 있어 심각한 사회 문제가 되기도 했다.

 

실제로 구글 얼굴인식 소프트웨어는 지난 2015년 흑인들을 '고릴라'로 인식해 논란이 됐다. 또 미국 시사잡지 디애틀랜틱은 얼굴인식 기술이 흑인들을 범죄 용의자로 잘못 분류하는 사례가 적지 않다고 보도하기도 했다.

 

MIT미디어랩의 이번 논문은 이런 오류를 개선하기 위해선 얼굴인식소프트웨어 개발 때 좀 더 다양한 데이터를 활용해야 한다는 사실을 지적했다는 점에서 큰 의미가 있는 것으로 풀이된다.

 

보도에 따르면 MIT미디어랩은 "컴퓨터 시각 기술이 의료와 법 집행과 같은 중요한 부문에서 사용되기 때문에 다양한 통계학적, 표현형 그룹을 위한 시각 알고리즘을 벤치마킹하는데 더 많은 작업이 필요하다"고 지적했다.