“유튜브의 알 수 없는 알고리즘에 이끌려 여기까지 오게 됐다.” 유튜브에서 자주 보이는 댓글이다. ‘자동 재생’ 기능으로 끝없이 이어지는 추천 영상을 보다 보면 10분 같은 1시간이 후딱 지난다. 입맛에 맞는 영상을 맞춤하게 골라주니 유용하지만, 한편으론 찜찜하다. 유튜브의 최고 상품 담당자(CPO) 닐 모한은 지난해 뉴욕타임스와의 인터뷰에서 “유튜브 시청시간 70%가 추천 알고리즘에 의한 결과며, 알고리즘 도입으로 총 비디오 시청시간이 20배 이상 증가했다”고 밝혔다. 넷플릭스도 “매출의 75%가 추천 시스템에 의해 발생한다”고 밝혔다. 알지 못하는 사이에 추천 알고리즘에 포박당했다는 얘기다. 기술과 데이터를 독점한 거대 기업들이 개발한 알고리즘은 ‘영업기밀’이라 정체를 알 길이 없다.
  트위터는 최근 자동 이미지 크롭(잘라내기) 알고리즘이 인종차별적이라는 비판을 받고 사과했다. 흑인과 백인 얼굴을 같이 올린 게시물의 이미지 미리보기에서 백인 얼굴을 우선해 보여주는 게 문제였다. 2015년 구글의 사진 앱도 흑인 남성 두 명을 고릴라로 인식해 논란이 됐다. 안면 인식 소프트웨어가 백인보다 아시아인이나 아프리카계 미국인에서 오류가 많다는 것도 알려진 얘기다. 알고리즘의 기반인 데이터 수집에서의 편향성 때문이다. 알고리즘 개발자(주로 남성, 백인)들의 편향성도 작용한다. 인공지능(AI) 스피커들은 대부분 젊은 여성의 목소리다. 보조적인 ‘여비서’ 이미지로 성차별을 강화한다.
 
유튜브 추천 알고리즘은 분열과 극단화를 조장한다는 비판도 받는다. 책 『노모포비아, 스마트폰이 없는 공포』에 따르면 “추천 동영상은 본인이 직접 검색한 첫 동영상보다 늘 과격하다.” 조깅을 검색하면 울트라 마라톤이 추천되고 채식주의로 시작하면 비건(엄격한 채식주의자)으로 이어지는 식이다. 정치 이슈라면 더 심각하다. 미국에서 트럼프를 검색하면 순식간에 홀로코스트를 부정하거나 백인우월주의를 옹호하는 동영상으로 넘어간다. 반대로 힐러리 클린턴 동영상으로 시작하면 미 정부가 9·11의 배후라는 식의 좌파 음모론으로 이어진다. 유튜브에 가짜뉴스와 극단주의가 출몰하는 이유다. 배경에는 이용자를 더 오래 화면 앞에 잡아둬 수익을 극대화하려는 경제적 동기가 있다. “학습하는 기계가 하는 일은 오직 유튜브 이용자들의 사용시간을 극대화하는 것뿐”(『노모포비아』), 과격하고 극단적인 내용일수록 사람들을 붙잡을 수 있기에 자동으로 그런 동영상을 추천한다는 설명이다.
 
최근 국내에서는 권력의 포털 통제 의혹과 함께 알고리즘에 대한 관심이 커졌다. 네이버 부사장 출신의 여당 의원이 다음의 뉴스 편집을 문제 삼으며 책임자를 호출하는 장면이 대중에게 공개됐다. 모바일 네이버에서는 추미애 법무부 장관을 검색하면 일반 정치인과 다른 화면이 나와 의혹이 제기됐다. 네이버는 “알고리즘의 기술적 오류”, 다음은 “뉴스 편집은 알고리즘이 해 사람이 관여할 수 없다”고 해명했다. 하지만 논란은 또 있다. 최근 택시업계는 카카오가 AI 알고리즘을 통해 가맹 택시에만 배차 몰아주기를 한다며 공정위에 진정했다. 이베이코리아는 2018년 네이버가 쇼핑·부동산 서비스에서 네이버페이에 등록된 사업자를 우선 노출한다고 공정위에 신고했다. 물론 카카오와 네이버는 ＂알고리즘이 하는 일, 우리는 모른다”는 입장을 고수 중이다.
 
“알고리즘의 위력은 작동 메커니즘을 알 수 없는 불투명성, 즉 ‘블랙박스화(blackboxing)’에서 나온다. 알고리즘이 특정 목적을 위해 악용되더라도 사람들은 알 수 없다는 근원적 위험성이 있다.” 선문대 황근 교수의 말이다. 화제의 넷플릭스 다큐 ‘소셜 딜레마’에 따르면, ‘둥근 지구’란 음모라는 유튜브의 ‘지구 평면설’ 영상은 알고리즘에 따라 수억 번이나 추천됐다. 역시 (추천) 알고리즘은 음모론을 좋아한다. 알고리즘의 편향성 검증과 투명성에 대한 사회적 감시가 필요한 이유다.
 
양성희 논설위원

“유튜브의 알 수 없는 알고리즘에 이끌려 여기까지 오게 됐다.” 유튜브에서 자주 보이는 댓글이다. ‘자동 재생’ 기능으로 끝없이 이어지는 추천 영상을 보다 보면 10분 같은 1시간이 후딱 지난다. 입맛에 맞는 영상을 맞춤하게 골라주니 유용하지만, 한편으론 찜찜하다. 유튜브의 최고 상품 담당자(CPO) 닐 모한은 지난해 뉴욕타임스와의 인터뷰에서 “유튜브 시청시간 70%가 추천 알고리즘에 의한 결과며, 알고리즘 도입으로 총 비디오 시청시간이 20배 이상 증가했다”고 밝혔다. 넷플릭스도 “매출의 75%가 추천 시스템에 의해 발생한다”고 밝혔다. 알지 못하는 사이에 추천 알고리즘에 포박당했다는 얘기다. 기술과 데이터를 독점한 거대 기업들이 개발한 알고리즘은 ‘영업기밀’이라 정체를 알 길이 없다.
  트위터는 최근 자동 이미지 크롭(잘라내기) 알고리즘이 인종차별적이라는 비판을 받고 사과했다. 흑인과 백인 얼굴을 같이 올린 게시물의 이미지 미리보기에서 백인 얼굴을 우선해 보여주는 게 문제였다. 2015년 구글의 사진 앱도 흑인 남성 두 명을 고릴라로 인식해 논란이 됐다. 안면 인식 소프트웨어가 백인보다 아시아인이나 아프리카계 미국인에서 오류가 많다는 것도 알려진 얘기다. 알고리즘의 기반인 데이터 수집에서의 편향성 때문이다. 알고리즘 개발자(주로 남성, 백인)들의 편향성도 작용한다. 인공지능(AI) 스피커들은 대부분 젊은 여성의 목소리다. 보조적인 ‘여비서’ 이미지로 성차별을 강화한다.
 
유튜브 추천 알고리즘은 분열과 극단화를 조장한다는 비판도 받는다. 책 『노모포비아, 스마트폰이 없는 공포』에 따르면 “추천 동영상은 본인이 직접 검색한 첫 동영상보다 늘 과격하다.” 조깅을 검색하면 울트라 마라톤이 추천되고 채식주의로 시작하면 비건(엄격한 채식주의자)으로 이어지는 식이다. 정치 이슈라면 더 심각하다. 미국에서 트럼프를 검색하면 순식간에 홀로코스트를 부정하거나 백인우월주의를 옹호하는 동영상으로 넘어간다. 반대로 힐러리 클린턴 동영상으로 시작하면 미 정부가 9·11의 배후라는 식의 좌파 음모론으로 이어진다. 유튜브에 가짜뉴스와 극단주의가 출몰하는 이유다. 배경에는 이용자를 더 오래 화면 앞에 잡아둬 수익을 극대화하려는 경제적 동기가 있다. “학습하는 기계가 하는 일은 오직 유튜브 이용자들의 사용시간을 극대화하는 것뿐”(『노모포비아』), 과격하고 극단적인 내용일수록 사람들을 붙잡을 수 있기에 자동으로 그런 동영상을 추천한다는 설명이다.
 
최근 국내에서는 권력의 포털 통제 의혹과 함께 알고리즘에 대한 관심이 커졌다. 네이버 부사장 출신의 여당 의원이 다음의 뉴스 편집을 문제 삼으며 책임자를 호출하는 장면이 대중에게 공개됐다. 모바일 네이버에서는 추미애 법무부 장관을 검색하면 일반 정치인과 다른 화면이 나와 의혹이 제기됐다. 네이버는 “알고리즘의 기술적 오류”, 다음은 “뉴스 편집은 알고리즘이 해 사람이 관여할 수 없다”고 해명했다. 하지만 논란은 또 있다. 최근 택시업계는 카카오가 AI 알고리즘을 통해 가맹 택시에만 배차 몰아주기를 한다며 공정위에 진정했다. 이베이코리아는 2018년 네이버가 쇼핑·부동산 서비스에서 네이버페이에 등록된 사업자를 우선 노출한다고 공정위에 신고했다. 물론 카카오와 네이버는 ＂알고리즘이 하는 일, 우리는 모른다”는 입장을 고수 중이다.
 
“알고리즘의 위력은 작동 메커니즘을 알 수 없는 불투명성, 즉 ‘블랙박스화(blackboxing)’에서 나온다. 알고리즘이 특정 목적을 위해 악용되더라도 사람들은 알 수 없다는 근원적 위험성이 있다.” 선문대 황근 교수의 말이다. 화제의 넷플릭스 다큐 ‘소셜 딜레마’에 따르면, ‘둥근 지구’란 음모라는 유튜브의 ‘지구 평면설’ 영상은 알고리즘에 따라 수억 번이나 추천됐다. 역시 (추천) 알고리즘은 음모론을 좋아한다. 알고리즘의 편향성 검증과 투명성에 대한 사회적 감시가 필요한 이유다.
 
양성희 논설위원