IT혁신디바이스/소프트웨어 [산업] 고도화 경쟁이 알고리즘 예측 품질 떨어뜨린다
2023.01.08 15:23
[산업] 고도화 경쟁이 알고리즘 예측 품질 떨어뜨린다
(사진=셔터스톡)
인공지능(AI) 알고리즘 고도화 경쟁이 심할수록 알고리즘의 예측 품질이 떨어질 수 있다는 주장이 나왔다. 서비스 고객 확보를 목적으로 특정 분야에 예측 알고리즘을 특화하면서 폭넓은 예측 성능을 저하한다는 지적이다.
기술 전문지 테크 익스플로어는 고객 유치를 목표로 예측 알고리즘 고도화를 경쟁할수록 알고리즘이 부분 모집단에 전문화돼 기업과 소비자에게 영향을 끼칠 수 있다고 2일(현지시간) 보도했다.
이번 분석은 제임스 조우(James Zou) 스탠퍼드대학 바이오의학 데이터과학 조교수이자 인간 중심 AI연구소 부교수가 대학원생과 함께 수행한 논문 연구를 통해 확인했다.
현재 넷플릭스와 훌루 등 온라인 스트리밍서비스 업체가 개인 맞춤형 서비스로 예측 알고리즘을 활용하고 있다. 이 같은 서비스 기업은 많은 고객을 확보할 목표로 자사 알고리즘 추천 정확도를 높이는 데 집중한다.
조우 교수는 이 과정에서 예측 알고리즘이 좁은 분야에 전문화되며 예측 품질이 떨어질 것이라고 우려했다. 향후 이 같은 예측 알고리즘을 은행 대출이나 인재 채용 등에 적용할 경우 부정적 영향을 끼칠 수 있다.
조우 교수 연구팀은 기업이 고객을 위해 기술 경쟁을 하는 동시에 고객 데이터를 활용해 머신러닝(ML) 알고리즘을 훈련시킬 경우 알고리즘의 추천 능력에 어떤 영향을 미치는지 연구했다.
이에 연구팀은 알고리즘 고도화 경쟁을 수학적으로 분석한 뒤 표준 데이터셋을 사용해 시뮬레이션했다. 그 결과, ML 알고리즘을 경쟁시킬수록 전문화돼 사용자의 일부 집단 선호도를 예측하는 데 능숙해진다는 것을 발견했다.
조우 교수는 "시간이 지날수록 불균형은 점점 커질 것"이라며 이 같은 현상이 온라인 디지털 플랫폼의 예측 서비스 경쟁 상황에서 나타날 수 있다고 설명했다
연구팀에 참여한 안토니오 지나트(Antonio Ginart) 스탠퍼드 대학원생은 "구글이나 빙 등에서 검색어를 입력할 경우 검색 엔진은 우리와 연관성이 가장 높은 링크를 예측할 것이다"라며 "우리는 예측 결과가 더 정확한 플랫폼만 사용할 것이며, 이로 인해 최적의 ML 시스템을 위한 데이터 입력 양상이 바뀌고 미래 예측 방법을 변화시킬 것"이라고 말했다.
금융 분야에서도 이 같은 현상이 발생할 수 있다. 은행이 신용도 측정을 목적으로 예측 알고리즘을 적용할 경우 주요 소득 계층의 데이터를 다수 확보했기 때문에 이들의 신용도를 예측하는 데 능숙할 것이다. 하지만 다른 집단을 향한 신용도 예측 정확도가 감소해 평균 서비스 품질은 실제로 감소한다.
미국의 경우 은행 대출 알고리즘이 중년 백인 고객의 데이터에 의존하고 있어 구조적 불평등을 가속화하고 알고리즘의 데이터 전문화를 강화시킬 수 있다.
조우 교수는 이 같은 문제의 해결책을 찾는 데 관심을 갖고 있다고 설명했다. 그는 "이 기술은 여전히 새롭고 최첨단이다"라며 "이번 논문이 많은 연구자에게 AI 알고리즘 경쟁의 사회적 영향을 연구하는 계기가 되길 바란다"고 말했다.
출처 : AI타임스(http://www.aitimes.com)
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
