[산업] 고도화 경쟁이 알고리즘 예측 품질 떨어뜨린다

과학 수학자의 연구 이미지.jpg

 


(사진=셔터스톡)
인공지능(AI) 알고리즘 고도화 경쟁이 심할수록 알고리즘의 예측 품질이 떨어질 수 있다는 주장이 나왔다. 서비스 고객 확보를 목적으로 특정 분야에 예측 알고리즘을 특화하면서 폭넓은 예측 성능을 저하한다는 지적이다.

기술 전문지 테크 익스플로어는 고객 유치를 목표로 예측 알고리즘 고도화를 경쟁할수록 알고리즘이 부분 모집단에 전문화돼 기업과 소비자에게 영향을 끼칠 수 있다고 2일(현지시간) 보도했다.

이번 분석은 제임스 조우(James Zou) 스탠퍼드대학 바이오의학 데이터과학 조교수이자 인간 중심 AI연구소 부교수가 대학원생과 함께 수행한 논문 연구를 통해 확인했다.

현재 넷플릭스와 훌루 등 온라인 스트리밍서비스 업체가 개인 맞춤형 서비스로 예측 알고리즘을 활용하고 있다. 이 같은 서비스 기업은 많은 고객을 확보할 목표로 자사 알고리즘 추천 정확도를 높이는 데 집중한다.

조우 교수는 이 과정에서 예측 알고리즘이 좁은 분야에 전문화되며 예측 품질이 떨어질 것이라고 우려했다. 향후 이 같은 예측 알고리즘을 은행 대출이나 인재 채용 등에 적용할 경우 부정적 영향을 끼칠 수 있다.

조우 교수 연구팀은 기업이 고객을 위해 기술 경쟁을 하는 동시에 고객 데이터를 활용해 머신러닝(ML) 알고리즘을 훈련시킬 경우 알고리즘의 추천 능력에 어떤 영향을 미치는지 연구했다.

이에 연구팀은 알고리즘 고도화 경쟁을 수학적으로 분석한 뒤 표준 데이터셋을 사용해 시뮬레이션했다. 그 결과, ML 알고리즘을 경쟁시킬수록 전문화돼 사용자의 일부 집단 선호도를 예측하는 데 능숙해진다는 것을 발견했다.

조우 교수는 "시간이 지날수록 불균형은 점점 커질 것"이라며 이 같은 현상이 온라인 디지털 플랫폼의 예측 서비스 경쟁 상황에서 나타날 수 있다고 설명했다

연구팀에 참여한 안토니오 지나트(Antonio Ginart) 스탠퍼드 대학원생은 "구글이나 빙 등에서 검색어를 입력할 경우 검색 엔진은 우리와 연관성이 가장 높은 링크를 예측할 것이다"라며 "우리는 예측 결과가 더 정확한 플랫폼만 사용할 것이며, 이로 인해 최적의 ML 시스템을 위한 데이터 입력 양상이 바뀌고 미래 예측 방법을 변화시킬 것"이라고 말했다.

금융 분야에서도 이 같은 현상이 발생할 수 있다. 은행이 신용도 측정을 목적으로 예측 알고리즘을 적용할 경우 주요 소득 계층의 데이터를 다수 확보했기 때문에 이들의 신용도를 예측하는 데 능숙할 것이다. 하지만 다른 집단을 향한 신용도 예측 정확도가 감소해 평균 서비스 품질은 실제로 감소한다.

미국의 경우 은행 대출 알고리즘이 중년 백인 고객의 데이터에 의존하고 있어 구조적 불평등을 가속화하고 알고리즘의 데이터 전문화를 강화시킬 수 있다.

조우 교수는 이 같은 문제의 해결책을 찾는 데 관심을 갖고 있다고 설명했다. 그는 "이 기술은 여전히 새롭고 최첨단이다"라며 "이번 논문이 많은 연구자에게 AI 알고리즘 경쟁의 사회적 영향을 연구하는 계기가 되길 바란다"고 말했다.

 

출처 : AI타임스(http://www.aitimes.com)
 

 

 

 

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
62 [산업] “AI의 저작권 침해 더 못참아”… 인간, 마침내 칼 빼들다 file 졸리운_곰 2023.01.26 0
61 [산업] “주식 뭐 살까?” AI에 물어보니 file 졸리운_곰 2023.01.22 2
60 [산업} [이형석의 창업의 비밀] 장기불황에 유리한 사업들 file 졸리운_곰 2022.10.30 2
59 [산업] 직장내 괴롭힘은 몇년까지 신고 할 수 있나요? 졸리운_곰 2022.10.29 1
58 [산업] 근로자 파업보다 무섭다는 자본가의 ‘소리 없는 파업’ file 졸리운_곰 2022.10.17 4
57 [산업] 코딩이 그렇게 만만합니까? 졸리운_곰 2022.09.12 6
56 [산업] 살아남는 종(種)은 변화에 적응하는 종(種)이다 - 찰스 다윈 졸리운_곰 2022.09.03 2
55 [산업] 인간관계를 관리하라 졸리운_곰 2022.09.03 4
54 [산업] 인간관계•자기계발•성과중시 탁월함을 만드는 삼각 받침대 file 졸리운_곰 2022.09.03 1
53 [산업] 일은 열심히 하는 데 성과는 별로 없는 사람의 특징 졸리운_곰 2022.09.02 2
52 [산업] 성과 없는 사람들 특징 file 졸리운_곰 2022.09.02 6
51 [산업] ‘데이터센터’를 계속 운영해야 하는 10가지 이유 file 졸리운_곰 2022.08.25 2
50 [산업]■ 경기와 금리의 관계는? file 졸리운_곰 2022.02.11 4
49 [산업]서울 내집에서 일하고, 뉴욕회사 월급 받는다...바야흐로 디지털노마드 시대 [WEEKLY BIZ] 원격 근무로 뚫는 해외 취업길 file 졸리운_곰 2022.01.22 46
48 [TV/언론] 빌 게이츠가 택한 ‘나트륨 원전', 핵폐기물 95% 줄고 연료비 획기적 절감 file 졸리운_곰 2021.06.05 8
47 [산업, IT] 네이버 개발자 죽음의 증언…IT업계선 "바닥 좁고 학연 세다" file 졸리운_곰 2021.05.31 7
46 [경제] [국제] ‘아시아 네마리 용’은 잊어라... 대만, 세계 1등 경제로 승천한 비결 file 졸리운_곰 2021.02.28 10
45 포스트 코로나 주인공은 인도…10년 뒤엔 일본도 제친다 file 졸리운_곰 2020.08.16 9
44 [에임시스템처럼 글로벌1위, 월드클래스300, 기술챔피언도 아닌 것들의 모임] 반도체 등 첨단산업 스마트팩토리 콘퍼런스 안내 : 10월 8일 엘타워 5층 file 졸리운_곰 2020.06.26 30
43 대한민국을 대표하는 IT 유통의 메카 ‘용산전자상가’의 역사와 추억 file 졸리운_곰 2020.04.15 103
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED