[산업] 고도화 경쟁이 알고리즘 예측 품질 떨어뜨린다

과학 수학자의 연구 이미지.jpg

 


(사진=셔터스톡)
인공지능(AI) 알고리즘 고도화 경쟁이 심할수록 알고리즘의 예측 품질이 떨어질 수 있다는 주장이 나왔다. 서비스 고객 확보를 목적으로 특정 분야에 예측 알고리즘을 특화하면서 폭넓은 예측 성능을 저하한다는 지적이다.

기술 전문지 테크 익스플로어는 고객 유치를 목표로 예측 알고리즘 고도화를 경쟁할수록 알고리즘이 부분 모집단에 전문화돼 기업과 소비자에게 영향을 끼칠 수 있다고 2일(현지시간) 보도했다.

이번 분석은 제임스 조우(James Zou) 스탠퍼드대학 바이오의학 데이터과학 조교수이자 인간 중심 AI연구소 부교수가 대학원생과 함께 수행한 논문 연구를 통해 확인했다.

현재 넷플릭스와 훌루 등 온라인 스트리밍서비스 업체가 개인 맞춤형 서비스로 예측 알고리즘을 활용하고 있다. 이 같은 서비스 기업은 많은 고객을 확보할 목표로 자사 알고리즘 추천 정확도를 높이는 데 집중한다.

조우 교수는 이 과정에서 예측 알고리즘이 좁은 분야에 전문화되며 예측 품질이 떨어질 것이라고 우려했다. 향후 이 같은 예측 알고리즘을 은행 대출이나 인재 채용 등에 적용할 경우 부정적 영향을 끼칠 수 있다.

조우 교수 연구팀은 기업이 고객을 위해 기술 경쟁을 하는 동시에 고객 데이터를 활용해 머신러닝(ML) 알고리즘을 훈련시킬 경우 알고리즘의 추천 능력에 어떤 영향을 미치는지 연구했다.

이에 연구팀은 알고리즘 고도화 경쟁을 수학적으로 분석한 뒤 표준 데이터셋을 사용해 시뮬레이션했다. 그 결과, ML 알고리즘을 경쟁시킬수록 전문화돼 사용자의 일부 집단 선호도를 예측하는 데 능숙해진다는 것을 발견했다.

조우 교수는 "시간이 지날수록 불균형은 점점 커질 것"이라며 이 같은 현상이 온라인 디지털 플랫폼의 예측 서비스 경쟁 상황에서 나타날 수 있다고 설명했다

연구팀에 참여한 안토니오 지나트(Antonio Ginart) 스탠퍼드 대학원생은 "구글이나 빙 등에서 검색어를 입력할 경우 검색 엔진은 우리와 연관성이 가장 높은 링크를 예측할 것이다"라며 "우리는 예측 결과가 더 정확한 플랫폼만 사용할 것이며, 이로 인해 최적의 ML 시스템을 위한 데이터 입력 양상이 바뀌고 미래 예측 방법을 변화시킬 것"이라고 말했다.

금융 분야에서도 이 같은 현상이 발생할 수 있다. 은행이 신용도 측정을 목적으로 예측 알고리즘을 적용할 경우 주요 소득 계층의 데이터를 다수 확보했기 때문에 이들의 신용도를 예측하는 데 능숙할 것이다. 하지만 다른 집단을 향한 신용도 예측 정확도가 감소해 평균 서비스 품질은 실제로 감소한다.

미국의 경우 은행 대출 알고리즘이 중년 백인 고객의 데이터에 의존하고 있어 구조적 불평등을 가속화하고 알고리즘의 데이터 전문화를 강화시킬 수 있다.

조우 교수는 이 같은 문제의 해결책을 찾는 데 관심을 갖고 있다고 설명했다. 그는 "이 기술은 여전히 새롭고 최첨단이다"라며 "이번 논문이 많은 연구자에게 AI 알고리즘 경쟁의 사회적 영향을 연구하는 계기가 되길 바란다"고 말했다.

 

출처 : AI타임스(http://www.aitimes.com)
 

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

 

 

 

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
73 [산업] 또 정부 전산망 먹통...모바일신분증 웹사이트·앱 모두 장애 file 졸리운_곰 2023.11.24 1
72 [산업] “인류 구원할 우리가 무조건 옳다” 이 오만이 오픈AI 사태 불렀다 실리콘밸리 ‘효율적 이타주의’ 논란 file 졸리운_곰 2023.11.24 0
71 [산업] [IT돋보기] 행정 전산망 장애 7일째 지속…"공공SW 구조적 혁신할 때" file 졸리운_곰 2023.11.24 1
70 [산업] 새올행정망·주민증 이어 조달청 ‘1시간 먹통’…“특정국가 IP서 집중접속” file 졸리운_곰 2023.11.23 0
69 [산업] [Biz & HR] 취업 공고에 연봉 4000만원이랬는데 면접에선 3000만원이라네요 [WEEKLY BIZ] ‘취업 공고 사기’ 어떻게 대응해야 하나요 file 졸리운_곰 2023.11.18 2
68 [산업] 돈쓴 만큼 대접 받는 P2W 게임, 그렇게 욕먹을 일인가 file 졸리운_곰 2023.11.12 5
67 [산업] 코인게이트에 불뚱 튄 P2E 게임사들…“P2E 게임 부정적 평가 안타까워” file 졸리운_곰 2023.06.24 1
66 [산업] "AI 개발 후회…킬러로봇 나올까 겁난다" AI 대부 경고 [팩플] file 졸리운_곰 2023.05.02 3
65 [산업] 주위에 혹시 입만 잘 터는 개발자들 있나요? file 졸리운_곰 2023.04.23 44
64 [산업] [주말판] 2023년을 장식할 최고의 프로그래밍 언어 Top 10 file 졸리운_곰 2023.04.09 0
63 [산업] 키보드로 코딩하세요? 저는 말로 코딩해요! 졸리운_곰 2023.04.02 0
62 [산업] “AI의 저작권 침해 더 못참아”… 인간, 마침내 칼 빼들다 file 졸리운_곰 2023.01.26 3
61 [산업] “주식 뭐 살까?” AI에 물어보니 file 졸리운_곰 2023.01.22 8
60 [산업} [이형석의 창업의 비밀] 장기불황에 유리한 사업들 file 졸리운_곰 2022.10.30 4
59 [산업] 직장내 괴롭힘은 몇년까지 신고 할 수 있나요? 졸리운_곰 2022.10.29 7
58 [산업] 근로자 파업보다 무섭다는 자본가의 ‘소리 없는 파업’ file 졸리운_곰 2022.10.17 6
57 [산업] 코딩이 그렇게 만만합니까? 졸리운_곰 2022.09.12 10
56 [산업] 살아남는 종(種)은 변화에 적응하는 종(種)이다 - 찰스 다윈 졸리운_곰 2022.09.03 4
55 [산업] 인간관계를 관리하라 졸리운_곰 2022.09.03 7
54 [산업] 인간관계•자기계발•성과중시 탁월함을 만드는 삼각 받침대 file 졸리운_곰 2022.09.03 4
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED