[산업] “인류 구원할 우리가 무조건 옳다” 이 오만이 오픈AI 사태 불렀다 실리콘밸리 ‘효율적 이타주의’ 논란

“자신에게 인류를 구원할 수 있는 특별함이 있다고 철석같이 믿는 사람들은 그 목적을 위해 극단적 행동도 서슴지 않는 실수를 범한다.”

지난 17일(현지 시각) 이사회의 반란으로 갑작스럽게 해고됐던 샘 올트먼 오픈AI 최고경영자(CEO)가 전격 복귀한 다음 날인 22일. 구글 인공지능(AI) 연구팀 출신으로 AI 스타트업 ‘코히어(Cohere)’를 창업한 에이단 고메즈 CEO는 직원들에게 이 같은 내용의 메일을 보내며 “(실리콘밸리의) 효율적 이타주의(Effective Altruism)는 독단적인 자기 과시로 변질됐다”고 했다. 인류에 대한 AI의 위협을 막겠다며 올트먼을 해고시킨 오픈AI 이사회의 결정이 투자자나 직원 등 누구를 위한 것도 아니라 독선(獨善)에 불과했다고 작심 비판한 것이다.

 

◇오픈AI 사태 촉발한 효율적 이타주의 갈등

효율적 이타주의는 좋은 일을 할 때 냉정한 이성으로 긍정적 효과를 극대화시키는 방법을 추구해야 한다는 윤리 사상이다. 당장 눈앞에 있는 어려운 사람에게 돈을 주는 것이 나은지, 아니면 그 돈을 활용해 부를 창출하고 미래에 더 많은 사람을 구하는 것이 나은지 효율적으로 판단해야 한다는 식이다.

이 사상은 십수 년 전부터 실리콘밸리에서 크게 유행하며 거물 추종자를 양산했다. 올트먼을 쫓아낸 일리야 수츠케버 오픈AI 수석 과학자와 애덤 디앤젤로 쿼라 CEO 등 오픈AI 이사진도 이 사상의 열렬한 신봉자들이다. 이들이 ‘당장의 수백·수천 명의 이익보다 미래 수조 명의 잠재적 생명을 구하는 게 더 옳다(효율적이다)’는 논리로 그 어떤 피해를 감수하면서라도 AI의 폭주를 막는 일에 집착하게 된 것도 이 때문이다.

월스트리트저널(WSJ)은 “오픈AI 사태는 효율적 이타주의의 ‘신자’와 ‘비신자’ 간의 분열이 얼마나 큰지 보여준다”고 했다. 실제로 현실과 동떨어진 거대 담론은 오래전부터 오픈AI의 사내 갈등을 키워온 것으로 전해졌다. WSJ에 따르면 수츠케버는 인간보다 더 뛰어난 일반 인공지능(AGI)이 인간의 가치에 부합하는 일만 하도록 통제하는 ‘수퍼얼라인먼트’ 연구팀을 구성하면서, 향후 4년간 회사 컴퓨팅 자원의 5분의 1을 쓰겠다고 밝혔다. 하지만 이 때문에 당장 내년에 일어나는 미국 대선에 영향을 미치는 AI의 오·남용 문제를 해결할 역량은 줄었다. 이상만 좇는 이사진에 불만을 품는 직원이 많아진 배경이다.

전문가들은 “자신들이 인류를 구원할 수 있다고 착각하는 효율적 이타주의자들이 결과적으론 AI 난개발을 더욱 부추기게 됐다”고 지적한다. AI 상용화를 적극적으로 추진하는 올트먼이 회사로 복귀하면서, AI 안전을 중시하던 인물들이 이사회에서 사라지고 그 빈자리가 AI의 상용화를 지지하는 기업가·경제학자 등으로 채워졌기 때문이다.

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

◇변질된 윤리 사상, 사기의 면죄부로

효율적 이타주의를 악용하는 실리콘밸리 창업자도 흔하다. BBC는 지난해 10조원이 넘는 피해액을 기록한 가상 화폐 거래소 FTX의 몰락에 대해 “기업가들의 가장 편리한 홍보 수단이 된 효율적 이타주의가 문제”라고 지적했다. 샘 뱅크먼-프리드 FTX 창업자는 평소 이 사상의 추종자로 유명한 데다, FTX를 키우는 과정에서도 ‘돈을 많이 벌어 더 많은 기부를 하겠다’며 거액의 투자를 유치했기 때문이다.

 

실리콘밸리=오로라 특파원 : 날카롭되 친절한 글을 쓰겠습니다.

 

[출처] https://www.chosun.com/economy/tech_it/2023/11/24/ONXLC5AHBZFVFDB4MLX6J5UGKA/