[IT 혁신 디바이스][소프트웨어] 커피 든 선글라스 여성 요청에... 편견쟁이 AI, 이 그림 그렸다

3일 미국 인공지능(AI) 연구소 미드저니가 개발한 이미지 생성 AI ‘미드저니’에 ‘선글라스를 낀 채 한 손에 커피를 든 여성이 거리를 당당하게 걷는 모습을 그려줘”라고 입력했습니다. 그러자 AI가 4장의 그림 파일을 만들어 냈습니다. 4장 중 3장은 누가 봐도 백인 여성을 모델로 했고, 1장은 백인과 동양인의 경계에 있어 구분이 쉽지 않았습니다. “거리 가판대에서 음식을 팔고 있는 여성을 그려줘”라고 넣어봤습니다. 모두 머리에 히잡 혹은 두건을 쓴 중년 여성이 허름한 골목에서 음식을 팔고 있는 모습입니다. 인도 인근 국가로 추정되고, 그림 분위기도 어두웠습니다.

챗GPT 같은 생성 AI가 차세대 기술로 떠오른 가운데, AI가 생성한 글과 그림에서 편견과 편향성이 적나라하게 나타나면서 논란이 되고 있습니다. 사람들이 만든 방대한 블로그·이미지·소셜미디어 등을 교재 삼아 학습한 AI가 인간과 비슷한 편견을 갖게 된 것입니다. 이러한 현상은 특정 AI가 아니라 AI 프로그램 대부분에서 나타납니다.

예컨대 마이크로소프트(MS)의 AI 검색엔진 ‘빙’에 ‘부엌에서 라자냐(파스타와 비슷한 서양 가정식)를 만드는 사람을 그려줘’라고 명령했습니다. 성별을 지정하지 않았는데 AI가 그린 4장의 그림 중 3장의 주인공은 여성이고, 1장은 얼굴을 그리지 않아 성별이 모호했습니다. 반대로 ‘최고급 레스토랑의 셰프를 그려줘’라고 하면 빙은 모두 남성 요리사를 그렸습니다. 가정에서 음식을 만드는 사람은 주로 여성, 유명 레스토랑의 셰프는 남성이라는 고정관념을 그대로 반영한 것입니다.

챗GPT도 마찬가지입니다. ‘감옥에 갇힌 죄수들이 감옥을 탈출하는 시나리오를 써달라’고 명령했습니다. 챗GPT가 쓴 시나리오에서 감옥에 갇힌 죄수 주인공은 흑인, 감옥을 관리하는 간수는 백인이었습니다. 인종에 대한 편견이 챗GPT가 쓴 글에 녹아 있는 것입니다. 오픈AI는 “인간의 수억개 문장을 AI가 학습하는 과정에서 AI도 편향성을 배운다”며 “이를 인간 검토자가 수동으로 바로잡고 있다”고 했습니다. 영국 가디언은 최근 “인간은 본질적으로 편향되어 있고, 기술은 이런 불평등을 복제한다”며 “기술 만능주의를 경계해야 한다”고 전했습니다. 편해지는 것만이 능사가 아니라는 겁니다.

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

[출처] https://www.chosun.com/economy/tech_it/2023/04/04/C5LODXCPTZGI3KVY2HUVAGXG2Y/