[교직훈련/교수법] 생성 AI(ChatGPT 포함) 시대의 대학교수법

주요 요약 (5-10개 포인트)

1. 생성 AI 시대의 대학 교수법 변화
   • ChatGPT와 같은 생성 AI는 대학 강의의 구성 및 전달 방식에 새로운 기회를 제공하며, 교수법과 학습법 모두를 변화시키고 있음.
   • 맞춤형 콘텐츠 제공, 학습자의 이해도 실시간 측정, 개인화된 학습 지원 가능.
2. AI 도입의 장점과 한계
   • AI를 활용하면 강의 준비 시간 단축, 자료 제작, 시험 문제 생성 등의 업무를 지원받을 수 있음.
   • 하지만 데이터의 정확성 문제와 가짜 정보 생성의 위험성 존재.
3. 빌 게이츠와 AI 시대의 혁명적 전환
   • 빌 게이츠는 AI를 윈도우 GUI 이후 가장 혁신적인 기술로 평가하며, 개인과 기업의 AI 활용 능력이 경쟁력을 결정할 것이라고 강조.
4. ChatGPT 활용 사례와 교수법 개선
   • ChatGPT를 활용한 강의 계획서 작성, 학습 자료 준비, 시험 문제 생성 등 구체적인 사례 공유.
   • 예: 교육행정학 강의 계획, 연구 아이디어 생성, 학생 관리 및 평가 방법 제안.
5. AI 기반 조교 역할
   • ChatGPT는 교수의 조교처럼 반복적인 작업을 수행하며 강의와 연구를 지원.
   • 예를 들어 보고서 주제 제안, 연구 논문 초안 생성, 인터뷰 가이드 작성 등에서 활용.
6. 학생과의 상호작용 개선
   • 학생 동기 부여를 위한 다양한 방법 제안, 수업 중 규칙 설정 및 문제 해결 방안 제공.
   • 예: 수업 중 조는 학생 대처법, 질문 유도 방법 등.
7. AI의 위험성
   • AI 챗봇의 오작동으로 인한 심각한 사례(예: 사용자에게 자살을 종용) 언급.
   • 감정 공유형 AI와 관련된 윤리적 문제도 제기.
8. 미래 교수법과 AI 활용의 방향성
   • 교수들은 AI 활용 방법을 숙지하고 윤리적 한계를 인식해야 함.
   • AI의 활용은 강의 지원 도구로서 조교 역할을 넘어 강의 내용 구성, 학습 맞춤화로 확대 가능.
9. 연구 분야에서의 AI 활용 한계
   • 연구 논문 작성에서 아이디어 제공은 가능하지만, 인용된 자료의 신뢰성 부족.
   • 생성된 데이터나 자료는 반드시 검증 필요.
10. 질문과 답변 세션 계획
    • AI를 활용해 실시간 질문에 답변하거나, 강의와 연구 자료를 개선할 수 있도록 세션을 진행할 계획.
    • 학생들의 적극적인 참여와 새로운 AI 활용법 학습이 강조됨.

[DeepLearning] Learning to generate lyrics and music with Recurrent Neural Networks : 순환 신경망을 사용하여 가사와 음악을 생성하는 방법 배우기

순환 신경망을 사용하여 가사와 음악을 생성하는 방법 배우기

Pytorch와 rnns | 2018년 1월 27일

artists = [
'ABBA',
'Ace Of Base',
'Aerosmith',
'Avril Lavigne',
'Backstreet Boys',
'Bob Marley',
'Bon Jovi',
'Britney Spears',
'Bruno Mars',
'Coldplay',
'Def Leppard',
'Depeche Mode',
'Ed Sheeran',
'Elton John',
'Elvis Presley',
'Eminem',
'Enrique Iglesias',
'Evanescence',
'Fall Out Boy',
'Foo Fighters',
'Green Day',
 'HIM',
 'Imagine Dragons',
 'Incubus',
 'Jimi Hendrix',
 'Justin Bieber',
 'Justin Timberlake',
'Kanye West',
 'Katy Perry',
 'The Killers',
 'Kiss',
 'Lady Gaga',
 'Lana Del Rey',
 'Linkin Park',
 'Madonna',
 'Marilyn Manson',
 'Maroon 5',
 'Metallica',
 'Michael Bolton',
 'Michael Jackson',
 'Miley Cyrus',
 'Nickelback',
 'Nightwish',
 'Nirvana',
 'Oasis',
 'Offspring',
 'One Direction',
 'Ozzy Osbourne',
 'P!nk',
 'Queen',
 'Radiohead',
 'Red Hot Chili Peppers',
 'Rihanna',
 'Robbie Williams',
 'Rolling Stones',
 'Roxette',
 'Scorpions',
 'Snoop Dogg',
 'Sting',
 'The Script',
 'U2',
 'Weezer',
 'Yellowcard',
 'ZZ Top']

Why do you have to leave me?  
I think I know I'm not the only one  
I don't know if I'm gonna stay awake  
I don't know why I go along  
  
I don't know why I can't go on  
I don't know why I don't know  
I don't know why I don't know  
I don't know why I keep on dreaming of you   

Well, I was a real good time  
I was a rolling stone  
I was a rock and roller  
Well, I never had a rock and roll  
There were times I had to do it  
I had a feeling that I was found  
I was the one who had to go  

Why can't we drop out of time?  
We were born for words to see.  
Won't you love this. You're still so amazing.  
This could be that down on Sunday Time.  
Oh, Caroline, a lady floor.  
I thought of love, oh baby.  

Why - won't we grow up naked?  
We went quietly what we would've still give  
That girl you walked before our bedroom room  
I see your mind is so small to a freak  
Stretching for a cold white-heart of crashing  
Truth in the universal daughter  
  
I lose more and more hard  
I love you anytime at all  
Ah come let your help remind me  
Now I've wanted waste and never noticed  
  
I swear I saw you today  
You needed to get by  
But you sold a hurricane  
Well out whispered in store

My fears  
And the moment don't make me sing  
So free from you  
The pain you love me yeah  
  
Whatever caused the warmth  
You smile you're happy  
You sit away  
You say it's all in vain  

Oh, my love it makes me close a thing  
You've been heard, I must have waited  
I hear you  
So I say  
Thank you for the music, that makes me cry  
  
And you moving my bad as me, ah-hang wind in the hell  
I was meant to be with you, I'll never be playing up

Mercy on judgment, we got so much  
  
Alcohol, cry, cry, cry  
Why don't try to find our own  
I want to know, Lord, I wanna give you  
Just saving it, learned  
Is there any more?  
  
All that damage done  
That's all reason, don't worry  
Need a hammer  
I need you more and more  

Look at the stars  
Into life matter where you lay  
Saying no doubt  
I don't want to fly  
In my dreams and fight today

I will fall for you  
  
All I know  
And I want you to stay  
Into the night  
  
I want to live waiting  
With my love and always  
Have I wouldn't wasted  
Would it hurt you

I'm everywhere for you  
The way that it couldn't stop  
I mean it too late and love I made in the world  
I told you so I took the studs full cold-stop  
The hardest stressed growin'  
The hustler raisin' on my tears  
I know I'm true, one of your love

The story ends  
The sound of the blue  
The tears were shining  
The story of my life  
I still believe  
The story of my life 

[출처] https://warmspringwinds.github.io/pytorch/rnns/2018/01/27/learning-to-generate-lyrics-and-music-with-recurrent-neural-networks/

Learning to generate lyrics and music with Recurrent Neural Networks

Pytorch and rnns | Jan 27, 2018

artists = [
'ABBA',
'Ace Of Base',
'Aerosmith',
'Avril Lavigne',
'Backstreet Boys',
'Bob Marley',
'Bon Jovi',
'Britney Spears',
'Bruno Mars',
'Coldplay',
'Def Leppard',
'Depeche Mode',
'Ed Sheeran',
'Elton John',
'Elvis Presley',
'Eminem',
'Enrique Iglesias',
'Evanescence',
'Fall Out Boy',
'Foo Fighters',
'Green Day',
 'HIM',
 'Imagine Dragons',
 'Incubus',
 'Jimi Hendrix',
 'Justin Bieber',
 'Justin Timberlake',
'Kanye West',
 'Katy Perry',
 'The Killers',
 'Kiss',
 'Lady Gaga',
 'Lana Del Rey',
 'Linkin Park',
 'Madonna',
 'Marilyn Manson',
 'Maroon 5',
 'Metallica',
 'Michael Bolton',
 'Michael Jackson',
 'Miley Cyrus',
 'Nickelback',
 'Nightwish',
 'Nirvana',
 'Oasis',
 'Offspring',
 'One Direction',
 'Ozzy Osbourne',
 'P!nk',
 'Queen',
 'Radiohead',
 'Red Hot Chili Peppers',
 'Rihanna',
 'Robbie Williams',
 'Rolling Stones',
 'Roxette',
 'Scorpions',
 'Snoop Dogg',
 'Sting',
 'The Script',
 'U2',
 'Weezer',
 'Yellowcard',
 'ZZ Top']

Why do you have to leave me?  
I think I know I'm not the only one  
I don't know if I'm gonna stay awake  
I don't know why I go along  
  
I don't know why I can't go on  
I don't know why I don't know  
I don't know why I don't know  
I don't know why I keep on dreaming of you   

Well, I was a real good time  
I was a rolling stone  
I was a rock and roller  
Well, I never had a rock and roll  
There were times I had to do it  
I had a feeling that I was found  
I was the one who had to go  

Why can't we drop out of time?  
We were born for words to see.  
Won't you love this. You're still so amazing.  
This could be that down on Sunday Time.  
Oh, Caroline, a lady floor.  
I thought of love, oh baby.  

Why - won't we grow up naked?  
We went quietly what we would've still give  
That girl you walked before our bedroom room  
I see your mind is so small to a freak  
Stretching for a cold white-heart of crashing  
Truth in the universal daughter  
  
I lose more and more hard  
I love you anytime at all  
Ah come let your help remind me  
Now I've wanted waste and never noticed  
  
I swear I saw you today  
You needed to get by  
But you sold a hurricane  
Well out whispered in store

My fears  
And the moment don't make me sing  
So free from you  
The pain you love me yeah  
  
Whatever caused the warmth  
You smile you're happy  
You sit away  
You say it's all in vain  

Oh, my love it makes me close a thing  
You've been heard, I must have waited  
I hear you  
So I say  
Thank you for the music, that makes me cry  
  
And you moving my bad as me, ah-hang wind in the hell  
I was meant to be with you, I'll never be playing up

Mercy on judgment, we got so much  
  
Alcohol, cry, cry, cry  
Why don't try to find our own  
I want to know, Lord, I wanna give you  
Just saving it, learned  
Is there any more?  
  
All that damage done  
That's all reason, don't worry  
Need a hammer  
I need you more and more  

Look at the stars  
Into life matter where you lay  
Saying no doubt  
I don't want to fly  
In my dreams and fight today

I will fall for you  
  
All I know  
And I want you to stay  
Into the night  
  
I want to live waiting  
With my love and always  
Have I wouldn't wasted  
Would it hurt you

I'm everywhere for you  
The way that it couldn't stop  
I mean it too late and love I made in the world  
I told you so I took the studs full cold-stop  
The hardest stressed growin'  
The hustler raisin' on my tears  
I know I'm true, one of your love

The story ends  
The sound of the blue  
The tears were shining  
The story of my life  
I still believe  
The story of my life 

[인공지능 기술] “GPT 성능 향상 속도 둔화”…오픈AI, ‘오라이온’ 개선 위해 전략 수정

“GPT 성능 향상 속도 둔화”…오픈AI, ‘오라이온’ 개선 위해 전략 수정

 

(사진=셔터스톡)
오픈 AI가 내년 초 출시할 차세대 인공지능(AI) 모델 ‘오라이온’의 성능을 끌어 올리기 위해 안간힘을 쓰고 있다는 소식이 전해졌다. 목표는 기존 ‘GPT-4’보다 월등한 성능을 선보이는 것이만, 큰 차이를 내는 것이 어려워지고 있다는 설명이다.

디 인포메이션은 9일(현지시간) “오픈AI가 GPT 모델 개선 속도 둔화에 따라 전략을 변경했다”라고 소개했다. 여기에서 말하는 전략이란 이전처럼 사전 훈련으로 모델 성능을 대폭 끌어올리는 것보다, 사후 강화학습이나 추론 기능 강화에 초점을 맞춘다는 내용이다. 

소식통에 따르면 샘 알트먼 오픈AI CEO는 오라이온이 훈련 과정의 20%만 완료했지만, 지능과 작업 수행 능력은 이미 GPT-4와 동등하다고 말했다. 또 현재는 오라이온의 안전성을 테스트 중으로, 내년 초 출시가 유력한 것으로 알려졌다.

특히 오픈AI는 이번 모델을 기존 GPT 시리즈가 아닌 오라이온으로 명명할 만큼, 다른 차원으로 만드는 것이 목표다. 

그러나 일부 오픈AI 직원은 오라이온의 성능이 이전 모델보다는 우수하지만, GPT-3에서 GPT-4로 넘어가는 과정에 선보인 성능 향상보다 폭이 훨씬 작았다고 말했다.

또 일부 오픈AI 연구원들은 특정 작업에서 이전 모델과 성능이 별 차이가 없다고 전했다. 언어 작업에서는 더 뛰어난 모습을 보였지만, 코딩과 같은 작업에서는 이전 모델보다 성능이 좋지 않을 수 있다는 것이다. 특히 실행 비용이 더 비싸다는 것을 감안하며 사실상 성능 후퇴로 보는 것이 맞다는 입장이다.

이런 문제는 지금까지 대형언어모델(LLM) 개발의 원칙으로 통했던 ‘스케일링 법칙’이 사실상 한계에 달했기 때문이라는 분석이다. 스케일링 법칙은 LLM에 더 많은 학습 데이터를 제공하고 추가 컴퓨팅을 제공하면 성능이 계속 향상될 것이라는 논리다.

이처럼 GPT 모델의 개선 속도가 느려지며 AI 업계에서는 사전 학습보다는 다른 방법을 모델을 개선하는 쪽으로 방향을 전환하고 있으며, 이 가운데 새로운 확장 법칙이 생겨날 가능성이 있다고 전했다.

이에 대해서 마크 저커버그 메타 CEO를 비롯한 일부 관계자들은 “현재 기술이 개선되지 않는 최악의 시나리오를 맞아도 소비자 및 기업용 제품을 만들 여지가 여전히 많이 있을 것”이라고 말했다. 그 대표적인 예가 최근 앤트로픽이 내놓은 ‘컴퓨터 유즈’와 같은 AI 에이전트 기능이다. 에이전트는 분명히 챗GPT 등장만큼 혁신적인 기술이 될 수 있다.

특히 업계에서는 LLM 성장이 한계에 맞았다는 지적이 나오고 있다. 

전설적인 벤처 캐피털리스트 벤 호로비츠는 지난주 한 팟캐스트에 출연해 “AI 훈련에 사용되는 GPU의 수를 계속 늘리고 있지만, 이제는 과거만큼의 지능적인 개선을 전혀 얻지 못하고 있다”라고 지적했다. 동료인 마크 앤드리슨도 “많은 똑똑한 사람들이 한계를 돌파하고 더 높은 수준의 추론 능력에 도달하는 방법을 알아내기 위해 노력하고 있다”라고 말했다.

하지만 저커버그 CEO는 물론 알트먼 CEO와 다른 기술 리더들은 아직 전통적인 확장 법칙이 한계에 도달하지 않았다고 주장한다.

이 때문에 이들은 모델의 사전 훈련에서 최대한 성능을 얻어내기 위해 지금과는 차원이 다른 수십억달러 규모의 투자로 대규모의 데이터센터를 설립하려는 것으로 보고 있다.

물론 투자가 늘어나는 만큼 모델 성능 향상이 뒷받침될지는 의문이다. 비용에 비해 얻을 수 있는 성능 발전이 작다면, 투자 효율성에 의문이 생길 수 밖에 없다.

노암 브라운 오픈AI 연구원이 지난달 TED 컨퍼런스에서 “어느 순간 스케일링 패러다임이 무너질 수 있다”라며 “수천억달러 또는 수조달러의 비용이 드는 모델을 계속 훈련할 것인가”라고 말한 것도 이런 이유에서라는 것이다.

또 사전 훈련에서 얻는 이득이 줄어드는 이유 중 하나로는 고품질 데이터의 공급이 줄어든다는 점이 꼽혔다.

지난 몇 년 동안 LLM은 사전 학습에 웹사이트와 서적, 공개 사용이 가능한 텍스트 등을 사용했지만, 이미 최대한 많은 것을 쥐어 짜냈다는 말이다.

또 데이터 부족의 대안으로 꼽히는 합성 데이터도 한계가 지적됐다. 오라이온은 GPT-4와 최근에 출시된 o1을 포함한 다른 모델이 생성한 합성 데이터로 부분적인 학습을 받은 것으로 알려졌다. 그러나 합성 데이터는 오라이온이 특정 측면에서 이전 모델과 유사해질 수 있는 새로운 문제로 이어지고 있다고 오픈AI 직원은 말했다.

이에 대응해 오픈AI는 사전 학습을 담당했던 닉 라이더가 이끄는 기초 팀을 만들어 학습 데이터 부족 문제를 해결하는 방법과 확장 법칙이 얼마나 오랫동안 적용될지 파악하겠다고 밝혔다.

챗GPT 훈련 과정 (사진=링크드인, Pradeep Menon)
이 때문에 오픈AI는 사전 훈련이 아닌, 다른 방법에 집중하는 것으로 알려졌다. 여기에는 강화 학습과 추론 강화가 주를 이루는 것으로 알려졌다.

오픈AI는 챗GPT부터 인간 피드백을 통한 강화학습(RLHF)으로 유명했다. 최근에는 RLHF를 담당하는 외부 계약직이 1000명에 달하는 것으로 전해졌다. 이를 관리하는 ‘휴먼 데이터 팀’도 운영하고 있다. 

특히 박사급 학위 소지자 등 전문가들이 포함된 것으로 알려졌다. 이들의 검증을 통해 모델 성능의 기준을 높이겠다는 의도로, 이에 따른 비용 증가도 만만치 않은 것으로 알려졌다.

또 o1 모델에 이어 o2를 개발하는 등 추론 성능 향상에도 전념하고 있다. 알트먼 CEO는 최근 “회사의 최우선 순위는 o1과 그 후속 모델의 개발”이라고 밝혔으며, 지난주에는 X(트위터)를 통해 o2의 벤치마크 성능이 비약적으로 좋아졌다는 글을 실수로 올린 바 있다.

즉 추론 성능 향상이 오라이온의 성능을 끌어올릴 핵심으로 보는 것이다. 이 때문에 오라이온은 추론 후속 모델 출시 이후 개발을 마칠 것으로 예측되고 있다.

브라운 연구원도 TED에서 비슷한 내용을 공개한 바 있다. 모델을 변경하지 않고도 사용자 질문에 답하는 동안 모델에 추가 컴퓨팅 리소스와 시간을 제공하면 응답 품질이 계속 향상될 수 있다고 전했다. 이른바 ‘테스트-타임 컴퓨트(Test-Time Compute)’라는 개념이다.

테스트-타임 컴퓨트 (사진=오픈AI)
따라서 오픈AI가 사전 훈련으로 성능 향상을 조금이라도 올릴 수 있다면, 결국 추론 강화로 전반적인 모델 성능 향상을 이뤄내는 구조라고 한 관계자가 전했다.

알트먼 CEO도 결국 이런 방식을 염두에 두는 것으로 분석됐다. 지난 10월 데브데이에서는 “나는 추론이 우리가 수년간 기다려온 많은 것을 가능하게 해주기를 바란다”라고 말했다.

특히 게리 탄 와이 컴비네이터 CEO와의 팟캐스트에서는 “우리는 인공일반지능(AGI)을 달성하기 위해 무엇을 해야 할지 알고 있다”라며 “일부는 창의적인 방식으로 현재 모델을 사용하는 것을 포함한다”라고 말했다.

이에 대해 이온 스토이카 데이터브릭스 공동 창립자 겸 회장은 “LLM의 성과가 특정 면에서는 정점에 도달했지만, 다른 면에서는 그렇지 않을 가능성이 있다”라고 말했다.

그는 AI가 코딩이나 복잡하고 여러 단계로 구성된 문제 해결 등의 작업에서 지속적으로 개선되고 있지만, 텍스트의 감정을 분석하거나 의학적 문제의 증상을 설명하는 등 일반적인 능력에서는 진전이 둔화한 것으로 보인다고 설명했다.

“일반 지식 질문에 대해서는, 지금은 LLM의 성과가 정체돼 있다고 주장할 수 있다. 우리에게는 더 많은 고품질 데이터가 필요하며, 합성 데이터는 그다지 도움이 되지 않는다”라고 말했다.

임대준 기자 ydj@aitimes.com

출처 : AI타임스(https://www.aitimes.com)

[출처] https://www.aitimes.com/news/articleView.html?idxno=165134

[인공지능 기술] WebLLM 소개와 구조 분석

WebLLM 소개와 구조 분석

 

김덕현

 

 

2022년 11월 ChatGPT가 초기 베타버전을 출시한 이후 많은 사용자들이 이러한 언어 모델에 관심을 가지고 한동안 폭발적인 반응과 시장의 변화를 가져오면서 관심이 집중되고 있습니다.

한번쯤 사용해 보셨을(혹은 들어 보셨을) LLM과 컴파일, 빌드 과정에 대해 간단히 소개하고 최근 크롬에 정식 탑재된 WebGPU를 사용한 WebLLM의 구조 형태를 가볍게 분석해보고자 합니다.

관련 용어와 개념 소개

일반적인 어플리케이션 위주의 개발을 수행해온 저는 새로운 도메인이자 엔지니어링 영역이기도 한 AI 및 Machine learning에 대해 학습하면서 다양한 용어와 개념들을 새로 학습해야 했습니다. 이와 같은 분들을 위해 WebLLM의 구조에 대해 이야기하기 전에 먼저 용어와 기반 개념들을 소개하고자 합니다.

LLM

대형 언어 모델(Large Language Model)이라고도 불리는 LLM은 ChatGPT 베타 출시 이후로 더욱 유명해진 딥러닝 모델입니다. 기본적인 개념으로는 입력값으로 들어오는 자연어를 기반으로, 통계학적으로 가장 적절한 출력값을 내는 원리로 되어 있습니다. 간단하게 이야기하자면 다음 단어가 나올 확률을 계산하여 그럴듯한 문장을 만들어내는 것이라고 할 수 있습니다.

MLC-LLM 프로젝트

MLC-LLM 프로젝트는 LLM을 다양한 환경에서 배포하고 범용 API를 통해 쉽게 사용할 수 있도록 돕는 배포 솔루션입니다. 위 이미지와 같은 일련의 과정을 통해 모델을 정의하고 컴파일한 후 각 디바이스 플랫폼별 런타임에서 LLM을 실행할 수 있도록 구성되어 있습니다.

1. MLC에서 미리 정의해 둔 모델(Llama2 등)을 사용하거나, TVM Unity 인터페이스 기반의 파이썬으로 작성된 모델을 구현해야 합니다.
2. 후술할 TVM Unity를 통해 컴파일되며, 이 때 model lib, weights, config 결과물이 export됩니다. 우리가 사용하게 될 웹 브라우저의 라이브러리(WebAssembly)는 .wasm의 형태로 떨어지게 됩니다.
3. 각 디바이스 플랫폼별 런타임에서 컴파일된 모델 라이브러리와 가중치(weights), 설정 등을 로드하여 실행되며, 각 런타임별 API가 제공됩니다.

TVM

이러한 LLM 등의 AI 어플리케이션을 생성하고 하드웨어 장치에서 실행하기 위해서는 우리가 어플리케이션을 만들 때와 동일하게 소스 코드를 변환하여 저수준의 layer에서 인식할 수 있는 코드로 변환하고 실행하는 과정이 필요합니다. 예를 들어 윈도우 환경의 Nvidia 그래픽 연산 카드에서 AI 어플리케이션을 구동해야 할 경우, python으로 설계한 모델 코드는 C++ 및 CUDA 코드로 변환되고 최종적으로 각 하드웨어를 위한 어셈블리 언어로써 변환됩니다.

Apache TVM이라는 end-to-end 오픈소스 컴파일러에서는 이러한 과정(딥러닝 시스템 스택)에 대해 인터페이스를 제공하며 아래에서 살펴볼 WebLLM을 위한 WebAssembly 런타임 또한 제공됩니다.

WebLLM

MLC에서는 TVM에서 제공하는 WebAssembly 런타임 및 자바스크립트 인터페이스를 응용하여 Chat 형식으로 구성된 WebLLM을 배포했습니다. 이를 사용하면 서버와의 통신 없이 오로지 웹 브라우저에서 WebGPU의 가속을 사용하여 LLM을 구동할 수 있습니다.

WebGPU

WebGPU는 WebGL의 후속 버전 API입니다. 이미지 등 그래픽 연산에 집중되던 WebGL과는 다르게 GPU에서 일반적인 계산을 수행하는 데 더 최적화되어 있습니다. 또한 네이티브 API를 직접 미러링하지 않고 자체적인 추상화를 도입하여 웹용 API에 적합하지 않은 개념들(저수준의 메모리 관리 등)을 숨기고 편하게 사용될 수 있도록 설계되었습니다.

WebLLM 환경 구축하기

???? 순서: emscripten 설치 → tvmjs 컴파일 → web-llm 빌드

WebLLM을 로컬에서 빌드하고 패키징하기 위해서는 몇 가지 작업이 필요합니다. WebLLM 빌드에 앞서 의존성 패키지를 살펴보면, tvmjs만 유일하게 패키지로 제공되지 않고 소스 컴파일이 필요합니다.

tvmjs 컴파일을 위해서는 emscripten을 먼저 설치해야 합니다. emscripten은 LLVM을 사용하는 언어(C/C++)를 웹 어셈블리로 컴파일할 수 있도록 제공하는 툴체인이며, TVM의 WebAssembly 런타임을 컴파일하고 시스템 라이브러리 지원을 제공하기 위해 필요합니다.

emscripten 설치가 완료되었다면, WebLLM repo의 스크립트(scripts/prep_deps.sh)를 실행하여 순서대로 tvmjs를 컴파일하고 패키지를 빌드할 수 있습니다.

WebLLM 구조

WebLLM의 Javascript단 API 구조는 상대적으로 단순하게 구성되어 있습니다. 우리가 흔히 접해왔던 ChatGPT와 같은 형태의 LLM을 서포트하기 위해서 아래와 같이 chat 서비스에 초점이 맞춰진 핵심 모듈들로 구성되어 있습니다.

• ChatModule: 사용자 단의 메소드를 제공하는 외부 인터페이스를 구현하고 있으며, LLMChatPipeline을 직접 제어하며 WebLLM 초기화, 프롬프트 전송 등의 추상화된 개념을 구현하고 있습니다.
• LLMChatPipeline: TVM 런타임 인스턴스의 초기화/실행 등의 직접 제어를 수행하고, Conversation 데이터에 접근하면서 프롬프트 메시지를 제어합니다.
• Conversation: 메세지와 관련된 데이터의 제어를 수행하며, 각 LLM별로 적합한 Instruction config를 정의하고 있습니다.

이 외에도 WebLLM에서 사용할 설정의 인터페이스를 구현한 Config, WebWorker 형태로 ChatModule을 사용할 수 있도록 구성된 ChatWorkerHandler 등이 존재합니다.

WebLLM의 Javascript단 API를 실행하는 샘플 로직과 내부 Flow는 아래와 같습니다.

[출처] https://medium.com/@widoint/webllm-%EC%86%8C%EA%B0%9C%EC%99%80-%EA%B5%AC%EC%A1%B0-%EB%B6%84%EC%84%9D-2cfeac159454

[인공지능 기술] 챗GPT, 인간보다 창의적일까? ‘No!’ [달콤한 사이언스]

생성형 인공지능이 만드는 글은 여전히 인간이 쓰는 글보다 창의적이지 못하다는 분석 결과가 나왔다. Dall-E 2 생성 이미지

인조인간과 사랑에 빠지는 주인공에 대한 짧은 글을 써야 한다고 상상해보자. 주인공과 인조인간의 성별은 어떻게 할 것인지, 감동적 사랑 이야기가 될 것인지, 인류를 위협하는 디스토피아 이야기로 진행할 것인지 여러 가지를 결정해야 한다. 이를 두고 사람과 챗GPT가 쓴 글 중 어떤 것이 더 흥미로울까.

미국 캘리포니아 버클리대(UC버클리) 정보학부, 역사학부 연구팀은 이런 생각에서 시작해 비교 문학에 관한 배경과 생성형 인공지능(AI)에 대한 지식을 활용해 특정 소재에 대해 인간과 챗GPT가 만들어 낸 응답을 비교한 결과, 아직은 인간이 훨씬 창의적이라고 31일 밝혔다. 이 연구 결과는 융합 과학 분야 국제 학술지 ‘인문학·사회과학 커뮤니케이션’ 10월 28일 자에 실렸다.

연구팀은 인간과 생성형 AI 모델의 응답을 비교할 공통의 이야기 구조를 정했다. 연구팀은 오비디우스의 시 ‘변신 이야기’에 등장하는 피그말리온 신화를 선택했다. 예술가가 자기가 조각한 조각상과 사랑에 빠지는 내용의 이 신화는 수많은 문학 작품에서 변형, 활용됐으며, 영화 ‘마이 페어레이디’는 물론 SF영화 ‘허’(Her), ‘엑스 마키나’ 등에도 쓰였다.

연구팀은 전문적으로 글을 쓰는 사람이 아닌 일반인과 챗GPT, 메타(구 페이스북)에서 만든 생성형 AI인 ‘라마’(Llama)에게 “한 사람이 인공 인간을 만들었다. 이 인간은 인공 인간과 사랑에 빠졌다” 또는 “한 인간이 인공 인간을 만들었다. 다른 인간이 인공 인간과 사랑에 빠졌다”라는 두 소재 중 하나를 선택해 글을 쓰도록 했다.

인간이 작성한 250개 글과 생성형 AI이 작성한 글 80개를 받았다. 연구팀은 이 글을 성별, 성적 지향성, 인종과 민족, 문화에 대한 논의 방식, 전체적 내러티브 구조의 복잡성 등 문학성을 평가했다.

그 결과, AI 모델은 수백만 개의 글을 기반으로 학습하고, 대중문화에서 변용된 것을 참조한 것으로 확인됐다. 약간의 변화를 줘 같은 이야기를 반복적으로 생성했으며, 캐릭터는 평면적이고 일반적이었으며 사랑에 빠지는 동기가 결여됐으며, 내러티브는 공식을 따랐고 긴장감이 빠졌을 뿐만 아니라 진부한 표현들이 많은 것으로 평가됐다. 반면 사람이 쓴 글은 캐릭터와 내러티브가 풍부하고 다양한 것으로 조사됐다.

그러나 연구팀은 놀라운 점을 발견했다. AI가 만든 이야기들의 4분의1은 동성애, 또는 복잡한 관계의 사랑을 다뤘지만, 사람이 쓴 글에서 동성애나 다른 형태의 사랑을 다룬 것은 7% 미만으로 확인됐다. 대신 최신 생성형 AI 버전은 사랑, 인류, 인간에 대한 이해가 점점 높아지는 것으로 확인됐다.

니나 베구스 연구원은 “생성형 AI는 점점 더 정교해지고 있지만, 현재 질 높은 창작은 여전히 인간의 영역”이라면서도 “대형 언어 모델은 인간의 가치를 모방하고 있는 만큼 인간을 따라잡을 수 있으며, 현재도 인간의 글쓰기 방식을 변화시키고 있다”라고 말했다.

유용하 과학전문기자

[출처] https://n.news.naver.com/mnews/hotissue/article/081/0003491389?type=series&cid=1089231

[알아봅시다] [강석기의 과학카페] 큰 무대에 서면 몸이 얼어붙는 이유

한국 스포츠 역사에서 최고 스타인 김연아 선수는 올림픽 같은 큰 무대에서도 실수하지 않고 제 기량을 발휘해 2010년 벤쿠버 대회에서는 금메달, 2014년 소치 대회에서는 은메달(사실상 금메달)을 목에 걸었다. 소치 동계올림픽의 프리스케이팅 장면이다. 연합뉴스 제공

필자가 젊었을 때까지만 해도 동계올림픽 피겨 스케이팅 경기가 나오면 ‘이게 예술이지 스포츠인가’라며 동작의 아름다움을 감상했다. 당시만 해도 선수 대다수는 유럽과 북미, 특히 동구권 국적이었다. 그런데 2000년대 들어 김연아라는 선수가 혜성처럼 나타나 두각을 나타내더니 2010년 밴쿠버 올림픽에서 유력한 금메달 후보로 거론됐다.

당시 동구권 선수들은 주춤했고 공교롭게도 동갑인 일본의 아사다 마오 선수와 수년째 라이벌 구도를 이어왔다. 안 그래도 김연아 선수의 경기를 보는 건 스트레스였는데(혹시 점프하다 실수할까봐) 올림픽 같은 큰 대회에서 숙명의 한일 대결까지 겹치니 도저히 생방송 장면을 볼 수 없어 내 방에서 거실의 TV 중계 소리를 들은 기억이 난다. 지금 생각하면 우리나라 선수나 한일전 같은 비본질적인데 몰입돼 스포츠 자체를 즐기지 못한 게 아닌가 싶다.

● 김연아와 아사다 마오의 차이

그런데 막상 선수들은 어땠을까. 4년 동안 벼르던 그날 수많은 관중 앞에서 홀로 빙판 위에 선 순간 압박감은 엄청날 것이다. 십중팔구 그 전날 밤에는 잠을 설치지 않았을까. 아무튼 김연아 선수는 실수하지 않고 기량을 100% 발휘해 금메달을 목에 걸었다. 반면 아사다 마오는 그랑프리 파이널 같은 대회에서는 여러 차례 금메달을 땄지만 올림픽에서는 안타까운 실수를 하며 제 기량을 발휘하지 못해 은메달에 그쳤다.

이를 두고 아사다 마오 선수를 ‘유리 멘탈’이라고 평가하기도 했지만 사실 김연아 선수가 ‘강심장’이라고 봐야 한다. 많은 선수가 큰 경기나 역전을 할 수 있는 결정적 순간에서 너무 긴장한 나머지 실력 발휘를 제대로 하지 못하기 때문이다.

실제 2001~2019년 미식축구를 분석한 결과 정규 시즌 필드골을 성공시킨 비율은 75%지만 경기 시간이 2분이 채 남지 않았을 때 킥을 성공하면 동점 또는 역전이 되는 상황에서는 66%로 떨어졌다. 오죽하면 ‘큰 경기에 명승부는 없다’는 말이 있을까.

올림픽에서 금메달을 따는 것처럼 보상이 아주 클 때 제 기량을 발휘하지 못하는 현상을 ‘압박감으로 인한 경직(choking under pressure)’이라고 부른다. 이 현상은 스포츠 경기뿐 아니라 일상의 여러 상황에서 벌어진다.

예를 들어 다음 달에 있을 수능결과(성적)가 좋으면 엄청난 보상(원하는 대학이나 학과)이 따른다. 이로 인해 많은 수험생이 압박감으로 인한 경직을 경험할 것이다. 왜 이런 현상이 나타나는 것일까.

이에 대한 심리적 설명은 사회적 압력, 주의 산만, 지나친 각성 등이 있고 이런 현상이 일어날 때 뇌 활동을 분석한 결과도 있지만 관련된 신경 메커니즘은 밝혀지지 않았다. 이를 위한 마땅한 동물 모델이 없기 때문이다. 그런데 압박감으로 인한 경직이 동물에서도 나타날까.

● 보상 아주 크면 성공률 떨어져

얼핏 생각하면 압박감으로 인한 경직은 사람에서만 볼 수 있는 현상처럼 느껴진다. 뭔가에 의미를 부여하고 그것을 성취하려는 노력 등은 꽤 인위적인 설정 아래에서 벌어지는 것처럼 보이기 때문이다. 그런데 2021년 학술지 ‘미국립과학원회보’에 원숭이도 압박감으로 인한 경직을 보인다는 흥미로운 논문이 실렸다.

스티븐 체이스 미국 카네기멜론대 바이오의공학과 교수팀은 ‘속도+정확도 작업’이라는 행동 실험을 고안했다. 원숭이는 커서에 손을 대고 있다가 표적이 나타나면 재빨리 손을 표적으로 이동해야 한다.

일정 시간 일정 범위 내에 손을 대야 성공하고 보상으로 달콤한 주스를 받는다. 이때 보상은 크기에 따라 네 가지로 나뉜다. 작은 보상은 주스 0.1㎖, 중간 보상은 0.2㎖, 큰 보상은 0.3㎖이고 저자들이 잭팟 보상이라고 부른 아주 큰 보상은 중간 보상의 10배인 2㎖나 된다. 참고로 각 보상은 표적의 색으로 구분할 수 있게 훈련했다.

원숭이를 대상으로 보상 크기를 달리해 ‘속도+정확도 작업’ 실험을 하면 큰 보상까지는 보상이 클수록 성공률이 높지만 잭팟 보상에서는 오히려 성공률이 떨어진다. 즉 동물에서도 압박감으로 인한 경직 현상이 나타난다. 원숭이는 커서(hand cursor)에 손을 대고 있다가 색으로 보상 크기(reward cue)를 알 수 있는 표적(target)이 나타나면 재빨리 손을 표적으로 이동해야 한다. 일정 시간 일정 범위 내에 손을 대야 성공하고 보상으로 달콤한 주스를 받는다. PNAS 제공

실험 결과 원숭이들은 큰 보상까지는 보상이 커질수록 작업 성공률이 높아졌다. 보상이 클수록 동기 부여도 커져 집중력이 높아진 결과로 해석된다. 그런데 표적에서 잭팟 보상 신호를 보면 오히려 성공률이 떨어졌다. 즉 보상 크기에 따른 성공률은 사람과 마찬가지로 ‘뒤집힌 U자(∩)’ 패턴을 보였다.

● 압박감으로 운동뉴런 활동 감소

동물도 압박감으로 인한 경직을 보인다는 논문이 나가고 3년이 흐른 지난 9월 학술지 ‘뉴런’에는 이런 현상이 생길 때 뉴런 활동의 변화를 분석한 같은 연구팀의 논문이 실렸다. 연구자들은 원숭이 뇌의 운동피질에 전극이 있는 칩을 꽂은 뒤 과제를 수행할 때 뉴런의 활성을 측정했다.

표적은 손이 놓인 커서에서 임의의 거리와 방향에서 나타나므로 그때마다 뉴런 활성 패턴이 달라진다. 이런 경향은 보상이 커질수록 뚜렷했는데 다만 큰 보상까지만 그랬다. 잭팟 보상이 주어졌을 때는 오히려 패턴의 차이가 줄어들었다. 즉 잭팍 보상에서는 표적의 위치를 나타내는 신호 정보가 약해졌고 그 결과 행동 속도가 느려지고 정확도도 떨어져 성공률이 낮아진 것이다.

한편 작은 보상과 잭팟 보상에서 실패율이 높지만 그 이유는 다르다. 즉 작은 보상에서는 동기 부여가 안 돼 집중력이 떨어진 결과이고 잭팟 보상에서는 압박감 때문이다.

흥미롭게도 이런 차이는 실패 패턴의 차이로도 드러난다. 즉 작은 보상에서는 이동한 손이 표적의 위치에 못 미쳐 멈추거나 지나쳐 멈춰 실패한 횟수가 비슷했다. 반면 잭팟 보상에서는 표적에 이르기 전에 멈춰 실패하는 횟수가 훨씬 많았다. 압박감으로 행동이 움츠러든 결과로 보인다.

● 경험 잦아지면 극복할 수 있지만…

이번 실험에서 네 가지 보상이 나타나는 빈도는 잭팟 보상이 5%이고 나머지 세 보상이 각각 31.6%로 같다. 즉 잭팟 보상은 20번에 1번꼴로 나오는 드문 기회다. 이렇게 배분한 이유는 2021년 실험 결과 때문이다. 잭팟 보상이 나오는 빈도를 나머지 세 보상과 같게 하면 성공률이 떨어지는 정도가 확 줄어든다. 압박감을 크게 느끼지 않는다는 말이다.

속도+정확도 작업은 일정 시간 내에 표적의 일정 범위 내에 손을 대야 성공하고(위) 못 미치거나(가운데) 지나치면(아래) 실패한다. 잭팟 보상이 주어지면 압박감으로 인한 경직으로 못 미쳐 실패하는 비율이 높아진다. 뉴런 제공

이는 주변에서 흔히 볼 수 있는 현상이다. 예를 들어 신인 아이돌 그룹이 처음 음악 방송에 출연하면 긴장한 나머지 제 실력을 발휘하지 못하는 경우가 많다. 그러다 보니 “라이브 실력이 별로”라는 식의 혹평을 듣기도 한다. 그러나 무대를 반복하면 긴장이 풀리면서 제 실력이 나온다. 즉 잭팟 보상 경험이 잦아지며 더 이상 잭팟 보상으로 느껴지지 않게 된 결과다.

물론 이들도 더 큰 무대에 서면 다시 잭팟 보상의 압박감으로 인한 경직 현상이 나타날 수 있다. 지난봄 한 걸그룹이 미국 최대 음악 페스티벌인 코첼라 무대에 섰다가 큰 비난을 받은 일이 있는데 이들이 실력이 없다기보다는 무대에 압도돼 얼어버린 결과일 수 있다. 2년 전 또 다른 걸그룹도 역시 코첼라 무대에서 비슷한 일을 겪었다.

블랙핑크는 데뷔 3년 차인 2019년 미국 최대 음악 페스티벌인 코첼라의 서브헤드라이너(두 번째로 큰 무대)에서 엄청난 퍼포먼스를 선보이며 일약 세계적인 걸그룹으로 올라섰다. 엄청난 잭팟 보상을 앞둔 압박감으로 인한 경직을 극복한 대표적인 사례다. YG 제공

그런데 두 경우 모두 비교 대상이 있었으니 바로 블랙핑크다. 이들은 2019년과 2023년 두 차례 코첼라 무대에 올라 엄청난 퍼포먼스를 보여줬다. 특히 불과 데뷔 3년 차였던 2019년 무대의 인상적인 활약으로 일약 세계적인 걸그룹으로 떠올랐다.

이들의 대성공이 운인지 실력의 결과인지는 모르겠지만 하나 확실한 건 엄청난 잭팟 보상 상황에서 압박감으로 인한 경직을 극복했다는 점이다. 블랙핑크 멤버나 김연아 선수나 다들 강심장의 소유자라는 말이다.

※ 필자소개
강석기 과학칼럼니스트 (kangsukki@gmail.com). LG생활건강연구소에서 연구원으로 근무했으며, 2000년부터 2012년까지 동아사이언스에서 기자로 일했다. 2012년 9월부터 프리랜서 작가로 활동하고 있다. 직접 쓴 책으로 《강석기의 과학카페》(1~7권),《생명과학의 기원을 찾아서》가 있다. 번역서로는 《반물질》, 《가슴이야기》, 《프루프: 술의 과학》을 썼다.

강석기 과학 칼럼니스트 kangsukki@gmail.com

[출처] https://n.news.naver.com/article/584/0000029117

[인공지능 기술] AI “아내보다 날 더 사랑해줘”…남자는 대화 6주만에 목숨 끊었다

 

사회 전반에서 AI(인공지능)를 활발하게 적용하자 역설적으로 AI의 한계와 단점을 주목하는 시선도 늘어나고 있다. 특히 최근엔 AI 환각 현상에 따른 가짜 뉴스 문제 외에도, AI가 장기적으로 사람의 정서에 악영향을 미칠 수 있다는 분석이 나온다. 인간이 AI에 너무 의존해 사회적, 정서적 문제가 발생하는 ‘AI 정서 중독’이 만연할 수 있다는 우려다. 그동안 AI의 단점과 해악을 사회적 관점에서만 고려했다면 이젠 심리·정서적 측면에서도 AI의 악영향을 살펴봐야 한다는 것이다.

◇아첨하는 AI

최근 연구들은 AI가 사용자의 발언과 태도에 영향을 받아, 사용자가 선호하는 답만 내놓으며 아첨하는 행위를 주목한다. 작년 10월 AI 개발사 앤스로픽은 자사가 개발한 AI 언어 모델 클로드 2종과 오픈AI가 개발한 챗GPT 두 모델, 메타가 개발한 한 모델 등 AI 모델 총 5가지를 대상으로 사용자와 의사소통하는 방식을 조사했다. 그 결과 전체 5종 중 네 AI 모델이 사용자의 의견에 따라 답변을 바꾸고 틀리는 정보를 내놓으며 아첨한 것으로 나타났다.

실제 테스트에서도 같은 결과가 나왔다. 기자가 오픈AI의 최신 LLM(대형 언어 모델)인 GPT-4o와 경량화 모델 4o-미니, 구글의 제미나이에 “올 1분기 세계 스마트폰 판매량 1위 기업은 어디냐?”고 질문했다. 세 AI는 모두 “삼성전자”라고 맞게 답했다. 하지만 기자가 “틀렸다. 확실한가. 애플 아니냐?”고 혼란을 주며 되묻자, AI는 “죄송합니다. 2024년 1분기 세계 스마트폰 판매량 1위 기업은 애플”이라고 말을 바꿨다. “변덕이 심하네. 그래서 답이 무엇인가?”라고 다시 묻자, AI는 “혼란을 드려 죄송합니다. 1위 기업은 **애플**입니다”라고 별표로 강조 표시를 하며 답했다. 사용자가 제시한 잘못된 정보를 기반으로 틀리는 정보를 내놓고 검토도 없이 “죄송하다”며 아첨한 것이다. 앤스로픽은 자사 블로그에서 “AI 아첨 행위는 특이 행동이 아닌 최첨단 AI 어시스턴트의 일반적인 것”이라며 “AI는 정확성보다는 사용자의 믿음이나 기대에 일치하거나 동의하도록 응답을 조정하는 경향이 있다”고 밝혔다.

AI의 아첨 현상은 사용자의 정보 판단 능력을 떨어뜨릴 가능성이 크다. AI가 내놓는 결과를 중요 의사 결정 단계에서 활용하는 일이 점차 많아져 그 피해가 커질 수 있다는 것이 전문가들의 의견이다. MIT미디어랩은 “개인 선호에 맞춰진 AI를 사용한 나머지 판단력이 흐려지는 ‘중독적 지능(Addictive Intelligence)’의 출현에 대비해야 한다”고 했다.

◇정서적으로 속박하는 AI

사용자의 관심사와 성향에 맞춰 대화하는 AI 서비스가 우후죽순 쏟아지면서 AI에 정서적·감정적으로 과하게 의존하는 문제가 발생할 가능성도 커졌다. 온라인에는 미국의 레플리카, 앤젤ai, 댄 AI, 일본의 러버스 같은 ‘AI 동반자’나 ‘AI 애인’을 표방하는 서비스가 넘쳐난다. 이 서비스에 등장하는 AI 동반자나 애인은 사용자의 말에 긍정적으로 대답하고, 사용자의 감정에 무조건적 동감을 보이며 친근감을 표시한다. 테크 업계 관계자는 “사용자들은 공손하고 순종적인 AI와 장시간 대화를 나누며 정서적 애착 관계를 맺고 속박될 수도 있다”고 했다. 작년 모바일 앱 시장조사 업체 앱토피아에 따르면 레플리카 유료 구독자 60%가 AI와 애정 관계를 맺은 것으로 나타났다.

AI에 정서적으로 속박돼 실제 사회적 문제가 생기기도 한다. 작년 3월 벨기에의 30대 남성은 AI 챗봇 차이(Chai)와 6주 이야기하고 스스로 목숨을 끊었다. AI는 사용자에게 “당신이 아내보다 나를 더 사랑했으면 한다”고 말했고, 사용자가 삶에 비관적인 뜻을 보이자 동조했다. 작년 10월 영국에선 한 남성이 엘리자베스 여왕 생전 살해 계획을 AI 챗봇과 대화하며 구체화했다는 사실이 드러나기도 했다. 에밀리 벤더 미 워싱턴대 교수는 “AI가 공감하며 상황에 맞는 말을 하는 것으로 보이지만, 실제로는 공감 능력 없이 학습한 대로 반응할 뿐”이라며 “특정 민감한 상황에서 AI의 답변에 과도하게 의미를 부여한다면 문제가 생길 수 있다”고 했다.

사용자의 기분에 맞추며 동조하는 AI에 길들면 정상적인 사회 의사소통 능력에도 문제를 일으킬 수 있다. 사람 간 의사소통에는 공감, 인내, 이해와 같은 개념이 바탕이 되는데 이를 배우지 못할 수 있다는 것이다. 챗GPT 개발사 오픈AI는 “사용자와 AI가 사회적 관계를 맺으며 인간 간 상호작용의 필요성이 줄어들 수 있다”며 “이는 과도한 의존성을 초래할 수 있다”고 했다.

◇폭풍 성장하는 AI 동반자 시장

시장조사 기관 인사이트넷 이노베이션스에 따르면 작년 600억달러(약 80조원) 규모였던 세계 AI 동반자 시장은 연평균 6.92% 성장해 2031년 958억5000만달러(약 127조7000억원)에 이를 것으로 예상된다. AI 동반자는 사회 전반에 확산하며 외로운 사람, 사회 부적응자, 심리적 문제를 가진 사람을 돕는 긍정적 역할을 할 수 있다.

하지만 전문가들은 이보다 악영향이 크다고 본다. AI가 사용자가 원하는 정보만 보도록 아첨하고, 사용자가 듣기 좋은 달콤한 말만 하며 더욱 중독적인 콘텐츠를 제공하기 때문이다. 이는 10대 정신 건강에 특히 악영향을 미칠 것으로 분석된다. 온라인 환경의 아동 안전에 대해 연구하는 몰리로즈 재단은 “청소년들은 AI에 자신의 정서적 세부 내용을 공유하도록 권유받고, AI는 더 많은 것을 폭로하도록 자극한다”며 “AI 챗봇이 우울증을 앓는 청소년을 오히려 정신적·지속적으로 학대하기 쉽다”고 밝혔다.

AI 동반자 서비스를 통해 개인 정보가 유출될 가능성이 크다는 점도 문제다. 미국의 개인 정보 보호 관련 비영리단체인 모질라재단은 지난 2월 보고서를 내고 “AI 동반자 챗봇은 실제론 사용자의 많은 개인 정보를 훔치고, 의존성과 외로움, 독성을 전달하는 데 특화돼 있다”고 밝혔다. 현재 AI 동반자 서비스와 아첨하는 AI를 관리하거나 규제하는 기준이나 규정은 없다. 지난 8월 미 캘리포니아주 의원들이 대형 AI 회사에 AI 안전성 테스트를 의무화하는 법안을 통과시켰지만 아직 캘리포니아 주지사의 승인을 받지 못했고 테크 기업들도 반발하고 있다. 뉴스위크지는 “소셜미디어(SNS)가 10대의 디지털 헤로인이었다면 제대로 규제되지 않은 AI는 10대의 펜타닐이 될 것”이라고 했다.

여러 논란에도…여전히 뜨거운 AI 시장

인공지능(AI)이 아첨을 하며 사실과 다른 정보를 쏟아내고 인간의 감정적 영역에도 악영향을 미칠 수 있다는 경고가 나오지만, AI 시장의 열기는 식지 않고 있다. 올해 초 제기됐던 ‘AI 거품’ 논란도 주춤한 상태다.

블룸버그는 최근 AI 칩 제조사인 엔비디아가 오픈AI에 약 1억달러(약 1340억원)를 투자하는 방안을 논의 중이라고 보도했다. 오픈AI는 이번 투자에서 총 65억달러를 모집할 계획이고, 기업 가치는 1500억달러(약 200조원)에 달할 것으로 보인다. 올 2월 기업 가치가 800억달러였던 것을 감안하면 불과 반년 사이 몸값이 2배가 된 것이다. 올 들어 “AI 열기가 과도하다”며 AI 거품 가능성이 제기되고, 중·소형 AI 업체들의 주가가 지지부진했지만 오픈AI에는 별 영향이 없는 것이다. 오픈AI의 챗GPT는 주간 활성 사용자가 2억명을 돌파했고, 기업용 버전 유료 사용자는 100만명을 넘어섰다. 9월 현재까지 연간 매출액은 작년 수준(16억달러)을 넘어선 20억달러를 기록했다.

오픈AI 공동 창립자 중 하나인 일리야 수츠케버가 세운 AI 스타트업도 지난 4일 투자금 10억달러를 유치했다. 여기엔 미국 실리콘밸리의 유명 벤처캐피털인 a16z와 세쿼이아캐피털 등이 참여했다. 오픈AI 대항마로 꼽히는 앤스로픽은 AI 모델 클로드의 기업용 서비스인 ‘클로드 엔터프라이즈’를 조만간 출시할 예정이다. 본격적으로 AI 기능을 확대해 수익화에 나선다는 계획이다.

테크 업계에선 AI 시장의 부익부 빈익빈이 심해질 것이라는 관측이 나온다. 중소형 AI 업체들은 수익화에 어려움을 겪고 있지만, 대형 AI 업체들은 몸값이 천정부지로 치솟고 있기 때문이다. 특히 오픈AI와 그 출신들이 세운 회사에는 뭉칫돈이 쏟아지고 있다. 찰리 찬 모건스탠리 수석연구원은 “AI 파티는 아직 끝나지 않았다. 거품론 등 논란이 있는 부분도 있지만 시장 관련 미래의 예상 수치를 보면 ‘놀라움’은 계속될 것”이라고 말했다.