26 9월 2023

[인공지능 기술] 챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기

[인공지능 기술] 챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기

챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기

입력

오픈AI 로고. photo 뉴시스/AP통신

생성형 인공지능(AI) 챗GPT가 말하고 보고 들을 수도 있게 됐다. 전문가들은 나날이 발전하는 AI 기술이 사용자에게 어떻게 작용할지 모른다고 경고했다.

오픈AI는 25일(현지시간) 챗GPT의 새로운 음성 및 이미지 기능을 출시한다고 밝혔다.

새로운 기능인 ‘듣고 말하는 기능’을 통해 챗GPT는 이용자와 음성을 통해 질문과 답변을 주고받을 수 있게 된다. 현재까지는 프롬프트를 통해 대화해왔다.음성으로 질문을 하면 챗GPT가 이를 텍스트로 변환해 대규모 언어 모델(LLM)에 전달하고, 답변을 받아 다시 음성으로 변환해 말하는 구조다.

또 5가지 형태로 제공되는 챗GPT 음성 중 하나를 선택할 수 있다. 오픈AI는 또 세계 최대 음원 스트리밍 서비스인 스포티파이와 협력해 목소리를 유지하면서 다른 언어로 번역이 가능하게 하는 방안도 검토하고 있다고 설명했다.

해당 기능은 애플 iOS 및 구글 안드로이드로 제공된다. 해당 기능은 앞으로 2주 안에 챗GPT 유료 구독자에게 먼저 제공하고 이후 모든 사람도 이용할 수 있도록 배포할 예정이다.

아울러 챗GPT는 이미지를 보고 ‘답하는’ 기능도 탑재된다. 이용자가 사진을 찍거나 이미지를 올린 후 관련 질문을 하면 챗GPT가 답을 해주는 형태다. 이 기능은 향후 몇 주내 유료 구독자와 기업 이용자들에게 제공된다.

오픈AI는 “우리 목표는 안전하고 유익한 AGI(범용인공지능)를 구축하는 것”이라며 “새로운 도구를 점진적으로 제공하는 것이 기능을 개선하고 위험을 완화함으로써 모든 사람이 미래에 더 강력한 시스템을 사용할 수 있도록 준비할 수 있다고 믿는다”고 설명했다.

다만 일부 전문가는 AI의 발전이 사회에 어떤 작용을 초래할지 모른다고 우려한다. 전문가들은 챗GPT가 이번에 공개한 음성 합성 기술 등이 딥페이크 등 사이버 범죄에 악용될 수 있다고 우려하고 있다. 워싱턴포스트(WP)에 따르면 전문가들은 사용자들과 새로운 AI 기술과의 상호 작용은 갈수록 발전하겠지만 사회에 어떤 영향을 미칠지는 아직 알 수 없다고 지적했다.

특히 AI 연구자들은 챗GPT의 답변이 인간과 유사해 보인다는 점에서 사용자들이 챗봇을 의인화할 가능성이 높다는 점도 경고했다.

일부 확인이 안된 정보도 사용자가 쉽게 받아들이게 되면서 AI 기능에 대한 잘못된 신뢰를 심어줄 수 있다는 주장이다. 현재 대부분의 AI기능들이 방대한 정보를 모아 구성하고 이를 실제인 것처럼 전달하는 과정을 전문가들은 위험한 ‘환각’이라고 부른다는 것이다.

이와 관련 오픈AI 정책 연구원 산디니 아가왈은 WP와의 인터뷰에서 “지속적인 실험과 안전 가드레일을 설정해 정신 건강 등 민감한 주제와 관련된 질문을 하면 전문가와 상담하도록 제안하는 등 주제에 적절하게 응답하는지 확인했다”고 밝혔다.

※주간조선 온라인 기사입니다.

[출처] https://n.news.naver.com/mnews/article/053/0000038711?sid=105

Loading

26 9월 2023

[물리] [레디!퓨전] 최대 ‘인공태양’ 토대 제공한 ‘이곳’…핵융합 안정화 꿈꾼다

[물리] [레디!퓨전] 최대 ‘인공태양’ 토대 제공한 ‘이곳’…핵융합 안정화 꿈꾼다

[레디!퓨전] 최대 ‘인공태양’ 토대 제공한 ‘이곳’…핵융합 안정화 꿈꾼다

입력
독일 막스플랑크플라즈마물리연구소, 스텔라레이터·토카막 동시 연구 ‘한창’

독일 바이에른주 가르힝에 위치한 막스플랑크 플라스마물리연구소(IPP)의 전경. 가르힝=박건희 기자

독일의 지성’이라고도 불리는 막스플랑크연구소는 독일 전역에 총 85개 주제별 연구소를 두고 있다. 그중 독일 남부 바이에른주 뮌헨 근처에 위치한 막스플랑크 플라즈마물리연구소(MPIPP)는 유럽 핵융합의 미래를 이끌고 있다고 해도 과언이 아니다. 세계 최대 스텔라레이터 핵융합기 ‘벤델슈타인-7X(W-7x)’가 이곳에서 탄생했다. 플라즈마물리연구소(IPP)가 개발한 ‘아스덱스-업그레이드(ASDEX-Upgrade)’는 프랑스 남부에 건설 중인 국제핵융합실험로(ITER)와 ITER의 뒤를 이을 차세대 유럽 핵융합기 DEMO의 이론적 바탕이 됐다.

IPP 입구(왼쪽)와 초대 소장을 지낸 물리학자 베르너 하이젠베르크의 흉상. 가르힝=박건희 기자

MPIPP는 1960년에 문을 열었다. 양자역학의 기본 원리 중 하나인 ‘불확정성원리’를 세운 이론물리학자 베르너 하이젠베르크가 이곳 바이에른주 가르힝에 막스플랑크 물리연구소를 세우는 데 주축이 됐고 초대 소장을 지냈다. 이후 MPIPP에서는 1991년 토카막 형식의 핵융합 ‘ASDEX 업그레이드’가 첫 가동됐다. ASDEX 업그레이드의 목표는 토카막 내부에 가둬둔 플라즈마의 온도·압력 등 성질을 정확히 측정하고 이해하는 것이었다. 실험을 통해 얻은 수치는 세계 최대 규모의 프로젝트 ITER를 건설하는 발판이 됐다.

W-7X 건설 현장 당시. MPIPP 제공

● 토로이드 구조 단점 보완해 플라즈마 안정성 높인 ‘스텔라레이터’

1994년엔 스텔라레이터 형식의 핵융합기 ‘W-7X’를 실험하기 위한 MPIPP 두 번째 지부가 독일 북동쪽 끝자락에 위치한 도시 그라이프스발트에 세워졌다. W-7X는 높이 3.5m로, 2023년 기준 세계 최대 스텔라레이터(stellarator)다.

스텔라레이터는 핵융합에너지를 발생시키는 자기장 방식의 하나다. 1951년 라이만 스피처 미국 프린스턴대 교수가 처음 고안했다. 핵융합로 개발 초기 플라즈마 입자가 바깥으로 새어나가지 않게 하기 위한 여러가지 방법이 제시됐는데, 그중 하나가 플라즈마를 원통 용기 안에 가두고 원통 용기의 시작과 끝을 연결한 도넛 모양의 ‘토로이드(toroid)’ 구조였다.

토로이드 구조 주변에 강력한 자기장을 형성해 플라즈마가 도넛 모양 용기 내부에서 흐르도록 한 것이 토카막이다. 플라즈마를 가장 효과적으로 내부에 가둬둘 수 있기 때문에 ITER, 한국형초전도핵융합연구장치(KSTAR), 미국 매사추세츠공대(MIT)의 스파크(SPARC) 등이 채택한 방식이기도 하다.

그러나 토카막 방식엔 도넛 모양의 안쪽에 비해 바깥쪽 부분에 미치는 자기장의 영향력이 약하다는 한계가 있었다. 자기장이 약한 바깥쪽 부분으로 플라즈마 입자가 빠져나가면 플라즈마의 흐름이 불안정해진다.

스텔라레이터는 이와 같은 불안정성을 극복하기 위해 제안된 형태다. 자기장을 꽈배기처럼 살짝 꼬아주면 플라즈마 입자가 토로이드 구조의 바깥쪽과 안쪽을 오가면서 움직이기 때문에 도넛 모양에서의 비대칭적인 움직임을 보완할 수 있다는 것이다. W-7X는 모듈식으로 구성된 자기 코일 50개가 자기장과 플라즈마를 감싸는 ‘헬리아스’식 스텔라레이터다. 슈퍼컴퓨터를 이용해 모듈식으로 하나 하나 제작한 자기코일은 고장나거나 수명이 다한 코일만 단독으로 떼어내 수리할 수 있어 효율성을 높였다.

연구소 내에 전시돼 있는 개발 초기 스텔라레이터. 자기 코일이 통째로 이어져 있어 고장 시 수리가 어렵다(왼쪽).각각의 모듈화된 자기코일이 적용된 W-7X의 새로운 설계 방식(오른쪽). 가르힝=박건희 기자

연구소 내에 전시된 벤델슈타인 7-X의 축소 모형(왼쪽)과 자기 코일 모형(오른쪽). 가르힝=박건희 기자

● 핵융합에너지 상용화 필수 조건은 ‘내벽 재료’ 연구…한국 연구원 핵심 역할

스텔라레이터와 토카막 중 어떤 형식의 핵융합로를 선택할 것인가라는 질문의 핵심은 결국 플라즈마를 얼마나 오래, 효과적으로 가둬둘 수 있느냐다. 1억도의 플라즈마를 최대한 오래 유지할 수 있을 정도로 성능이 뛰어나야만 기기의 생산력과 수명을 담보하고, 실질적인 핵융합 발전까지 이를 수 있기 때문이다.

실험실에 비치된 다이버터 모형을 보여주며 연구 내용을 설명하는 볼프강 야콥 박사. 가르힝=박건희 기자

플라즈마 물리학자들은 핵융합로에서도 ‘다이버터(Divertor)’를 핵심 내부 구조물로 꼽는다. 다이버터는 연료에 섞인 반응생성물(헬륨)과 불순물을 운전 중에 연속적으로 제거해 핵융합 반응이 안정적으로 유지되도록 하는 역할이다. 중성자에 직접 노출돼 있어 초내열 성능이 필수적이다.

MPIPP에서 핵융합로의 내벽재료 표면과 플라즈마 경계면 사이의 물리적 상호작용을 연구하는 볼프강 야콥 박사는 “당구공을 떠올려 보라”고 말했다. 핵융합 반응에서 나온 중성입자가 토카막 내에서 이리저리 튀는 모습이 마치 당구대로 당구공을 탁 쳤을 때 사방팔방으로 튀듯이 흩어지는 공과 비슷하다는 의미다. 중성자가 내벽에 부딪히다가 내벽 사이에 생긴 아주 좁은 틈으로 스며들어가기라도 한다면 핵융합로에 심각한 손상을 입힌다. 야콥 박사는 “핵융합기기를 안정적으로 운영하기 위해선 내벽 재료에 대한 보완 연구가 필수”라고 설명했다.

유정하 MPIPP 책임연구원도 20년이 넘는 기간 동안 MPIPP에서 연구를 해 온 플라즈마 물리 분야에서 손에 꼽는 전문가다. 유럽 내 협력 기구인 유로퓨전(Eurofusion) 컨소시엄에서 다이버터의 설계와 개발 책임을 맡고 있는 그는 올해 국내·외 한인 석학으로 구성된 글로벌 R&D 혁신자문위의 민간위원으로 선정되기도 했다.

유 책임연구원은 연구소에서의 대부분의 시간을 ‘GLADIS’와 함께 보낸다. 가르힝=박건희 기자

유 책임연구원는 ‘글라디스(GLADIS)’라는 2메가와트(MW)의 고출력 중성자빔 장치가 설치된 실험실로 안내했다. 그가 “가장 고마운 장비”라고 부르는 GLADIS는 평방미터당 40MW에 이르는 높은 에너지 밀도의 수소원자를 다이버터 구조물 모형의 표면에 입사시키는 장치다. 이를 통해 실제 핵융합로와 가까운 열부하 조건에서 다이버터의 열적·기계적 성능을 시험하고 주재료인 텅스텐에서 일어나는 미세한 변화와 안정성을 관찰한다.

전자현미경을 통해 수소원자를 맞은 다이버터 모델의 단면을 관찰하면, 마치 골다공증에 걸린 뼈처럼 내부가 부식돼 있음을 확인할 수 있다. 유 책임연구원은 “GLADIS가 지난 20년간 유럽에서 진행된 다이버터 또는 핵융합로 1차 내벽의 시험 및 개발에서 중추적인 역할을 맡고 있으며 해외 연구기관들이 의뢰한 수탁 과제도 활발히 수행하고 있다”고 설명했다.

이어 유 책임연구원은 “현재 기술 수준은 플라즈마의 불안정성 문제와 상용화에 필요한 경제성을 충분히 충족하지 못하고 있기 때문에 지속적인 연구가 필요하다”고 덧붙였다.

실험실 곳곳 글라디스를 활용한 연구 결과가 게시돼 있다.전자현미경으로 관찰하 텅스텐의 단면(왼쪽)과 그 내부 형태(오른쪽). 가르힝=박건희 기자

 

※이 기사는 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

[출처] https://n.news.naver.com/article/584/0000024411?ntype=RANKING

Loading

26 9월 2023

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 023.Hey Jude — The Beatles (헤이 쥬드: 비틀즈 -해이 주드) [듣기/가사/해석]

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 023.Hey Jude — The Beatles (헤이 쥬드: 비틀즈 -해이 주드) [듣기/가사/해석]

 
The Beatles – Hey Jude [듣기/가사/해석]
 
 
20세기 대중음악계에 가장 커다란 부분을 차지하는 뮤지션을 꼽으려한다면 그 중의 한자리는 영국출신의 록그룹 비틀즈가 차지할 것이라는 것에는 의심이 없을 것이다. 그들의 음악은 60년대 말 혜성과 같이 등장하여 그룹이 해체된 뒤인 70년대는 말할 것도 없고 세기가 바뀐 오늘 날에도 대중적으로 가장 사랑받는 명곡이다. 그들은 여전히 살아있는 록의 전설이고 그들이 남긴 숱한 일화들은 그들이 활동하던 시기에는 태어나지도 않았던 이들에게까지 회자되고 있다.
 
 
더 비틀즈(영어: The Beatles)는 멤버 전원이 영국 리버풀 출신인 록 밴드이다. 비틀즈의 노래는 발라드, 레게, 싸이키델릭, 블루스에서 헤비메탈까지 여러 장르를 아우르는데 이는 현대 음악 스타일의 장을 열어 놓았다고 할 수 있다. 비틀즈의 영향력은 단순한 음악 뿐만이 아니라 1960년대의 사회 및 문화적 혁명을 야기하였다.
 
 
비틀즈는 20여 곡의 미국 차트 1위곡을 포함하여 50여 곡 넘는 톱 40 싱글들을 발표하였다. 이들은 미국 내에서만 1억 6백여 장, 전세계적으로 10억장 이상의 음반을 판매하는 등, 기록적인 상업적 성공을 거두었으며, 비평가들에게도 인정을 받은, “대중 음악 역사상 가장 성공적인 밴드”로 불리어 지고 있다.
 
 
 
 
Hey Jude. 폴 매카트니가 존 레논의 아들 Julian Lennon(당시 5살)을 위해 만든 곡으로 알려져 있다. 당시 존 레논은 첫번째 부인 Cynthia Powell과 이혼하고 두번째 부인이 될 Yoko Ono와의 관계를 시작하고 있었다고 하는데….평소에도 늘 어른들의 이혼으로 아이들이 상처받는 것에 대해 가슴 아파했던 폴 매카트니가 줄리안 레논을 위로 내지 격려하는 뜻으로 이 곡을 만들었다는 것이다.
 
줄리안 레논이 이 곡 Hey Jude가 자신을 위해 작곡됐다는 걸 알게 된 건 거의 20년 후의 일이지만, 줄리안은 자신이 어린 시절 아버지 존보다 오히려 폴 아저씨를 더 가깝게 느꼈던 걸 기억한다는 말을 했다고 한다.
 
 
이 노래를 작곡할 때 폴의 머릿속에는 “Hey Jules, don’t make it bad. Take a sad song and make it better. Hey, try and deal with this terrible thing.”(이봐, 줄즈, 너무 나쁘게 생각진 마. 슬픈 노래를 좀 더 좋은 노래로 만들어 봐. 이봐, 이 어려운 상황을 잘 헤쳐나가도록 해.) 이런 생각이 맴돌았다고 하는데, 아래 노랫말을 보시면 알겠지만 폴의 그런 생각은 나중에 실제 노랫말 속에 거의 그대로 반영되었다. 이 노래는 1968년 8월에 싱글 곡으로 발표되어 9주동안 빌보드 차트 1위에 올랐다.
 
 

The Beatles - Hey Jude.jpeg

 
 
The Beatles 1
 

 
 
 
Hey Jude, don’t make it bad. take a sad song and make it better.
이봐 쥬드… 슬퍼하진 마. 슬픈노래는 즐겁게 불러봐.
 
 
Remember to let her into your heart, then you can start to make it better.
너의 가슴속의 그녀를 기억해 봐. 그러면 너는 즐거워 질거야.
 
 
Hey Jude, don’t be afraid. you were made to go out and get her.
이봐 쥬드.. 두려워 하진 마. 그녀에게 달려가 그녀를 안을수 있을테니.
 
 
The minute you let her under your skin, then you begin to make it better.
너의 품속에 그녀를 안는 순간, 너는 기분이 좋아질 거야.
 
 
And anytime you feel the pain hey Jude refrain,
아무리 고통스러울 지라도 참아.
 
 
Don’t carry the world upon your shoulders.
너의 어깨에 모든 세상을 짊어질 생각은 말아.
 
 
For well you know that it’s a fool,
그런게 바보 같은 짓이라는 걸 너도 잘 알잖아.
 
 
Who plays it cool by making his world a little colder.
누가 자신의 인생을 냉대하겠니.
 
 
Hey Jude, don’t let me down. you have found her, now go and get her.
이봐 쥬드.. 좌절하진 마. 너에겐 지금 달려가서 안아 줄 그녀가 있잖아.
 
 
Remember to let her into your heart, then you can start to make it better.
너의 가슴속에 있는 그녀를 기억해 봐. 그러면 너는 기분이 좋아질 거야.
 
 
So let it out and let it in hey Jude begin,
그러니 걱정거리는 놔두고 새롭게 시작해.
 
 
You’re waiting for someone to perform with.
함께 헤쳐나갈 누군가를 기다려 봐.
 
 
And don’t you know that it’s just you, Hey Jude you’ll do,
그런 모습이 바로 너라는 걸 넌 모르니? 이봐 쥬드.. 넌 할수 있어.
 
 
The movement you need is on your shoulder.
너에게 필요한 상황은, 바로 너의 어깨에 달려있어.
 
 
Hey Jude, don’t make it bad. take a sad song and make it better.
이봐 쥬드… 슬퍼하진 마. 슬픈노래는 즐겁게 불러봐.
 
 
Remember to let her under your skin, then you’ll begin to make it better. oh.
너의 가슴속의 그녀를 기억해 봐. 그러면 너는 즐거워 질테니까.
 
 
Na na na na na na na, na na na na, hey Jude…
 
 
 
 
 
 
[출처] https://jsksoft.tistory.com/9024

Loading

25 9월 2023

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 022. Early In The Morning — Cliff Richard (얼리 인 더 모닝 : 클리프 리쳐드) [듣기/가사/해석]

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 022. Early In The Morning — Cliff Richard (얼리 인 더 모닝 : 클리프 리쳐드) [듣기/가사/해석]

 
 
Cliff Richard – Early in the morning
 
 
Evening is the time of day
I find nothing much to say
Don’t know what to do
But I come to
저녁이 되면
나는 별로 할 말이 없어
뭘 해야 할지 모르겠어
하지만 저녁이 돼
 
 
When it’s early in the morning
Over by the window day is dawning
When I feel the air
I feel that life is very good to me, you know
이른 아침이 되면
창문 너머로 날이 밝아오고 있어
내가 공기를 느낄 때
난 인생이 너무 좋다고 느껴
 
 
In the sun there’s so much yellow
Something in the early morning
Meadow tells me that today you’re on your way
And you’ll be coming home, home to me
태양 빛으로 노랗게 물드는
이른 아침
초원은 오늘 네가 온다고 말해줘
넌 집으로 돌아올 거야, 나에게
 
 
Night time isn’t clear to me
I find nothing near to me
Don’t know what to do
But I come to
나는 밤이 되는 게 별로야
내 옆에 아무것도 없고
뭘 해야 할지 모르겠어
하지만 밤이 돼
 
 
When it’s early in the morning
Very, very early without warning
I can feel a newly born vibration
Sneaking up on me again
이른 아침이 되면
예고 없이 찾아오는 아주 이른
새로운 떨림을 느낄 수 있어
살며시 다시 찾아오는
 
 
There’s a songbird on my pillow
I can see the fun in weeping willow
I can see the sun
You’re on your way
And you’ll be coming home
내 베개 위에 새 한 마리가 있어
나는 베개에서 즐거움을 볼 수 있어
햇살 속에 네가 오는 게 보여
넌 집으로 돌아올 거야
 
 
When it’s early in the morning
Over by the window day is dawning
When I feel the air
I feel that life is very good to me, you know
이른 아침이 되면
창문 너머로 날이 밝아오고 있어
내가 공기를 느낄 때
난 인생이 너무 좋다고 느껴
 
 
In the sun there’s so much yellow
Something in the early morning
Meadow tells me that today you’re on your way
And you’ll be coming home
태양 빛으로 노랗게 물드는
이른 아침
초원은 오늘 네가 온다고 말해줘
넌 집으로 돌아올 거야
 
 
When it’s early in the morning
Very, very early without warning
I can feel a newly born vibration
Sneaking up on me again…..
이른 아침이 되면
예고 없이 찾아오는 아주 이른
새로운 떨림을 느낄 수 있어
살며시 다시 찾아오는
 
 
[출처] https://labelnoir.tistory.com/733
 

Loading

24 9월 2023

[생물 및 의학(건강)] [표지로 읽는 과학] AI가 질병 유발 유전자 변이 예측

[생물 및 의학(건강)] [표지로 읽는 과학] AI가 질병 유발 유전자 변이 예측

[표지로 읽는 과학] AI가 질병 유발 유전자 변이 예측

입력

사이언스 제공

국제학술지 ‘사이언스’는 이번주 표지로 빨간색과 파란색의 블록으로 이뤄진 인간의 모습을 묘사한 그래픽을 실었다. 표지 왼편에는 ‘병을 일으키는 성질을 예측한다’는 문구가 적혀 있다.

인간이 가진 유전자는 약 2만개다. 수만 개의 유전자에서 발생하는 변이와, 변이로 인한 질병의 발생 가능성을 규명하는 것은 과학자들의 주된 과제다.

구글의 인공지능(AI) 기업 딥마인드는 AI프로그램인 ‘알파미스센스’가 7100만개에 달하는 인간 유전자 변이가 질병을 유발할 가능성을 평가하는 데 성공했다는 연구 결과를 19일(현지시간) 국제학술지 ‘사이언스’에 발표했다.

DNA는 아데닌(A), 시토신(C), 구아닌(G), 티민(T)의 4가지 염기로 구성됐다. 염기 중 하나가 빠지거나 순서가 바뀌는 변이가 발생하면 세포 조직이 제대로 형성되지 않아 질병이 발생할 수 있다. 이러한 염기의 잘못된 변화를 ‘미스센스 돌연변이’라고 한다. 알파미스센스는 DNA가 정상적인 형태를 유지할지 예측하는 방식으로 질병 발생 가능성을 평가한다.

알파미스센스는 구글 딥마인드가 앞서 개발한 단백질 구조 예측 모델 ‘알파폴드’를 토대로 개발됐다. 2020년 개발된 알파폴드는 당시 인간이 가진 단백질 중 약 2억 개의 구조를 파악했으며 2021년에는 36만5000개 이상 단백질의 3D 구조를 예측해냈다.

알파미스센스는 프로그램의 정밀도를 90%로 설정했을 때 분석 대상 유전자 변이 중 57%는 무해하고 32%는 질병을 일으킬 가능성이 있는 것으로 평가했다. 나머지는 영향을 확실하게 파악하지 못했다.

연구팀은 “알파미스센스의 해독법은 인간의 언어와 비슷하다”며 “영어 문장에서 어떤 단어가 다른 단어로 대체됐을 때, 영어에 능숙한 사람이 대체된 단어가 문장의 의미를 어떻게 바꿀지 여부를 알 수 있는 것과 비슷하다”고 설명했다.

Loading

24 9월 2023

[알아봅시다] [씨즈더퓨쳐] 뇌세포와 컴퓨터가 결합하면 AI 뛰어넘을까

[알아봅시다] [씨즈더퓨쳐] 뇌세포와 컴퓨터가 결합하면 AI 뛰어넘을까

[씨즈더퓨쳐] 뇌세포와 컴퓨터가 결합하면 AI 뛰어넘을까

입력

씨즈더퓨쳐 영상 캡쳐

“저희가 한 일은 뇌세포가 ‘퐁(Pong)’이라는 게임 세계에서 동작하도록 시뮬레이션한 것입니다. 성공 여부를 보여주기에는 퐁 게임이 명쾌하고 좋았죠.”

화상 인터뷰로 만난 호주 생명공학 기업 ‘코티컬 랩스’의 최고과학책임자(CSO) 브렛 케이건 연구원은 뇌세포에게 퐁 게임을 가르친 이유를 이렇게 설명했다.

퐁은 1972년 처음 발매된 고전 아케이드 게임이다. 화면 이리저리 튀어 다니는 공을 판으로 쳐서 반대편으로 날려 보내면 된다. 판으로 공을 되받아치지 못하면 게임 오버다. 하지만 가장 궁금한 건 왜 하필 ‘뇌세포’에게 퐁 게임을 가르쳤는지다. 이에 대해 케이건 연구원은 “뇌세포가 잘 할 수 있는 일이 있기 때문”이라고 답했다.

● 접시뇌는 어떻게 퐁 게임을 배웠나

케이건 연구원팀은 작년 말 발표한 논문에서, 배양 접시에서 키운 뇌세포인 ‘접시뇌(DishBrain)’를 컴퓨터에 연결해 퐁을 플레이하도록 학습시켰다. 접시뇌는 5분 만에 퐁을 하는 방법을 익혔다. 비교를 위해 인공지능(AI)에게 퐁을 학습시켰을 때는 90분이 걸렸다. 접시뇌가 18배 빨리 학습한 것이다.

접시뇌는 인간이 퐁 게임을 하는 것과 비슷한 과정으로 퐁 게임을 한다. 인간은 게임 화면(자극)을 눈으로 보면(입력), 뇌에서 판을 어디로 움직일지 결정한다(처리). 그리고 손으로 방향키를 조작해(출력) 판을 움직인다(반응). 자극-입력-처리-출력-반응, 이게 게임을 하는 동안 일어나는 정보의 흐름이다.

접시뇌가 퐁 게임을 배운 과정을 설명하는 씨즈 영상 갈무리

케이건 연구원팀은 이 정보의 흐름을 접시뇌에서 재현했다. 접시뇌는 배양 접시에 전기 신호를 주고받을 수 있는 미세전극판을 깔고 그 위에 뇌 세포를 키운 장치다. 전극판 위로 80~100만 개의 뇌세포를 배양했다. 뇌세포는 생쥐 배아에서 추출한 것과 사람의 줄기세포를 분화시켜 얻은 뇌세포를 사용했다.

뇌세포들은 아무렇게나 연결돼 서로 무작위 전기 신호를 주고받는다. 연구팀은 이런 뇌세포들을 임의로 ‘입력 영역’과 ‘출력 영역’으로 나눠 컴퓨터와 연결했다. 그리고 퐁 게임의 판과 공 사이 거리를 전기 신호(자극)로 변환해 입력 영역의 뇌세포에 가했다(입력).

자극을 받은 뇌세포들은 연결된 주변 세포로 전기 신호를 흘려보냈다. 연구팀은 출력 영역의 뇌세포에 흘러 들어온 신호를 다시 퐁 게임에서 판을 움직이는 신호로 변환했다(출력). 그리고 이 신호를 이용해 게임을 플레이했다(반응).

하지만 뇌세포는 알아서 게임을 배우지 않는다. 게임을 전기 신호로 변환해 입력했다고 해도, 입력 영역과 출력 영역 사이를 무작위로 연결한 뇌세포는 무작위 출력 신호를 낸다. 뇌세포들끼리 어떻게 연결돼 있는지에 따라서 어떤 뇌세포 연결은 날아온 공을 잘 되받아쳐 게임을 이기도록 하고 다른 연결은 판을 움직이지 못해 게임을 지도록 한다.

케이건 연구원팀은 게임에서 이기는 신호를 출력한 뇌세포의 연결이 강화되도록 보상을 줬다. 반대로 지는 신호를 출력한 뇌세포의 연결은 약화되도록 했다. 뇌세포는 일정한 자극을 좋아하고 예측할 수 없는 무작위적인 전기 자극을 싫어하는데 이를 ‘자유 에너지 원리’라 부른다.

연구팀은 뇌세포에게 이길 때마다 일정한 자극을, 질 때마다 무작위한 자극을 가해 게임을 잘하는 뇌세포의 연결만 강해지도록 만들었다. 접시뇌에 게임을 학습시키는 되먹임(feedback) 회로를 만든 셈이다.

사람의 뇌와 컴퓨터를 비교하는 논문을 소개하는 씨즈 영상 갈무리

● 뇌세포+컴퓨터, 간단한 수학 방적식도 풀어

뇌세포를 사용한 바이오컴퓨터를 제작하려는 계획은 또 있다. 미국 인디애나대 블루밍턴 캠퍼스 펭 구오 교수팀은 뇌 오가노이드를 사용해 AI 기기 ‘브레이노웨어(Brainoware)’를 만들어 간단한 수학 방정식을 풀었다고 밝혔다.

이 논문은 3월 1일 동료평가를 거치지 않은 상태로 논문 사전 공개 사이트인 ‘바이오 아카이브’에 올라왔다. 오가노이드는 줄기세포를 배양해 만든 미니 장기로 폐나 간 등을 모방한다. 뇌 오가노이드는 줄기세포를 뇌세포로 분화시켜 만든 3차원 형태의 ‘미니 뇌’다.

케이건 연구원팀의 접시뇌는 평면에서 자란 뇌세포로, 뇌 오가노이드라고 부르기엔 무리가 있다. 만약 인간 뇌와 비슷한 3차원 뇌 오가노이드를 바이오컴퓨터에 사용한다면 계산 성능 향상은 물론, 기존에서는 상상도 못한 잠재력을 발휘할 수도 있을지 모른다.

2월 28일 토머스 하퉁 미국 존스홉킨스 블룸버그 공중보건대 교수가 이끄는 국제 공동 연구팀은 뇌 오가노이드로 만들 차세대 바이오컴퓨터를 ‘오가노이드지능(OI·Organoid Intelligence)’이라 부르자는 논문을 국제학술지 ‘프런티어즈 인 사이언스’에 발표했다. AI(인공지능)와 비교하는 의미에서 오가노이드지능(OI)이라는 표현을 도입한 것이다.

OI의 장점은 무엇일까. 하퉁 연구팀의 논문에 따르면 OI는 기존 슈퍼컴퓨터와 비슷한 연산 속도를 가지면서도 부피와 전력 소모가 매우 적다. 뇌세포의 연결이 기존 컴퓨터보다 훨씬 방대하기 때문에 학습에 필요한 데이터도 훨씬 적고 부피 대비 저장 용량도 크다.

케이건 연구원은 “이미지 학습과 같은 분야에서 (OI가 기존 컴퓨터보다) 훨씬 빠르고 효율적으로 작동할 수 있다”고 설명했다. 이미 학습에 필요한 데이터의 양 측면에서는 바이오컴퓨터가 기존 컴퓨터보다 데이터를 훨씬 적게 필요로 한다.

물론 뇌세포 바이오컴퓨팅의 생물학적 원리를 밝히고 윤리적 문제를 해결하는 등 넘어야 할 산은 많다. 그러나 발전 속도도 빠르다는 것이 연구자들의 평이다. 케이건 연구원은 OI로 “5년 내로 신약의 성능을 예측하는 데 사용할 수 있을 것”이라 내다보며, “바이오컴퓨터 분야의 인텔이 되는 것이 목표”라고 포부를 밝혔다.

 

더 자세한 내용은 씨즈 영상에서 확인할 수 있다.

●씨즈 영상보기 : https://youtu.be/n_WL-vLrlfs

Loading

24 9월 2023

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 021. Without You — Nilsson Harry (위드아웃 유 :닐슨 해리) [듣기/가사/해석]

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 021. Without You — Nilsson Harry (위드아웃 유 :닐슨 해리) [듣기/가사/해석]

 
■ Harry Nilsson – Without You
 
 
1971년에 발표한 해리 닐슨 (Harry Nilsson)의 앨범 [Nilsson Schmilsson] 수록곡
 
‘Without You’의 원곡은 영국 락밴드 ‘Bad Finger’의 곡으로 1971년 해리 닐슨이 리메이크를 하여 빌보드 싱글차트 4주간 1위를 차지한 곡이다.
 
1941년 미국 출생의 해리 닐슨은 1994년 녹음실에서 심장마비로 갑자기 세상을 떠났다.
 
‘Without You’는 감미롭고 서정적인 곡으로 많은 가수들이 리메이크를 하였는데, 특히 1991년에 호주 밴드인 ‘에어 서플라이 (Air Spply)’,와 1994년 ‘머라이어 캐리(Mariah Carey)’가 리메이크해서 다시 크게 히트 했던 곡이다.
 
한국인이 가장 좋아하는 팝송에 오를정도로 지금도 많은 사랑을 받고 있는 곡이다.
 
 
 
 
■ Harry Nilsson – Without You [듣기]

https://youtu.be/KCAVFfkFJlw
 
 
 
 
■ Harry Nilsson – Nilsson Schmilsson [Album]
 
 
Without You --- Nilsson Harry.jpeg
 
■ Harry Nilsson – Without You [가사/해석]
 
 
 
No I can’t forget this evening,
Or your face as you were leaving.
But I guess that’s just the way the story goes.
You always smile but in your eyes your sorrow shows.
Yes it shows
 
 
난 이 밤을 잊지 못할 거예요
그리고 떠날 때의 당신 얼굴모습도 잊을 수 없어요
그러나 결국은 다 이렇게 되는 건가 봐요
당신은 언제나 미소를 짓고 있지만
당신의 눈 속엔 슬픔이 넘치고 있어요
그래요, 슬픔이 넘치고 있지요.
 
 
No I can’t forget tomorrow, When I think of all my sorrow,
When I had you there but then I let you go.
And now it’s only fair that I should let you know
What you should know
 
 
난 내일을 잊지 못할 거예요
내 모든 슬픔을 생각하게 될 내일을
그대 내 곁에 두었을 땐, 그러나 떠나 보내야 하지요
이제 그대에게 해야 할 말을 하는 것이 좋겠어요. 그대가 꼭 알아야 할 말들요
 
 
I can’t live if living is without you
I can’t live, I can’t give any more
Can’t live if living is without you
I can’t give, I can’t give any more
 
 
난 살 수 없어요. 당신 없이 살아야 한다면
더 이상 살 수 없어요. 더 이상 줄 수도 없어요
난 살 수 없어요. 당신 없이 살아야 한다면
더 이상 살 수 없어요. 더 이상 줄 수도 없어요
 
 
No, I can’t forget this evening
Or your face as you were leaving
But I guess that’s just the way the story goes
You always smile but in your eyes your sorrow shows
Yes, it shows
 
 
Can’t live if living is without you
I can’t live, I can’t give anymore
I can’t live if living is without you
Can’t live, I can’t give anymore
 
 
 
[출처] https://e-happy.tistory.com/entry/Harry-Nilsson-Without-You-%EB%93%A3%EA%B8%B0%EA%B0%80%EC%82%AC%ED%95%B4%EC%84%9D
 
 
 

Loading

23 9월 2023

[사회과학] [박진영의 사회심리학] 실천 없는 ‘무지성’ 믿음은 해롭다

[사회과학] [박진영의 사회심리학] 실천 없는 ‘무지성’ 믿음은 해롭다

[박진영의 사회심리학] 실천 없는 ‘무지성’ 믿음은 해롭다

입력

잘될거라는 믿음만으로는 성공하기 어렵다. 게티이미지뱅크 제공

간절히 원하면 온 우주가 도와준다거나 잘 될 거라고 생각해야 실제로 잘 된다는 등 많은 대중서와 자기계발 연사들이 긍저적 사고의 중요성에 대해 이야기해왔다. 이렇게 나의 내적 사고방식이 외부 세계로 전달되어 어떤 실체가 있는 효과를 일으킬 것이라는 믿음은 생각보다 흔히 나타난다.

예컨대 내가 경기를 보면 꼭 지니까 안 보겠다고 하는 것이나 행운의 색깔 등에 대한 믿음, 어떤 우주적 ‘기운’에 대한 믿음과 내가 그 흐름을 바꿀 수 있다고 하는 믿음 등 많은 이들이 ‘마음’에 어떤 초자연적인 효과가 생각하는 듯한 경향을 보인다.

물론 긍정적인 믿음이 어떤 자기 예언적 효과를 나타내는 경우도 존재한다. 예컨대 자신은 할 줄 아는 게 아무 것도 없으며 사람들은 모두 다 자신을 싫어한다는 믿음을 갖고 있는 경우 어떤 일을 시작하거나 새로운 관계를 만나려는 노력조차 하지 않는 경향을 보인다. 어차피 해도 안 될거라고 생각하기 때문이다.

따라서 노력하면 할 수 있을 거라고 내가 잘 할 수 있는 게 존재하고 나와 잘 맞는 사람도 어딘가에 있을 거라는 믿음이 도움이 될 수 있다. 하지만 문제는 이렇게 내가 노력을 해본다던가 새로운 기회나 잘 맞는 사람을 찾아보는 것처럼 실천 가능한 범위를 넘어서 간절히 바라기만 하면 꿈이 현실이 될 것이라고 보는 ‘실천’과 멀리 떨어진 긍정적 사고는 되려 해로울 수 있다는 것이다.

호주 퀸즐랜드대의 연구자 루카스 딕슨과 동료들은 이렇게 단지 믿는 것만으로 어떤 결과를 실체화 시킬 수 있다는 믿음(belief in manifestation)에 대한 연구를 했다.

실체화에 대한 믿음을 측정하는 문항들은 “성공한 자신의 모습을 열심히 떠올리면 실제로 성공이 더 가까워진다”, “나 자신에게 긍정적인 이야기를 함으로써 성공을 이뤄낼 수 있다”, “내가 간절히 원하면 신이나 우주의 기운이 나를 돕는다”, “나의 영혼과 내가 가진 긍정직인 기운들이 성공을 끌어당긴다” 등이었다. 간절히 믿기만 하면 실제로 잘 될 거라는 믿음을 측정하는 문항들이었다.

이러한 실체화에 대한 믿음이 높은 사람들은 그렇지 않은 사람들에 비해 미래에 자신이 성공할 확률을 더 높게 보는 것으로 나타났다. 이들은 자신을 긍정적으로 바라보는 자존감 또한 더 높은 편이었다.

그런 한편 이들은 의사결정을 할 때 신중하고 이성적인 사고방식보다 어떤 영감이나 충동적으로 떠오르는 생각에 기대는 경향을 보였다. 또한 평소 자극적이고 위험한 일에 끌리는 편이라고 응답했으며 실제로 가상화폐 같은 위험 자산에 투자한 경험도 더 많이 가지고 있었다.

또한 높은 위험 추구 성향와 충동성 때문인지 실체화에 대한 믿음이 높은 사람들은 그렇지 않은 사람들에 비해 “사기”를 당한 경험 또한 더 많은 것으로 나타났다.

자신은 남들과 다르게 단기간 내에 일확천금이나 엄청난 성공을 이뤄낼 수 있을 거라는 믿음 또한 더 강했다. 하지만 안타깝게도 이들은 사업에서 망하거나 파산한 경험 또한 더 많았다.

잘 될거라고 생각하면 어떻게든 될 거라는 믿음은 긍정적인 것을 떠나 다소 무책임해 보이기도 한다. 때에 따라 개인이 무언가를 할 수 있는 상황이 아닌데도 어떤 영적인 파워를 발휘하지 못했기 때문에 망한 거라고 현실적인 범위를 넘어선 일들마저 개인의 책임으로 떠넘기는 부작용 또한 있을 것 같다.

내가 충분히 간절하지 않아서 잘 안 된 거라고 생각하고 마는 것은 실패의 진짜 원인을 찾아서 해결하는 행동과도 거리가 있어 보인다.

오직 자신이 하면 잘 될 거라는 믿음 하나로 단 몇 달 만에 별 다른 준비도 없이 시작했다가 현실이 예상과 너무 다르다며 곤혹스러워하던 사람을 본 적이 있다. 별 다른 준비도 없이 아무런 사전 지식이나 경험도 공부도 없이 그냥 자신감 하나로 밀어붙이던 일이었기 때문에 옆에서 보기에는 전혀 놀랍지 않았다.

되려 자신이 망할 가능성은 0이라고 자신했다는 점이 놀라웠다. 세상에 쉬운 일이란 없는데 자기가 하면 다 잘 될 거라는 믿음 하나로 사업을 너무 만만하게 본 것이 큰 패착이었다.

어떤 믿음이 자기실현적 예언이 되려면 거기에는 반드시 구체적인 계획과 준비, 목표 설정, 실패가 따라야 한다. 실천 없이 믿음만 가지고 잘 되기를 바라는 것은 어느 날 기적같이 초자연적인 현상이 일어나길 바라는 것에 지나지 않을지도 모르겠다.

어떤 일을 하든 항상 예기치 못한 장애물을 만나게 되는데 다 잘 될 거라고만 생각하면 정작 작은 장애물 앞에서도 크게 당황할 것 같기도 하다. 믿음이 현실이 되게 만드는 것은 오랜 준비와 지난한 노력임을 기억하자.

Dixon, L. J., Hornsey, M. J., & Hartley, N. (2023). “The secret” to success? The psychology of belief in manifestation. Personality and Social Psychology Bulletin, 01461672231181162.

※필자소개
박진영. 《나, 지금 이대로 괜찮은 사람》, 《나를 사랑하지 않는 나에게》를 썼다. 삶에 도움이 되는 심리학 연구를 알기 쉽고 공감 가도록 풀어낸 책을 통해 독자와 꾸준히 소통하고 있다. 온라인에서 ‘지뇽뇽’이라는 필명으로 활동하고 있다. 현재 미국 듀크대에서 사회심리학 박사 과정을 밟고 있다

[출처] https://n.news.naver.com/article/584/0000024385?cds=news_media_pc

Loading

23 9월 2023

[천체물리 – 우주(과학)] 14일 동안 이어진 혹독한 ‘달의 밤’…인도 달 착륙선 결국 못 깨어나

[천체물리 – 우주(과학)] 14일 동안 이어진 혹독한 ‘달의 밤’…인도 달 착륙선 결국 못 깨어나

14일 동안 이어진 혹독한 ‘달의 밤’…인도 달 착륙선 결국 못 깨어나

인도 달착륙선 동면 끝.png
인도 무인 달 탐사선 찬드라얀 3호에서 나온 탐사차 프라그얀이 지난달 25일 달 표면에서 이동하고 있다. 세계 최초로 달 남극에 착륙한 찬드라얀 3호는 최근 탐사에서 황과 금속의 매장 가능성을 확인했다./AFP 연합뉴스

세계 최초로 달 남극에 착륙해 임무를 수행했던 인도의 달 착륙선과 탐사 로봇이 길고 추운 달의 밤을 이겨내지 못하고 깨어나지 못했다.

23일(현지 시각) 인디아 투데이 등에 따르면 인도우주연구기구(ISRO)는 전날 달 에 아침이 밝아와 잠들었던 달 착륙선 비크람, 탐사 로봇 프라기안과 교신을 시도했지만 아무런 신호도 받지 못했다고 밝혔다. ISRO는 앞으로 며칠 동안 교신을 시도할 계획이지만, 이들이 깨어나 다시 탐사를 시작할 가능성은 매우 희박하다고 전했다.

인도의 달 탐사선 찬드라얀 3호의 착륙선 비크람은 지난달 23일 달 남극에 착륙했다. 성공적으로 착륙 후 탐사 로봇 프라기안이 내려 탐사를 시작했다. 프라기안은 13일 동안 100m 정도를 이동하며 남극 표면에 황(黃)이 있다는 것을 확인했고, 비크람은 달 남극 표면 토양의 기온을 측정하는 등 각종 과학 데이터를 지구로 보냈다. 그 사이 달의 밤이 찾아왔고 이들은 지난 3일 수면 모드에 들어갔다.

달에서는 낮과 밤이 14일 주기로 바뀌어 달에서의 하루는 지구에서의 약 4주와 같다. 특히 달 남극은 밤 동안 기온이 영하 100도 이하로 떨어지는 극한의 환경이다. 태양광으로 전기를 만들어 작동하는 이들은 태양 전지판을 해가 떠오를 곳을 향해 두고 잠들었고, 22일 해가 떠올라 전지판이 데워졌지만 깨어나지 못했다. 이를 두고 BBC는 “극한적인 저온에서 배터리가 손상됐을 가능성이 제기된다”고 전했다.

비크람과 프라기안이 달의 밤을 이겨내지 못할 것이란 전망은 어느 정도 예측됐다. 영하 100도 이하로 떨어지는 길고 혹독한 달의 밤을 견디려면 보온 장치를 달거나 내구성이 강한 부품을 사용해야 하지만, 그만큼 비용과 무게 등이 커져 비크람과 프라기안은 그러한 장치를 달지 않았다.

[출처] https://www.chosun.com/international/international_general/2023/09/23/BRG4KETJTVF2TDIAVX6RE2ARLI/

Loading

22 9월 2023

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 019. Evergreen —Suzane Jackson (에버그린 : 상록수: 수잔 잭슨) [듣기/가사/해석]

[팝송으로 배우는 영어] 한국인이 좋아하는 팝송 019. Evergreen —Suzane Jackson (에버그린 : 상록수: 수잔 잭슨) [듣기/가사/해석]

 
<Susan Jackson – Evergreen [듣기/가사/해석/독음]
 
 
 
<Susan Jackson – Evergreen>
 
 
오늘의 팝송은 Susan Jackson(수잔 잭슨)의 Evergreen(에버그린)입니다.
Evergreen 은 상록수, 늘푸른나무 를 뜻합니다^^
사랑노래에요. 아마 Evergreen제목은 기억못하셔도 가사는 기억하실겁니다.
에버그린은 80년대초 한국에 팝송의 문화를 열었다 라고 해도 좋을만한 노래랍니다.
같이 들어볼까요?

Susan Jackson - Evergreen.jpeg

 
 
Susan Jackson – Evergreen [듣기]
 

 
 
 
 
 
Susan Jackson – Evergreen [가사/해석/독음]
 
 
Sometimes love would bloom in the spring time.
(썸타임즈 러브 우드 블룸 인 더 스프링타임)
때때로 사랑은 봄에 태어납니다.
 
Then my flowers in summer it will grow
(댄 마이 플라워즈 인 써머 잇 윌 그로우)
그리고 여름에 사랑의 꽃들이 자라서
 
Then fade away in the winter
(댄 풰이더 어웨이 인 더 윈터)
겨울에 시들어 사라져버립니다.
 
When the cold wind begins to blow.
(웬 더 콜드 윈드 비긴스 투 블로우)
찬바람이 불기 시작할 때면
 
But when it’s evergreen, evergreen
(벗 웬 잇츠 에버그린 에버그린)
하지만 사랑이 늘 푸른 상록수 같다면
 
It will last through the summer and winter, too.
(잇 윌 라스트 쓰루 더 써머 앤 윈터 투)
여름을 지나 겨울까지도 지속된답니다.
 
When love is evergreen, evergreen
(웬 러브 이즈 에버그린 에버그린)
사랑이 변함 없을때, 변함 없을때
 
Like my love for you.
(라이크 마이 러브 포 유)
그대를 향한 내 사랑처럼
 
So hold my hand and tell me,
(쏘 홀드 마이 핸드 앤 텔 미)
그러니 그대 내 손을 잡고 말해줘요.
 
You will be mine through laughter and through tears.
(유 윌 비 마인 쓰루 래프터 앤 쓰루 티얼즈)
기쁠 때나 슬플때나 그대 나의 사랑일 거라고.
 
We will let the whole world see
(위 윌 랫 더 홀 월드 씨)
우리 모든 세상에 알려요.
 
Our love will be evergreen through all the years.
(아워 러브 윌 비 에버그린 쓰루 올 디 이얼즈)
시간이 흘러가도 우리 사랑은 늘 변함없을 거라고요.
 
 
 
 
 
[출처] https://stgangnam.tistory.com/entry/Susan-Jackson-Evergreen-%EB%93%A3%EA%B8%B0%EA%B0%80%EC%82%AC%ED%95%B4%EC%84%9D%EB%8F%85%EC%9D%8C

Loading