[인공지능 기술] 챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기
2023.09.26 22:15
[인공지능 기술] 챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기
챗GPT, 이제 보고 듣고 말할 수 있어…AI 통한 범죄 우려도 제기
입력2023.09.26. 오후 7:31
생성형 인공지능(AI) 챗GPT가 말하고 보고 들을 수도 있게 됐다. 전문가들은 나날이 발전하는 AI 기술이 사용자에게 어떻게 작용할지 모른다고 경고했다.
오픈AI는 25일(현지시간) 챗GPT의 새로운 음성 및 이미지 기능을 출시한다고 밝혔다.
새로운 기능인 '듣고 말하는 기능'을 통해 챗GPT는 이용자와 음성을 통해 질문과 답변을 주고받을 수 있게 된다. 현재까지는 프롬프트를 통해 대화해왔다.음성으로 질문을 하면 챗GPT가 이를 텍스트로 변환해 대규모 언어 모델(LLM)에 전달하고, 답변을 받아 다시 음성으로 변환해 말하는 구조다.
또 5가지 형태로 제공되는 챗GPT 음성 중 하나를 선택할 수 있다. 오픈AI는 또 세계 최대 음원 스트리밍 서비스인 스포티파이와 협력해 목소리를 유지하면서 다른 언어로 번역이 가능하게 하는 방안도 검토하고 있다고 설명했다.
해당 기능은 애플 iOS 및 구글 안드로이드로 제공된다. 해당 기능은 앞으로 2주 안에 챗GPT 유료 구독자에게 먼저 제공하고 이후 모든 사람도 이용할 수 있도록 배포할 예정이다.
아울러 챗GPT는 이미지를 보고 '답하는' 기능도 탑재된다. 이용자가 사진을 찍거나 이미지를 올린 후 관련 질문을 하면 챗GPT가 답을 해주는 형태다. 이 기능은 향후 몇 주내 유료 구독자와 기업 이용자들에게 제공된다.
오픈AI는 "우리 목표는 안전하고 유익한 AGI(범용인공지능)를 구축하는 것"이라며 "새로운 도구를 점진적으로 제공하는 것이 기능을 개선하고 위험을 완화함으로써 모든 사람이 미래에 더 강력한 시스템을 사용할 수 있도록 준비할 수 있다고 믿는다"고 설명했다.
다만 일부 전문가는 AI의 발전이 사회에 어떤 작용을 초래할지 모른다고 우려한다. 전문가들은 챗GPT가 이번에 공개한 음성 합성 기술 등이 딥페이크 등 사이버 범죄에 악용될 수 있다고 우려하고 있다. 워싱턴포스트(WP)에 따르면 전문가들은 사용자들과 새로운 AI 기술과의 상호 작용은 갈수록 발전하겠지만 사회에 어떤 영향을 미칠지는 아직 알 수 없다고 지적했다.
특히 AI 연구자들은 챗GPT의 답변이 인간과 유사해 보인다는 점에서 사용자들이 챗봇을 의인화할 가능성이 높다는 점도 경고했다.
일부 확인이 안된 정보도 사용자가 쉽게 받아들이게 되면서 AI 기능에 대한 잘못된 신뢰를 심어줄 수 있다는 주장이다. 현재 대부분의 AI기능들이 방대한 정보를 모아 구성하고 이를 실제인 것처럼 전달하는 과정을 전문가들은 위험한 '환각'이라고 부른다는 것이다.
이와 관련 오픈AI 정책 연구원 산디니 아가왈은 WP와의 인터뷰에서 "지속적인 실험과 안전 가드레일을 설정해 정신 건강 등 민감한 주제와 관련된 질문을 하면 전문가와 상담하도록 제안하는 등 주제에 적절하게 응답하는지 확인했다"고 밝혔다.
※주간조선 온라인 기사입니다.
[출처] https://n.news.naver.com/mnews/article/053/0000038711?sid=105
본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
