[IT 혁신 디바이스][소프트웨어] Will ChatGPT Replace Developers? ChatGPT가 개발자를 대체할까요?
[IT 혁신 디바이스][소프트웨어] Will ChatGPT Replace Developers? ChatGPT가 개발자를 대체할까요?
AI is buzzing again thanks to the recent release of ChatGPT, a natural language chatbot that people are using to write emails, poems, song lyrics and college essays. Early adopters have even used it to write Python code, as well as to reverse engineer shellcode and rewrite it in C. ChatGPT has sparked hope among people eager for the arrival of practical applications of AI, but it also begs the question of whether it will displace writers and developers in the same way robots and computers have replaced some cashiers, assembly-line workers and, perhaps in the future, taxi drivers.
It’s hard to say how sophisticated the AI text-creation capabilities will be in the future as the technology ingests more and more examples of our online writing. But I see it having very limited capabilities for programming. If anything, it could end up being just another tool in the developer’s kit to handle tasks that don’t take the critical thinking skills software engineers bring to the table.
ChatGPT has impressed a lot of people because it does a good job of simulating human conversation and sounding knowledgeable. Developed by OpenAI, the creator of the popular text-to-image AI engine DALL-E, it is powered by a large language model trained on voluminous amounts of text scraped from the internet, including code repositories. It uses algorithms to analyze the text and humans fine-tune the training of the system to respond to user questions with full sentences that sound like they were written by a human.
But ChatGPT has flaws—and the same limitations that hamper its use for writing content also render it unreliable for creating code. Because it’s based on data, not human intelligence, its sentences can sound coherent but fail to provide critically-informed responses. It also repurposes offensive content like hate speech. Answers may sound reasonable but can be highly inaccurate. For example, when asked which of two numbers, 1,000 and 1,062, was larger, ChatGPT will confidently respond with a fully reasoned response that 1,000 is larger.
OpenAI’s website provides an example of using ChatGPT to help debug code. The responses are generated from prior code and lack the capability to replicate human-based QA, which means it can generate code that has errors and bugs. OpenAI acknowledged that ChatGPT “sometimes writes plausible-sounding but incorrect or nonsensical answers.” This is why it should not be used directly in the production of any programs.
The lack of reliability is already creating problems for the developer community. Stack Overflow, a question-and-answer website coders use to write and troubleshoot code, temporarily banned its use, saying there was such a huge volume of responses generated by ChatGPT that it couldn’t keep up with quality control, which is done by humans. “Overall, because the average rate of getting correct answers from ChatGPT is too low, the posting of answers created by ChatGPT is substantially harmful to the site and to users who are asking or looking for correct answers.”
Coding errors aside, because ChatGPT—like all machine learning tools—is trained on data that suits its outcome (in this case, a textual nature), it lacks the ability to understand the human context of computing to do programming well. Software engineers need to understand the intended purpose of the software they’re creating and the people who will be using it. Good software can’t be built by cobbling together programs with regurgitated code.
For example, ChatGPT cannot understand the ambiguity in simple requirements. Although it is clear that if one ball just bounces and comes back but another bounces and then bounces again, the second ball has traveled further, ChatGPT struggles with this nuance; that nuance will be needed if these systems are ever to take over from developers.
It also has trouble with basic math, such as when it’s asked to determine which is greater and offered a choice between a negative and positive number. ChatGPT confidently tells us a correct summation of the space, but cannot understand that -5 is less than 4. Imagine your thermostats going haywire because the heating kicks on at 40 degrees Celsius instead of at -5 degrees Celsius because the AI program coded it that way!
Pre-trained AI code generation also raises some legal questions with regard to intellectual property rights; it cannot currently distinguish between code that is licensed in a restrictive or open fashion. This could expose people to licensing compliance risk if the AI borrows a prewritten line of code from a copyrighted repository. The problem has already prompted a class action lawsuit against a different OpenAI-based product called GitHub Copilot.
We need humans to create the software people rely on, but that’s not to say there couldn’t be a place for AI in software development. Just like automation is being used by security operations centers for scanning, monitoring and basic incident response, AI could serve as a programming tool for handling lower-level tasks.
This is already happening, to an extent. GitHub Copilot allows developers to use ChatGPT to improve their code, add tests and find bugs. Amazon offers CodeWhisperer, a machine language-powered tool designed to help increase developer productivity using code recommendations generated by natural language comments and code in the integrated environment. And someone has created a Visual Studio code extension that works with ChatGPT.
And one company is testing AI for developers. DeepMind, which shares a parent company with Google, released its own code generation tool, dubbed AlphaCode, earlier this year. DeepMind published the results from simulated evaluations in competitions on the Codeforces platform in Science magazine earlier this month under the headline Machine Learning systems can program too. Headline grammar aside, AlphaCode achieved an estimated rank within the top 54% of participants by solving problems “that require a combination of critical thinking, logic, algorithms, coding, and natural language understanding.” The abstract for the paper says: “The development of such coding platforms could have a huge impact on programmers’ productivity. It may even change the culture of programming by shifting human work to formulating problems, with machine learning being … responsible for generating and executing codes.”
Machine learning systems are becoming increasingly advanced each day; however, they cannot think like the human brain does. This has been the case for the past 40+ years of study into artificial intelligence. While these systems can recognize patterns and increase productivity for simple tasks, they may not always produce code as well as humans. Before we let computers do code generation en masse, we should probably see systems like AlphaCode rank in the top 75% of participants on a platform like Codeforces, though I fear this may be too much for such a system. In the meantime, machine learning can help with simple programming problems in the future, allowing developers of tomorrow to think of more complex issues.
At this point, ChatGPT won’t be disrupting any field of technology, especially not software engineering. Concern about robots displacing programmers is vastly overstated. There will always be tasks that developers with human cognition can do that machines will never be capable of.
[출처] https://devops.com/will-chatgpt-replace-developers/
ChatGPT가 개발자를 대체할까요?
사람들이 이메일, 시, 노래 가사 및 대학 에세이를 작성하는 데 사용하는 자연어 챗봇인 ChatGPT 의 최근 릴리스 덕분에 AI가 다시 활기를 띠고 있습니다 . 얼리어답터들은 그것을 파이썬 코드를 작성하고 쉘코드를 리버스 엔지니어링하고 C로 다시 작성하는 데 사용하기도 했습니다 . ChatGPT는 AI의 실용적인 응용 프로그램이 도래하기를 열망하는 사람들 사이에서 희망을 불러일으켰지만 로봇과 컴퓨터가 일부 계산원, 조립 라인 작업자, 그리고 아마도 미래, 택시 기사들.
기술이 점점 더 많은 온라인 작문의 예를 수집함에 따라 AI 텍스트 작성 기능이 미래에 얼마나 정교해질지 말하기는 어렵습니다. 그러나 나는 프로그래밍 능력이 매우 제한적이라고 생각합니다. 어쨌든 소프트웨어 엔지니어가 제공하는 비판적 사고 기술이 필요하지 않은 작업을 처리하기 위한 개발자 키트의 또 다른 도구에 불과할 수 있습니다.
ChatGPT는 인간의 대화를 시뮬레이션하고 박식하게 들리기 때문에 많은 사람들에게 깊은 인상을 남겼습니다. 인기 있는 텍스트-이미지 AI 엔진 DALL-E의 제작자인 OpenAI에서 개발한 이 제품은 코드 저장소를 포함하여 인터넷에서 스크랩한 방대한 양의 텍스트에 대해 훈련된 대규모 언어 모델로 구동 됩니다 . 그것은 알고리즘을 사용하여 텍스트를 분석하고 인간은 마치 인간이 쓴 것처럼 들리는 완전한 문장으로 사용자 질문에 응답하도록 시스템 훈련을 미세 조정합니다.
그러나 ChatGPT에는 결함이 있습니다. 콘텐츠를 작성하는 데 방해가 되는 것과 동일한 제한으로 인해 코드를 생성하는 데에도 신뢰할 수 없습니다. 인간 지능이 아닌 데이터를 기반으로 하기 때문에 문장이 일관되게 들릴 수 있지만 비판적으로 정보에 입각한 응답을 제공하지 못합니다. 또한 증오심 표현 과 같은 불쾌감을 주는 콘텐츠의 용도를 변경합니다 . 답변이 합리적으로 들릴 수 있지만 매우 부정확할 수 있습니다. 예를 들어, 1,000과 1,062, 두 숫자 중 어느 것이 더 큰지 물으면 ChatGPT는 1,000이 더 크다고 합리적 으로 대답합니다 .
OpenAI의 웹사이트는 ChatGPT를 사용하여 코드를 디버그하는 데 도움이 되는 예를 제공합니다. 응답은 이전 코드에서 생성되며 인간 기반 QA를 복제하는 기능이 부족합니다. 즉, 오류 및 버그가 있는 코드를 생성할 수 있습니다. OpenAI는 ChatGPT가 때때로 그럴듯하게 들리지만 부정확하거나 무의미한 답변을 작성한다는 점을 인정했습니다. ” 어떤 프로그램 제작에 직접적으로 사용해서는 안 되는 이유다.
신뢰성 부족은 이미 개발자 커뮤니티에 문제를 일으키고 있습니다. 코더가 코드를 작성하고 문제를 해결하는 데 사용하는 질문 및 답변 웹 사이트인 Stack Overflow 는 ChatGPT에서 생성된 엄청난 양의 응답이 있어 품질 관리를 따라갈 수 없다고 말하면서 일시적으로 사용을 금지했습니다. 인간. “ 전반적으로 ChatGPT에서 정답 을 얻는 평균 비율 이 너무 낮기 때문에 ChatGPT에서 만든 답변을 게시하는 것은 사이트와 정답 을 묻거나 찾는 사용자에게 상당히 해롭습니다 .”
코딩 오류는 차치하고 ChatGPT는 모든 기계 학습 도구와 마찬가지로 결과에 적합한 데이터(이 경우 텍스트 특성)에 대해 훈련되기 때문에 프로그래밍을 잘 수행하기 위한 컴퓨팅의 인간 컨텍스트를 이해하는 능력이 부족합니다. 소프트웨어 엔지니어는 자신이 만들고 있는 소프트웨어의 의도된 목적과 그것을 사용할 사람들을 이해해야 합니다. 역류된 코드로 프로그램을 짜맞추는 방식으로는 좋은 소프트웨어를 만들 수 없습니다.
예를 들어 ChatGPT는 단순한 요구 사항의 모호성을 이해할 수 없습니다. 하나의 공이 튀었다가 다시 돌아오고 다른 공이 튀었다가 다시 튀는 것이 분명하지만 두 번째 공은 더 멀리 이동한 것입니다. 이러한 시스템이 개발자로부터 인계받으려면 그 뉘앙스가 필요할 것입니다.
또한 어느 것이 더 큰지 결정하라는 요청을 받고 음수와 양수 중에서 선택을 제공하는 것과 같은 기본적인 수학에 문제가 있습니다. ChatGPT는 자신 있게 공간의 정확한 합계를 알려 주지만 -5가 4보다 작다는 것을 이해할 수 없습니다. 난방이 섭씨 -5도가 아닌 섭씨 40도에서 시작되기 때문에 온도 조절기가 고장 난다고 상상해 보세요. 방법!
사전 훈련된 AI 코드 생성은 또한 지적 재산권과 관련하여 몇 가지 법적 문제를 제기합니다. 현재는 제한적 또는 공개 방식으로 라이선스가 부여된 코드를 구분할 수 없습니다. 이로 인해 AI가 저작권이 있는 저장소에서 미리 작성된 코드 라인을 차용하는 경우 사람들이 라이선스 준수 위험에 노출될 수 있습니다. 이 문제는 이미 GitHub Copilot 이라는 다른 OpenAI 기반 제품에 대한 집단 소송을 촉발했습니다 .
사람들이 의존하는 소프트웨어를 만들려면 사람이 필요하지만 소프트웨어 개발에 AI가 들어갈 자리가 없다는 말은 아닙니다. 스캔, 모니터링 및 기본 사고 대응을 위해 보안 운영 센터에서 자동화를 사용하는 것처럼 AI는 하위 수준 작업을 처리하기 위한 프로그래밍 도구 역할을 할 수 있습니다.
이것은 이미 어느 정도 일어나고 있습니다. GitHub Copilot을 통해 개발자는 ChatGPT를 사용하여 코드를 개선하고 테스트를 추가하고 버그를 찾을 수 있습니다. Amazon은 통합 환경에서 자연어 주석 및 코드로 생성된 코드 권장 사항을 사용하여 개발자 생산성을 높이도록 설계된 기계 언어 기반 도구인 CodeWhisperer를 제공 합니다. 그리고 누군가 ChatGPT와 함께 작동하는 Visual Studio 코드 확장을 만들었습니다 .
그리고 한 회사는 개발자를 위해 AI를 테스트하고 있습니다. Google과 모회사를 공유하는 DeepMind는 올해 초 AlphaCode 라는 자체 코드 생성 도구를 출시했습니다. DeepMind는 Machine Learning systems can too program이라는 제목으로 이달 초 Science 잡지의 Codeforces 플랫폼 대회에서 시뮬레이션 평가 결과를 발표했습니다 . 헤드라인 문법은 제쳐두고AlphaCode는 “비판적 사고, 논리, 알고리즘, 코딩 및 자연어 이해의 조합이 필요한” 문제를 해결하여 참가자의 상위 54% 내에서 예상 순위를 달성했습니다. 논문의 초록은 이렇게 말합니다. “이러한 코딩 플랫폼의 개발은 프로그래머의 생산성에 막대한 영향을 미칠 수 있습니다. 기계 학습이 코드 생성 및 실행을 담당하면서 인간 작업을 문제 공식화로 전환함으로써 프로그래밍 문화를 바꿀 수도 있습니다.”
기계 학습 시스템은 매일 점점 더 발전하고 있습니다. 그러나 그들은 인간의 두뇌처럼 생각할 수 없습니다. 이것은 지난 40년 이상 인공 지능에 대한 연구의 경우였습니다. 이러한 시스템은 패턴을 인식하고 간단한 작업의 생산성을 높일 수 있지만 항상 인간만큼 코드를 생성하지는 않을 수 있습니다. 컴퓨터가 대량으로 코드를 생성하도록 허용하기 전에 AlphaCode와 같은 시스템이 Codeforces와 같은 플랫폼에서 참가자의 상위 75%에 속하는 것을 볼 수 있을 것입니다. 그 동안 기계 학습은 미래의 간단한 프로그래밍 문제를 해결하는 데 도움이 될 수 있으므로 미래의 개발자는 더 복잡한 문제를 생각할 수 있습니다.
이 시점에서 ChatGPT는 기술 분야, 특히 소프트웨어 엔지니어링 분야를 방해하지 않을 것입니다. 프로그래머를 대체하는 로봇에 대한 우려는 지나치게 과장된 것입니다. 기계가 결코 할 수 없는 일을 인간의 인지 능력을 가진 개발자가 할 수 있는 일이 항상 있을 것입니다.
