[사회과학] [박진영의 사회심리학] 고통을 직면해야 더 나은 삶을 살 수 있다 

[인공지능 기술] 개발자가 맞닥뜨린 갈림길…‘바이브 코딩’을 배우거나, 은퇴하거나

‘바이브 코딩’은 앞으로 개발자가 코드를 짜는 방식이 될 것이다. 지금 배우지 않으면 개발자로서 커리어는 끝난다.

Credit: Photoongraphy / Shutterstock

어디서 들어본 이야기

뻔한 이야기다. 이런 일은 예전에도 있었다. 커리어 초장기에 필자는 한 개발자를 만났다. 편의상 톰이라고 부른다. 톰은 전형적인 구세대 개발자였다. 키보드를 눈으로 보며 타자 치는 식의 ‘독수리 타법’으로 프로그래밍을 하던 사람이었다. 톰은 비주얼 베이직(Visual Basic)으로 보고서 하나 만드는 데 6개월이 걸렸다. 예전에는 어떤 언어를 썼는지는 모르겠지만, VB는 책을 통해 독학했다고 했다. 톰이 휴가를 간 동안, 원래는 둘이 함께하기로 했던 보고서를 10일 정도 만에 끝냈다. 일부러 톰이 할 부분은 남겨뒀는데, 그때부터 톰은 나를 싫어했다.

어떻게 그렇게 빨리 해냈느냐고? IDE를 활용했고 인터넷 검색을 했다(이때는 ‘구글링하다’라는 말이 없던 시기였다). 우리가 자바로 전환했을 때 필자는 인터넷에서 자바를 일주일 만에 익혔고 동시에 J빌더(JBuilder) 사용법도 배웠다. 반면 톰은 브루스 에켈의 『씽킹 인 자바(Thinking in Java)』 책을 사서 여전히 독수리 타법으로 쿵쾅대며 타이핑하고 마치 성경이라도 되는 듯 그 책에 의존했다. 톰은 새로운 방식으로 배우고자 하지 않았다. 세상이 바뀌는 걸 비난하면서 낡은 방식에 머무르고 싶어 했을 뿐이었다.

현재 링크드인에는 두 부류의 사람이 있다. 1년 전까지만 해도 웹3를 외치던 사람이 지금은 바이브 코딩에 대해 과장된 주장을 늘어놓는다. 그리고 또 한 부류는 ‘톰들’이다. 보안이 어쩌니, 코딩은 예술이니 하면서 온갖 불평을 늘어놓는 사람들이다. 만약 당신이 톰이라면, 이제 퇴직 알람을 맞춰야 할 때다. 새로운 방식으로 일하는 법을 배우는 것은 개발자라는 직업의 일부다.

[출처] https://www.itworld.co.kr/article/3967678/%EA%B0%9C%EB%B0%9C%EC%9E%90%EA%B0%80-%EB%A7%9E%EB%8B%A5%EB%9C%A8%EB%A6%B0-%EA%B0%88%EB%A6%BC%EA%B8%B8%EB%B0%94%EC%9D%B4%EB%B8%8C-%EC%BD%94%EB%94%A9%EC%9D%84-%EB%B0%B0.html

[Ollama 응용개발] 로컬 환경에서 API 호스팅을 위한 Ollama 설정 종합 가이드 

1. Ollama 소개

Ollama는 자체 하드웨어에서 대규모 언어 모델(LLM)을 로컬로 실행할 수 있게 해주는 오픈소스 프레임워크입니다. Llama 3, DeepSeek-R1, Phi-4, Gemma 2 등의 모델을 복잡한 인프라 설정 없이 다운로드, 설정 및 상호작용할 수 있는 과정을 단순화합니다.

Ollama의 주요 기능:

• 로컬 머신에서 완전히 오프라인으로 LLM 실행
• 간단한 명령줄 인터페이스
• 애플리케이션과의 통합을 위한 RESTful API
• CPU 및 GPU 가속 지원
• 모델 관리(다운로드, 실행, 생성, 삭제)

2. 시스템 요구 사항

Ollama를 설치하기 전에 시스템이 다음 최소 요구 사항을 충족하는지 확인하세요:

최소 요구 사항:

• 운영 체제: macOS, Linux 또는 Windows
• RAM: 최소 8GB(대형 모델의 경우 16GB+ 권장)
• 디스크 공간: Ollama 및 기본 모델용 12GB+(추가 모델을 위한 더 많은 공간)
• CPU: 다중 코어 프로세서(합리적인 성능을 위해)

더 나은 성능을 위한 권장 사항:

• RAM: 16GB+
• GPU: CUDA를 지원하는 NVIDIA GPU 또는 Apple Silicon
• 디스크 공간: 50GB+ SSD 저장 공간

3. 설치 방법

macOS 설치

1. 공식 웹사이트에서 설치 프로그램을 다운로드하거나 Homebrew를 사용하세요:

   공식 설치 프로그램 사용:

   curl -fsSL https://ollama.com/install.sh | sh

   Homebrew 사용:

   brew install ollama

2. Ollama 시작:

   ollama serve

Linux 설치

1. 설치 스크립트를 사용하여 설치:

   curl -fsSL https://ollama.com/install.sh | sh

2. 수동 설치나 특정 Linux 배포판의 경우 공식 문서를 확인하세요.
3. Ollama 서비스 시작:

   ollama serve

Windows 설치

1. 공식 웹사이트에서 설치 프로그램 다운로드: https://ollama.com/download
2. 설치 프로그램을 실행하고 설치 마법사를 따르세요.
3. 설치 후, 시작 메뉴에서 Ollama를 실행하거나 다음을 실행하세요:

   ollama serve

4. 기본 사용법

Ollama가 설치되면 기본 명령어로 사용을 시작할 수 있습니다:

모델 다운로드(Pull)

ollama pull llama3.2

이것은 Llama 3.2 모델을 로컬 머신에 다운로드합니다. llama3.2를 사용 가능한 다른 모델로 대체할 수 있습니다.

사용 가능한 모델 목록 보기

ollama list

대화형 모드에서 모델 실행

ollama run llama3.2

이렇게 하면 모델과 채팅할 수 있는 대화형 세션이 시작됩니다.

5. API 서버 설정 및 구성

Ollama는 ollama serve를 실행하면 자동으로 포트 11434에서 API 서버를 시작합니다. 기본적으로 localhost(127.0.0.1)에 바인딩되어 로컬 머신에서만 접근할 수 있습니다.

API 서버 구성

환경 변수를 사용하여 API 서버를 구성할 수 있습니다:

1. 다른 머신에서 액세스할 수 있도록 바인딩 주소 변경:

   OLLAMA_HOST=0.0.0.0 ollama serve

   이렇게 하면 Ollama가 모든 네트워크 인터페이스에 바인딩되어 네트워크의 다른 머신에서 접근할 수 있습니다.

2. 포트 변경:

   OLLAMA_HOST=127.0.0.1:8000 ollama serve

   이렇게 하면 Ollama가 기본 11434 대신 포트 8000에서 실행됩니다.

3. 시스템 서비스로 설정(Linux):

   systemd 서비스 파일 생성:

   sudo nano /etc/systemd/system/ollama.service

   다음 내용 추가:

   [Unit]
   Description=Ollama Service
   After=network.target
   
   [Service]
   Type=simple
   User=YOUR_USERNAME
   Environment="OLLAMA_HOST=0.0.0.0"
   ExecStart=/usr/local/bin/ollama serve
   Restart=on-failure
   
   [Install]
   WantedBy=multi-user.target

   서비스 활성화 및 시작:

   sudo systemctl enable ollama
   sudo systemctl start ollama

6. API 사용 예제

API 서버가 실행 중이면 다양한 방법으로 상호작용할 수 있습니다:

curl 사용

1. 응답 생성:

   curl -X POST http://localhost:11434/api/generate -d '{
     "model": "llama3.2",
     "prompt": "기계 학습이란 무엇인가요?",
     "stream": false
   }'

2. 채팅 API(대화형 모델용):

   curl -X POST http://localhost:11434/api/chat -d '{
     "model": "llama3.2",
     "messages": [
       {
         "role": "user",
         "content": "기계 학습이란 무엇인가요?"
       }
     ],
     "stream": false
   }'

3. 사용 가능한 모델 나열:

   curl http://localhost:11434/api/tags

4. 모델 다운로드:

   curl -X POST http://localhost:11434/api/pull -d '{
     "name": "phi3:mini"
   }'

Python 사용

1. 공식 Python 라이브러리 설치:

   pip install ollama

2. 기본 사용법:

   import ollama
   
   # 응답 생성
   response = ollama.generate(
       model='llama3.2',
       prompt='기계 학습이란 무엇인가요?'
   )
   print(response['response'])

3. 채팅 API:

   import ollama
   
   response = ollama.chat(
       model='llama3.2',
       messages=[
           {
               'role': 'user',
               'content': '기계 학습이란 무엇인가요?'
           }
       ]
   )
   print(response['message']['content'])

4. 스트리밍 응답:

   import ollama
   
   # 응답 스트리밍
   stream = ollama.generate(
       model='llama3.2',
       prompt='AI에 대한 시를 작성해주세요.',
       stream=True
   )
   
   for chunk in stream:
       print(chunk['response'], end='', flush=True)

7. 성능 최적화

다음 팁을 사용하여 Ollama의 성능을 최적화하세요:

1. GPU 가속:
   • 최신 GPU 드라이버가 설치되어 있는지 확인
   • NVIDIA GPU의 경우 CUDA 및 cuDNN 설치
   • Ollama는 사용 가능한 경우 자동으로 GPU를 사용
2. 모델 선택:
   • 제한된 하드웨어에서 더 빠른 응답을 위해 더 작은 모델 선택
   • 더 나은 성능을 위해 양자화 버전(예: Q4_K_M) 고려
3. 매개변수 조정:
   • 메모리 사용량과 성능의 균형을 맞추기 위해 컨텍스트 길이 조정:

     ollama run llama3.2 --parameters num_ctx=2048

   • 더 빠른 추론을 위해 온도 조정:

     ollama run llama3.2 --parameters temperature=0.1

4. 리소스 모니터링:
   • 모델 실행 중 CPU, GPU 및 메모리 사용량 모니터링
   • htop, nvidia-smi 또는 top과 같은 도구를 사용하여 리소스 사용량 추적
5. 캐시 관리:
   • Ollama는 성능 향상을 위해 생성된 응답을 캐시함
   • 필요한 경우 캐시 지우기: rm -rf ~/.ollama/cache

8. 보안 고려 사항

API가 활성화된 Ollama를 호스팅할 때 다음 보안 조치를 고려하세요:

1. 네트워크 노출:
   • 기본적으로 Ollama는 localhost(127.0.0.1)에 바인딩되며, 이는 안전함
   • 다른 머신에서 액세스해야 하는 경우에만 OLLAMA_HOST=0.0.0.0 사용
   • 안전한 원격 액세스를 위해 TLS가 있는 리버스 프록시(Nginx와 같은) 사용 고려
2. 액세스 제어:
   • Ollama 포트에 대한 액세스를 제한하는 방화벽 규칙 구현
   • 네트워크에 노출시키는 경우 인증 설정 고려
3. 모델 보안:
   • 신뢰할 수 있는 출처의 모델만 사용
   • 알 수 없는 출처의 사용자 정의 모델에 주의
4. API 토큰(사용자 정의 인증을 구현하는 경우):
   • 애플리케이션을 위한 API 토큰 시스템 구현 고려
   • Nginx와 같은 리버스 프록시를 사용한 예:

     location /api/ {
         auth_basic "Restricted";
         auth_basic_user_file /etc/nginx/.htpasswd;
         proxy_pass http://localhost:11434;
     }

9. 일반적인 문제 해결

설치 문제

• 권한 거부 오류:

  sudo chmod +x /path/to/ollama

• 라이브러리 종속성 누락(Linux):

  sudo apt-get install build-essential

API 연결 문제

• API에 연결할 수 없음:
  • Ollama가 실행 중인지 확인: ps aux | grep ollama
  • 포트가 열려 있는지 확인: netstat -tuln | grep 11434
  • 방화벽 설정 확인: sudo ufw status
• 403 Forbidden 오류:
  • 네트워크 구성 및 바인딩 주소 확인

성능 문제

• 높은 메모리 사용량:
  • 더 작은 모델 또는 양자화 버전 사용
  • 컨텍스트 길이 감소: --parameters num_ctx=2048
• 느린 응답:
  • 가능한 경우 GPU 가속 활성화
  • 제한된 하드웨어에서 더 작은 모델 사용
  • 배치 크기 조정: --parameters num_batch=128
• GPU가 감지되지 않음:
  • GPU 드라이버 업데이트
  • NVIDIA의 경우 CUDA가 제대로 설치되어 있는지 확인
  • GPU와 CUDA의 호환성 확인

결론

이제 API 호스팅과 함께 로컬 환경에서 Ollama를 설정하는 방법에 대한 포괄적인 이해를 갖게 되었습니다. 이 가이드를 따르면 특정 요구 사항에 맞게 Ollama를 설치, 구성 및 최적화하는 방법을 배웠습니다. 이제 API를 사용하여 Ollama를 애플리케이션에 통합하고 강력한 언어 모델을 로컬에서 실행할 수 있습니다.

최신 업데이트 및 자세한 문서는 공식 Ollama GitHub 저장소를 방문하세요: https://github.com/ollama/ollama.

참고 문헌

1. Ollama API 문서: https://github.com/ollama/ollama/blob/main/docs/api.md
2. Ollama GitHub 저장소: https://github.com/ollama/ollama
3. Ollama Python 라이브러리: https://github.com/ollama/ollama-python
4. Ollama 공식 웹사이트: https://ollama.com/download

출처: https://memoryhub.tistory.com/entry/로컬-환경에서-API-호스팅을-위한-Ollama-설정-종합-가이드 [메모리허브:티스토리]

[행복한 책읽기 – 밑줄친 문장]  공자가 AI 시대를 산다면  – 격동의 AI 시대,2500년 전 공자에게 길을 묻다

[사회과학][박진영의 사회심리학] 타인의 고통을 이해해야 하는 이유

코소보 전쟁. 연합뉴스 제공

세계사를 들여다보면 오랜 세월 동안 서로 다른 종교나 민족 등을 이유로 갈등을 빚어온 지역들이 있다. 코소보를 둘러싸고 세르비아인들과 알바니아인이 충돌해 온 것도 대표적인 사례다. 한때는 이 지역의 긴장감이 완화되는 것 같기도 했지만 여전히 갈등의 고조와 완화가 반복되며 양쪽에 많은 상처를 내고 있다.

한국 역시 이웃 나라 일본, 중국과 오랜 시간 반목해 온 역사가 있고 식민지 시절을 겪은 상처가 아직도 남아 있기에 역사적 비극이 반복되는 것이 남의 이야기 같지만은 않다.

이슬람 보린카 그로닝겐대 연구팀은 855명의 알바니아인들을 대상으로 다음과 같은 실험을 했다. 한 그룹의 사람들에게는 평범한 세르비아인들이 과거에 자신의 국가가 저지른 잘못에 대해 사과하는 메시지를 보게 했고 다른 그룹의 사람들에게는 세르비아 정부 관계자가 사과하는 메시지를 보게 했다. 또 다른 그룹의 사람들에게는 사과의 메시지가 담기지 않은 소식을 듣게 했다.

그 결과 보통의 세르비아인들이 과거의 잘못에 대해 후회를 내비치고 사과의 마음을 전달하는 내용의 메시지에 사람들의 마음이 가장 크게 움직인 것으로 나타났다. 정부 관계자가 사과했을 때보다 평범한 사람들이 후회의 마음을 내비쳤을 때 알바니아 사람들은 더 세르비아와 평화로운 관계를 유지할 의향을 크게 내비쳤다.

또한 정부 관계자보다 보통의 세르비아인들에게 사과를 받았을 때 세르비아인들도 자신들과 비슷한 ‘인간’이라는 인식이 더 높아진 것으로 나타났다. 갈등을 빚고 있는 외집단을 향해 그들은 인간이 아니라거나 짐승, 바퀴벌레 같은 존재라며 해당 집단에 속한 사람들의 인격을 깎아 내리는 ‘비인간화’가 흔히 나타난다.

이러한 비인간화는 인간이 다른 인간을 향해 학살 같은 일도 서슴지 않고 하게 만드는 중요한 요인이다. 세르비아 일반인들로부터 사과를 받았을 때 알바니아인들은 상대를 더 ‘인간화’ 해서 바라본 것으로 나타났다. 나아가 이러한 인간화가 우리 집단이 타 집단보다 더 큰 피해를 봤다고 하는 ‘경쟁적 피해의식’ 또한 줄인 것으로 나타났다.

국가나 민족 단위의 사람들이 겪은 과거의 트라우마에 대해 시간이 지났으니 그만 잊으라고 이야기하는 사람들을 종종 본다. 과거의 상처가 지금까지도 썩은 냄새를 풍기고 있는데도 마치 과거와 현재 사이에 아무런 관계가 없는 것처럼 말하는 것은 별로 설득력이 없다.

개인적인 상처도 그렇지만 개인과 집단 사이, 집단과 집단 사이의 문제들도 최소한의 ‘종결’이 필요하다. 어떤 것이 잘못이었고 지금이라도 이를 바로잡기 위해 무엇을 해야 하는지에 관한 대화가 계속되어야 하는 이유다.

이미 끝났는데 자꾸 얘기하는 것이 아니라 적어도 누군가에게는 아직 이 문제가 끝나지 않았기 때문에 계속 얘기하는 것이고 계속 얘기해야 조금이라도 더 모두에게 이로운 미래로 나아가는 것이 가능해진다.

함께 더 나은 미래로 가기 위한 성찰의 시도를 거부하는 사람들이 있다면 아마도 생각하기 귀찮아서, 심각한 분위기가 싫어서, 나의 고통은 위로받지 못했는데 남의 고통이 위로 받는 걸 보는 게 배 아파서, 그냥 현상 유지하는 것이 좋아서, 내 기분이 편안한 것이 가장 중요해서, 남이 고통받든 말든 나만 잘 살면 돼서, 또는 찔리는 것이 많아서 그런 것은 아닐까 생각해 본다.

하지만 결국 서로 영향을 주고 받을 수 밖에 없는 사회에서 ‘나만 잘 사는 것’이란 애초에 불가능한 법이다. 누군가의 고통이 쉽게 잊혀지는 사회에서는 나의 고통 또한 가볍게 여겨질 수 밖에 없음을 기억해보자.

Borinca, I., Koc, Y., & Mustafa, S. (2024). Fostering social cohesion in post‐war societies: The power of normative apologies in reducing competitive victimhood and enhancing reconciliation. European Journal of Social Psychology. https://doi.org/10.1002/ejsp.3116

※필자소개
박진영. 《나, 지금 이대로 괜찮은 사람》, 《나를 사랑하지 않는 나에게》를 썼다. 삶에 도움이 되는 심리학 연구를 알기 쉽고 공감 가도록 풀어낸 책을 통해 독자와 꾸준히 소통하고 있다. 온라인에서 ‘지뇽뇽’이라는 필명으로 활동하고 있다. 현재 미국 듀크대에서 사회심리학 박사 과정을 밟고 있다.

박진영 심리학 칼럼니스트 parkjy0217@gmail.com

[출처] https://n.news.naver.com/article/584/0000031971