Ollama 다운로드 및 사용 방법

소개

Ollama란?

Ollama는 대형 언어 모델(LLM)을 로컬에서 실행할 수 있게 도와주는 오픈 소스 도구입니다. 특히 Meta의 Llama2 모델과 같은 공개된 모델을 활용해 로컬 환경에서 AI 모델을 테스트하고 사용할 수 있게 해줍니다. 이를 통해 상용 API나 클라우드 서비스에 의존하지 않고도 AI 모델을 사용할 수 있도록 해줍니다.

설치 방법

Windows 설치

1. Ollama 공식 웹사이트(https://ollama.com)에서 Windows용 설치 파일(.exe)을 다운로드합니다.

2. 다운로드한 파일을 실행하고 모든 설치 지침을 따릅니다.

3. 설치가 완료된 후, Ollama 아이콘이 하단 작업 표시줄에 나타나게 됩니다.

MacOS 설치

1. Ollama 공식 웹사이트(https://ollama.com)에서 MacOS용 설치 파일을 다운로드합니다.

2. 다운로드한 파일을 압축 해제하여 Ollama 앱을 응용 프로그램 폴더로 드래그합니다.

3. 앱을 실행하여 설치를 완료합니다.

Linux 설치

1. 터미널을 열고 아래 명령어를 실행합니다:

   curl -fsSL https://ollama.com/install.sh | sh

2. 설치가 완료되면 ollama 명령어를 이용해 실행할 수 있습니다.

주요 기능 및 사용법

Ollama 실행

Ollama를 설치한 후에는 다양한 모델을 다운로드하고 실행할 수 있습니다. 이를 위해 다음의 명령어들을 사용할 수 있습니다:

• Ollama 시작: Ollama 서버를 시작합니다.

  ollama serve

• 모델 목록 보기: 다운로드된 모델의 목록을 확인합니다.

  ollama list

• 모델 다운로드: 특정 모델을 로컬에 다운로드합니다.

  ollama pull [모델명]

• 모델 실행: 다운로드된 모델을 이용해 프롬프트를 실행합니다.

  ollama run [모델명] "프롬프트 내용"

• 모델 제거: 특정 모델을 로컬에서 제거합니다.

  ollama rm [모델명]

예제

Llama2 모델 다운로드 및 실행

1. Llama2 모델을 다운로드합니다:

   ollama pull llama2

2. 다운로드된 모델을 실행하고 프롬프트를 입력해 봅니다:

   ollama run llama2 "기본적인 머신러닝 개념을 설명해주세요."

Python 통합

Ollama는 Python 라이브러리와도 통합되어 있어, 코드 내에서 모델을 호출할 수 있습니다. 이를 위해 아래의 코드를 사용할 수 있습니다.

1. 라이브러리 설치:

   pip install ollama

2. Python 코드 내에서 Ollama 사용:

   import ollama
   
   response = ollama.generate(model='llama2', prompt='머신러닝의 기본 개념을 설명해줘')
   print(response['response'])

결론

Ollama는 대형 언어 모델을 로컬에서 실행할 수 있게 해주는 강력한 도구입니다. 이를 통해 사용자는 클라우드 서비스 비용을 절감하고 데이터의 프라이버시를 유지하면서 다양한 AI 모델을 실험하고 활용할 수 있습니다. Ollama의 다양한 기능과 사용법을 익혀, AI 모델을 손쉽게 활용해 보세요.