Ollama

Ollama(Allama) 구축하기

• 맥미니 M6 24GB 맥미니 환경에서 Open WebUI를 구축하면, 외부 클라우드 연결 없이 100% 로컬에서 작동하는 나만의 챗GPT(ChatGPT) 시스템이 완성됩니다.
• 가장 대중적이고 깔끔한 Docker(도커)를 이용해 맥미니에 Open WebUI를 설치하고 Ollama와 연동하는 가장 쉽고 빠른 방법을 안내해 드립니다.

단계: Docker Desktop 설치하기

• Open WebUI를 안정적으로 구동하고 추후 업데이트를 쉽게 하려면 Docker 환경이 필요합니다.

1. Docker Desktop 공식 홈페이지에 접속합니다.

2. Mac with Apple Chip 버전을 다운로드하여 설치합니다.

3. 설치 완료 후 Docker Desktop 앱을 실행하고, 초기 설정 안내를 넘긴 뒤 앱이 정상적으로 켜진(왼쪽 아래 초록색 아이콘 표시) 상태를 유지합니다.

단계: 터미널에서 Open WebUI 실행하기

맥의 터미널(Terminal) 앱(또는 사용하는 Ghostty 등)을 열고 아래의 명령어를 그대로 복사해서 붙여넣은 뒤 엔터(Enter)를 누릅니다.

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

코드를 사용할 때는 주의가 필요합니다.

• 💡 명령어 의미: 맥미니에 설치된 Ollama와 내부적으로 통신할 수 있도록 통로를 열어주고, Open WebUI 데이터를 저장할 공간(open-webui)을 지정한 뒤, 웹 포트 3000번으로 프로그램을 백그라운드(-d)에서 상시 실행하라는 명령어입니다.

• 최초 실행 시 다운로드 시간이 1~2분 정도 소요될 수 있습니다.

단계: 웹 브라우저에서 접속 및 계정 생성

1. 다운로드가 끝나고 완료되면, 사파리(Safari)나 크롬(Chrome) 브라우저를 열고 주소창에 아래 주소를 입력합니다. • http://localhost:3000

2. 챗GPT와 유사한 깔끔한 로그인 화면이 나타납니다.

3. [Sign Up]을 눌러 관리자 계정(이름, 이메일, 비밀번호)을 생성합니다. • ※ 이 계정 정보는 외부 서버로 전송되지 않고, 오직 회원님의 맥미니 내부 도커 데이터베이스에만 안전하게 저장됩니다.

4단계: Ollama 모델 선택하고 대화하기

1. 로그인이 완료되면 대시보드 화면이 뜹니다.

2. 화면 상단의 '모델 선택(Select a model)' 드롭다운 메뉴를 클릭합니다.

3. 이미 Ollama를 통해 다운로드해 둔 모델(qwen2.5:14b, deepseek-r1:14b, llama3.1 등)이 자동으로 연동되어 목록에 표시됩니다.

4. 원하는 모델을 선택하고 챗GPT를 쓰듯 자유롭게 로컬 AI 대화를 즐기시면 됩니다.

🛠️ 유용한 유지보수 및 꿀팁

• 컴퓨터를 껐다 켰을 때: Docker Desktop 앱만 실행해 두면, 위 명령어의 --restart always 옵션 덕분에 Open WebUI가 자동으로 배경에서 실행됩니다. 언제든 브라우저에서 localhost:3000으로 접속하시면 됩니다.

• 새로운 AI 모델 추가하고 싶을 때: Open WebUI 내의 [설정(톱니바퀴)] -> [관리자 설정] -> [모델] 메뉴에서 원하는 Ollama 모델명(예: qwen2.5:14b)을 입력하고 다운로드 버튼을 누르면 터미널을 켜지 않고도 바로 새 모델을 추가할 수 있습니다.

• 컨테이너 정지/삭제가 필요할 때: • 정지: docker stop open-webui • 재시작: docker start open-webui