OpenAI가 2025년 8월에 gpt-oss라는 오픈 웨이트 언어 모델을 공개했어요. 이 소식을 보자마자 바로 눈길이 갔습니다.
“오프라인에서 ChatGPT처럼 쓸 수 있다고?” 하는 호기심이 생겼거든요. 그래서 직접 설치해보고 써봤습니다.
아래는 제가 정리한 gpt-oss 특징과 사용 후기예요!
gpt-oss란?
gpt-oss는 OpenAI가 처음으로 공개 웨이트와 Apache 2.0 라이선스를 적용해 만든 언어 모델이에요.
즉, 누구나 자유롭게 쓰고, 상업적 활용도 가능하다는 뜻이죠.
더 좋은 점은 내 PC나 서버에서 직접 돌릴 수 있다는 겁니다.
API를 거치지 않으니 속도, 비용, 프라이버시 모두 제가 통제할 수 있어요.
기존 o3-mini나 o4-mini는 API 의존이 컸습니다.
반대로 gpt-oss는 완전히 로컬 실행이라 데이터가 외부로 나가지 않는다는 게 정말 매력적이었어요.
모델 종류와 특징
gpt-oss는 두 가지 버전이 있어요:
| 모델 | gpt-oss:20b | gpt-oss:120b |
|---|---|---|
| 파라미터 수 | ~약 21B | ~약 117B |
| 메모리 요구 | ~약 16 GB RAM (CPU/보통 GPU) | ~약 80 GB RAM (서버급 GPU) |
| 컨텍스트 길이 | 128k tokens | 128k tokens |
| 성능 수준 | o3-mini와 유사 | o4-mini와 유사 |
| 활용 | 글쓰기, 채팅, 코드 작성 | 복잡한 추론, 긴 문서 처리 |
- gpt-oss-120b는
Mixture-of-Experts 구조를 사용합니다. 효율적이면서도 강력한 추론 능력을 보여줘요. OpenAI는 이 모델이 o4-mini와 비슷한 성능이라고 밝혔습니다. - gpt-oss-20b는
더 가볍습니다. 성능은 o3-mini와 비슷해서, NativeMind로 실행하면 오프라인 ChatGPT처럼 쓸 수 있어요. 저처럼 가볍게 체험해보고 싶은 사람에게 적합합니다.
이런 모델은 NativeMind 같은 완전히 로컬에서 동작하는 AI 어시스턴트를 통해 더 쉽게 쓸 수 있어요.
(브라우저 확장 형태라서 서버 연결 없이 제 기기 안에서만 실행되니까!)
왜 로컬에서 써야 할까?
제가 느낀 가장 큰 장점은 자유로움이에요—모든 게 내 기기 안에서만 돌아가니까요.
이런 점이 특히 좋았습니다.
- 지연 없는 빠른 응답
- 프라이버시 보호
- 모델 세부 설정을 직접 제어 가능
한마디로 요약하면—“프라이버시 지킴 + 속도 향상 + 비용 절약”.
이 조합은 확실히 일반 사용자뿐 아니라,
프라이버시 요구가 많은 기업에게도 충분히 설득력이 있다고 생각했습니다!
NativeMind 에서 사용하는 방법
제가 사용한 NativeMind는 브라우저 확장 형태의 프라이빗 AI 어시스턴트예요.
클라우드 서버 없이 제 기기 안에서만 동작하고, 요약, 번역, 검색, 대화 같은 기능을 지원합니다.
모든 데이터와 대화가 오직 내 로컬 환경에서만 처리되니까 프라이버시 걱정이 없다는 게 마음에 들었어요!
게다가 Firefox와 Chromium 계열 브라우저 에서 모두 쓸 수 있어서 접근성도 좋았습니다.
지금은 gpt-oss도 통합된 로컬 AI 모델 중 하나로 지원돼서, 설치만 하면 바로 쓸 수 있었습니다!
저는 NativeMind + Ollama 조합으로 gpt-oss를 실행했어요. 설치 과정은 생각보다 간단했습니다:
- 브라우저에 NativeMind 확장 프로그램 설치
- 로컬에 Ollama 설치
- Ollama 라이브러리에서 gpt-oss 검색 → Use in NativeMind 클릭
- 브라우저 확장 아이콘에서 모델 선택 → 바로 사용
이렇게 하니 브라우저에서 탭을 오가며 자유롭게 쓸 수 있었습니다. 진짜 “내 PC에 ChatGPT 설치한 느낌”이었어요.
소감?
오프라인에서 돌아가는 ChatGPT를 내 PC에 깔아둔 느낌!
프라이버시도 챙기고, 속도도 빠르고, 커스터마이징까지 자유로우니 확실히 매력적이다.
저는 이 글을 통해 더 많은 분들이 로컬 AI를 경험해보셨으면 합니다. 특히 프라이버시와 속도가 중요한 분들에게 강력히 추천드려요!
'AI&Tech' 카테고리의 다른 글
| Mapify: Lily’s AI 보다 더 똑똑한 AI 요약 도구? (4) | 2025.08.27 |
|---|