OpenAI 사장님이 미쳐가지고 오픈소스로 AI 모델 두 개를 풀었습니다.
대충 6년 만에 선보이는 Open-weight 모델인데 GPT-OSS-120B와 GPT-OSS-20B 입니다. 실제 성능은 대충 o3 그리고 o4-mini랑 비슷하다고 하는데
중요한건 Apache 2.0 라이선스라서 상업용으로도 맘대로 사용이 가능합니다.
이제 여러분도 AI기업 만들 수 있게 된거구요.
gpt-oss.com 온라인 웹페이지에서 미리 써볼 수 있는데
- Mixture of Experts(MoE) 아키텍처로 만들어졌고, Chain of Thought 기능이 달려서 혼자 생각하는 추론모델입니다.
- 추론 강도를 상/중/하로 컨트롤 할 수 있습니다.
- Tool 사용 기능까지 내장되어 있어서 Agent 식으로도 사용이 가능합니다.
로컬에서 써보려면 OpenAI 공식 사이트에서 "구축해주겠어" 버튼 누르면 되는데, 더 쉽게 쓰려면 그냥 LM Studio, Ollama 같은 도구 설치해서 써보시면 됩니다.
실제로 내 컴퓨터에서 돌리려면 작은 20B 모델은 VRAM 16GB, 큰 120B 모델은 VRAM 60GB 이상이 필요합니다.
참고로 요즘 맥북은 VRAM을 공유하기 때문에 램만 충분하면 맥북에어에서도 돌아갑니다.
웹에서도 미리 써볼 수가 있는데 AI의 난제도 쉽게 풀어내는 걸 볼 수 있군요.
써보시면 기존 로컬모델들과는 다르게 확실히 쓸만한 성능이 나오는 것 같다는게 의의인데 한국어는 찐빠내는 경우가 간혹 있습니다.
코딩할 때 쓰려면 그냥 평소에 쓰던 OpenAI API 요청하는 코드가 그대로 호환이 됩니다.
URL 엔드포인트 작성하는 곳만 로컬 서버로 바꿔주면 됩니다.
이게 정말 큰 장점인 게, 기존에 개발해놓은 애플리케이션들을 거의 수정 없이 로컬 모델로 갈아탈 수 있다는 뜻이라
특히 보안이 중요한 기업들이나 API 비용 부담을 느끼는 스타트업들한테는 큰 변화가 될 수 있습니다.
이제 여기다가 한국어 잘하게 파인튜닝하고 웹 UI 씌워가지고 AI 기업 만들어서 투자금 쌀먹하러 가보도록 합시다.