윈도우11, QWEN3-32B, 30B 설치

LM studio에서 Qwen3 32b, 30b가 떴다. ollama에서도 떴지만 도커가 조금 불안정해서 LM studio에서 설치를 했다.

설치 방법은 아래의 글과 비슷하다(LM studio) 윈도우11에서 Gemma3 27b 설치하기

PC사양은 i7-14700 ram: 64gb VGA: geforce: 4070 ti super, Vram 16GB

32B 모델에서 안녕! 이라는 말을 했을 때 답변은 약 27~28초 뒤에 왔다. 아주 단순한 문구인데도 답변이 늦었다.

1+1이 뭐냐고 물었을 때는 답변이 50초 가까이 걸렸다.

결국 30B를 설치해봤다. QWEN-3-30B-A3B모델이다.

이건 안녕이라고 물었을 때, 그리고 1+1을 물었을 때 5~6초 정도에 답변이 왔다. 이 정도면 30B까지는 사용 가능할 거 같고 무거운 걸 돌릴 때는 14B 시간 많으면 30B

아직 사용 경험은 거의 없지만 이 정도 돌릴 수 있지 않나 생각한다.