윈도우11, QWEN3-32B, 30B 설치

LM studio에서 Qwen3 32b, 30b가 떴다. ollama에서도 떴지만 도커가 조금 불안정해서 LM studio에서 설치를 했다.

설치 방법은 아래의 글과 비슷하다(LM studio)
윈도우11에서 Gemma3 27b 설치하기

PC사양은
i7-14700
ram: 64gb
VGA: geforce: 4070 ti super, Vram 16GB

32B 모델에서
안녕! 이라는 말을 했을 때 답변은 약 27~28초 뒤에 왔다.
아주 단순한 문구인데도 답변이 늦었다.

1+1이 뭐냐고 물었을 때는 답변이 50초 가까이 걸렸다.


결국 30B를 설치해봤다.
QWEN-3-30B-A3B모델이다.

이건 안녕이라고 물었을 때, 그리고 1+1을 물었을 때 5~6초 정도에 답변이 왔다.
이 정도면 30B까지는 사용 가능할 거 같고
무거운 걸 돌릴 때는 14B
시간 많으면 30B

아직 사용 경험은 거의 없지만
이 정도 돌릴 수 있지 않나 생각한다.