모델 선택과 실행 설정으로 결과 제어하기
모델은 '좋은 것'보다 '맞는 것'을 고른다
Google AI Studio에서 먼저 결정할 것은 모델이다. 같은 프롬프트라도 어떤 모델을 쓰느냐에 따라 속도, 깊이, 비용, 결과의 말투가 달라진다. 그래서 모델 선택의 기준은 "가장 강력한 모델인가"가 아니라 "지금 하려는 작업에 맞는 모델인가"여야 한다.
큰 방향은 단순하다. 복잡한 기획 검토, 코드 리뷰, 긴 문서 분석처럼 깊은 판단이 필요하면 Pro 계열을 우선 검토한다. 빠른 요약, 반복적인 문구 생성, 대량 분류처럼 속도와 비용이 중요한 작업은 Flash 계열이 적합하다. 이미지를 만들거나 편집하려면 이미지 생성 모델, 영상을 만들려면 Veo 계열처럼 작업 유형에 맞는 모델을 고른다. Google은 Gemini, Imagen, Veo 등 목적별 모델군을 제공하며, 실제 AI Studio에 표시되는 모델 이름과 사용 가능 여부는 시점, 지역, 계정, 실험 기능 여부에 따라 달라질 수 있다.1
처음부터 최고 성능 모델만 고집할 필요는 없다. 초안은 Flash로 빠르게 만들고, 마지막 검토나 복잡한 판단만 Pro로 넘기는 방식이 실용적이다. AI Studio의 모델 선택 화면에서는 모델의 입력·출력 한도, 강점, 버전 정보를 확인할 수 있으므로 작업 전에 한 번 살펴보는 습관이 좋다.2
Temperature: 정확성과 창의성의 다이얼
Temperature는 답변의 무작위성을 조절한다. 낮을수록 모델은 가장 가능성이 높은 표현을 선택하고, 높을수록 다양한 표현을 시도한다.
사실 기반 요약, 코드 생성, 데이터 추출, 고객 응대 문안처럼 일관성이 중요한 작업은 0.1~0.3 정도로 낮게 시작한다. 답변이 단조로울 수 있지만, 엉뚱한 표현이 끼어들 가능성이 줄어든다.
반대로 광고 문구, 제목 후보, 스토리 아이디어, 브레인스토밍은 0.7 이상으로 올려볼 만하다. 이때는 결과가 더 신선해지지만, 논리적 정확성은 직접 확인해야 한다. 창의적인 답을 원한다고 항상 높은 값이 좋은 것은 아니다. 실무에서는 0.5 전후에서 시작한 뒤, 결과가 딱딱하면 올리고 산만하면 낮추는 방식이 안전하다.
Top P, 출력 길이, 중지 시퀀스로 답변 범위 좁히기
Top P는 모델이 다음 단어를 고를 때 고려할 후보의 범위를 제한한다. 값이 낮으면 확률이 높은 표현을 중심으로 답하고, 값이 높으면 더 넓은 표현을 고려한다. 초보자는 Temperature를 먼저 조절하고, 그래도 결과가 너무 흔하거나 너무 흔들릴 때 Top P를 함께 조정하면 된다.
출력 길이는 답변의 최대 토큰 수를 정한다. 토큰은 단어보다 작은 텍스트 단위라고 이해하면 된다. 출력 길이를 높이면 긴 보고서나 상세 설명이 가능하지만, 응답 시간이 늘고 사용량도 커질 수 있다. 반대로 너무 낮게 잡으면 답변이 중간에 끊긴다.
중지 시퀀스는 특정 문자열이 나오면 생성을 멈추게 하는 장치다. 예를 들어 ### 이후 내용이 필요 없다면 이를 중지 시퀀스로 지정할 수 있다. 반복되는 형식의 데이터 추출이나 짧은 답변을 강제할 때 유용하다.
이미지나 영상 작업에서는 해상도, 비율, 길이 같은 미디어 설정도 중요하다. 낮은 해상도나 짧은 길이는 빠른 시안 확인에 좋고, 높은 품질 설정은 세부 묘사가 필요한 최종 결과물에 적합하다. 다만 품질을 높일수록 처리 시간과 사용량이 커질 수 있다.3
Thinking 관련 설정은 어려운 문제에만 쓴다
일부 모델과 화면에서는 Thinking level, thinking budget처럼 추론에 쓰는 자원을 조절하는 설정이 제공될 수 있다. 이런 사고 관련 설정은 모델이 답하기 전 더 많은 추론 과정을 쓰도록 유도하는 옵션으로 이해하면 된다. 복잡한 요구사항 분석, 코드 구조 검토, 사업 기획의 리스크 점검, 긴 문서의 모순 찾기처럼 "빨리"보다 "깊게"가 중요한 작업에 효과적이다.
하지만 모든 작업에 높게 둘 필요는 없다. 단순 요약, 번역, 문장 다듬기에는 오히려 느려지고 비용만 늘 수 있다. 또한 깊게 생각한다고 항상 정답이 되는 것은 아니다. 중요한 판단에는 근거 확인, 원문 대조, 재질문이 함께 필요하다.
추천 시작값
| 작업 | 모델 | Temperature | Top P | 비고 |
|---|---|---|---|---|
| 회의록 요약 | Flash | 0.2 | 0.8~0.9 | 빠르고 일관된 정리 |
| 코드 생성 | Pro 또는 Flash | 0.1~0.3 | 0.8 | 실행·검증 필수 |
| 광고 아이디어 | Flash | 0.7~1.0 | 0.9~1.0 | 여러 후보 생성 |
| 코드 리뷰·기획 검토 | Pro | 0.2~0.5 | 0.8~0.9 | 추론 관련 설정은 필요할 때만 테스트 |
| 이미지·영상 시안 | 이미지/Veo 모델 | 목적별 조정 | 목적별 조정 | 초안은 빠르게, 최종은 품질 중심 |
가장 좋은 방법은 같은 프롬프트를 모델과 설정만 바꿔 반복 실행하는 것이다. AI Studio의 Compare Mode는 여러 모델의 응답 품질과 지연 시간을 나란히 비교하는 데 도움이 된다.4 설정값은 정답이 아니라 출발점이다. 결과를 보고 조정하는 사람이 최종 품질을 결정한다.
참고
2Gemini models - Google AI for Developers
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.