1부 2장. 좋은 질문보다 중요한 것

많은 사람이 AI를 잘 쓰는 비결로 먼저 떠올리는 것은 "질문을 잘하는 법"입니다. 틀린 말은 아닙니다. 엉성한 질문보다 좋은 질문이 낫습니다. 하지만 여기에는 자주 빠지는 함정이 있습니다. 사람들은 좋은 결과가 마치 질문 한 줄의 재치에서 나오는 것처럼 생각합니다.

실제로는 그렇지 않습니다.

같은 모델에게, 비슷한 문장을 넣었는데도 어떤 사람은 쓸 만한 결과를 얻고 어떤 사람은 실망합니다. 이 차이는 대개 문장 솜씨에서 나오지 않습니다. 더 큰 차이는 목적이 분명했는지, 자료가 있었는지, 맥락이 정리되어 있었는지, 결과를 어떻게 점검할지까지 생각했는지에서 생깁니다.

한마디로 말하면 이렇습니다.

좋은 결과는 좋은 질문 하나에서 나오기보다, 잘 설계된 작업 환경에서 나옵니다.

이 장에서는 바로 그 점을 살펴보겠습니다. 왜 "질문 잘하기"만으로는 부족한지, 실제로 AI 성과를 좌우하는 변수는 무엇인지, 그리고 앞으로 어떤 기준으로 AI를 써야 하는지를 한눈에 정리해 보겠습니다.

왜 사람들은 질문 한 줄에 집착할까

이유는 간단합니다. 눈에 보이는 것이 질문이기 때문입니다.

AI 화면을 열면 입력창이 하나 있고, 우리는 거기에 문장을 넣습니다. 그러니 자연스럽게 "결과는 저 문장에 달려 있겠지"라고 생각하게 됩니다. 마치 자판기에 동전을 넣듯, 좋은 문장을 넣으면 좋은 답이 나올 것처럼 느껴집니다.

하지만 실제 작업은 자판기와 다릅니다. 우리가 AI에게 맡기는 일은 대부분 빈칸 퀴즈가 아니라 작은 프로젝트에 가깝습니다. 보고서를 쓰든, 발표를 준비하든, 공부를 하든, 기획안을 만들든, 일은 늘 배경과 목적과 제약을 갖고 있습니다. 질문은 그 프로젝트의 입구일 뿐입니다. 입구가 중요하긴 해도, 건물 전체를 대신할 수는 없습니다.

예를 들어 "마케팅 전략 알려줘"라는 질문은 문장으로만 보면 멀쩡합니다. 그러나 이 질문만으로는 너무 많은 것이 비어 있습니다. 누구를 위한 전략인지, 어떤 상품인지, 온라인 중심인지 오프라인 중심인지, 당장 실행할 아이디어가 필요한지 아니면 발표용 정리가 필요한지 알 수 없습니다.

AI는 빈칸을 스스로 메우려 합니다. 문제는 그 빈칸을 메우는 방식이 늘 당신의 상황과 맞지는 않는다는 데 있습니다. 그래서 결과는 그럴듯하지만 어딘가 어긋납니다. 이때 사람들은 종종 "질문을 더 세련되게 써야 하나?"라고 생각합니다. 사실 더 중요한 것은 세련된 문장이 아니라, 빠져 있는 조건을 채우는 일입니다.

좋은 질문보다 중요한 다섯 가지

AI 성과를 좌우하는 진짜 변수는 대체로 다음 다섯 가지입니다.

• 목적: 이 결과를 어디에, 왜 쓸 것인가

• 자료: AI가 참고할 구체적인 정보가 있는가

• 맥락: 독자, 상황, 배경, 이미 정해진 조건이 무엇인가

• 작업 방식: 한 번에 끝낼지, 단계로 나눌지

• 검증 기준: 무엇을 기준으로 좋은 결과라고 판단할 것인가

좋은 질문은 이 다섯 가지를 잘 싣는 그릇일 때 힘을 발휘합니다. 반대로 이 다섯 가지가 비어 있으면, 아무리 문장을 매끈하게 써도 결과는 흔들리기 쉽습니다.

이제 하나씩 살펴보겠습니다.

첫째, 목적이 흐리면 답도 흐려진다

AI는 생각보다 말을 잘합니다. 그래서 목적이 불분명해도 그럴듯한 문장을 만들어 냅니다. 바로 이 점이 무섭기도 합니다. 내용은 애매한데 문장만 매끈해서, 사용자가 "뭔가 된 것 같은데?" 하고 넘어가기 쉽기 때문입니다.

목적은 단순히 주제를 뜻하지 않습니다. 무엇을 만들고 싶은지보다, 그 결과가 어디에 쓰일지를 뜻합니다.

예를 들어 "요약해줘"라는 요청에도 사실 여러 목적이 숨어 있습니다. 시험 공부를 위한 요약인지, 상사 보고용 요약인지, 발표 전 빠른 파악을 위한 요약인지에 따라 결과는 완전히 달라져야 합니다. 공부용이라면 핵심 개념과 함정을 잡아줘야 하고, 보고용이라면 의사결정 포인트를 정리해야 하며, 발표 준비용이라면 구조와 메시지가 살아 있어야 합니다.

그래서 AI에게 일을 맡길 때는 주제보다 목적을 먼저 분명히 하는 편이 좋습니다.

"이걸 설명해줘"보다 "초보자가 5분 안에 이해할 수 있게 설명해줘"가 낫고, "보고서 써줘"보다 "팀장에게 공유할 1페이지 브리프로 정리해줘"가 낫습니다. 전자는 주제만 있고, 후자는 용도와 독자와 길이까지 들어 있습니다.

목적이 선명해지면 AI의 답은 갑자기 현실에 가까워집니다. 말이 예뻐지는 것이 아니라, 결과가 쓸모 있어집니다.

둘째, AI는 재료가 있어야 제대로 요리한다

많은 사람이 AI를 만능 두뇌처럼 생각하지만, 실제로는 재료를 줄수록 훨씬 잘 일하는 조리사에 가깝습니다. 재료 없이도 요리는 할 수 있습니다. 다만 냉장고를 열어 보지 않고 만드는 요리는 뻔해지기 쉽습니다.

여기서 말하는 자료는 거창한 것이 아닙니다. 초안 문서, 회의 메모, 제품 설명, 참고 문장, 본인이 이미 써 둔 아이디어, 비교 대상 링크, 기존 작업물, 핵심 수치 같은 것들입니다. 이런 정보가 있으면 AI는 추측을 덜 하고, 당신의 상황에 더 가까운 결과를 만듭니다.

예를 들어 "이메일 써줘"라고만 하면 AI는 무난한 메일을 씁니다. 하지만 다음 정보가 함께 들어가면 얘기가 달라집니다.

• 상대방은 거래처 실무자다

• 지난주 납기 지연에 대해 이미 한 차례 사과한 상태다

• 이번 메일의 목적은 사과보다 일정 재확인이다

• 너무 딱딱하지 않되 책임 회피처럼 보이면 안 된다

이쯤 되면 AI는 단지 메일을 쓰는 것이 아니라, 상황을 반영해 글을 조정하게 됩니다. 즉, 결과의 품질은 질문의 멋보다 자료의 밀도에 크게 좌우됩니다.

AI가 자꾸 뻔한 답을 한다면, 질문 솜씨를 탓하기 전에 먼저 재료가 부족한지 의심해 보는 편이 맞습니다.

셋째, 맥락은 보이지 않지만 결과를 가장 크게 바꾼다

목적과 자료가 있어도, 맥락이 빠지면 여전히 결과는 어색해질 수 있습니다. 맥락은 "이 일의 배경"입니다. 이미 알고 있는 사실, 제외해야 하는 조건, 현재 단계, 상대방의 성향, 조직의 방식, 이전에 내린 결정 같은 것들이 여기에 들어갑니다.

사람끼리 일할 때도 그렇습니다. 같은 말을 해도 배경을 아는 사람과 모르는 사람의 이해는 다릅니다. AI도 마찬가지입니다. 아니, 어떤 면에서는 더 심합니다. 사람은 눈치라도 보지만, AI는 주어진 정보 바깥을 제대로 알지 못합니다. 그래서 맥락이 빠지면 매우 자신 있게 엉뚱한 방향으로 달려갈 수 있습니다.

예를 들어 "신규 서비스 아이디어를 제안해줘"라는 요청이 있다고 해 봅시다. 여기서 맥락이 빠지면 AI는 흔한 아이디어를 늘어놓기 쉽습니다. 하지만 다음과 같은 맥락이 있으면 이야기가 달라집니다.

• 우리는 이미 B2C보다 B2B 쪽으로 방향을 정했다

• 개발 인력은 적어서 복잡한 기능은 당장 어렵다

• 3개월 안에 시험 출시가 가능해야 한다

• 차별점은 기능 수보다 운영 효율에 있다

이 조건은 단순한 장식이 아닙니다. 무엇을 만들 수 있고 무엇을 버려야 하는지를 정하는 틀입니다. AI는 바로 이런 틀 안에서 훨씬 유용해집니다.

좋은 사용자는 AI에게 정답을 묻기보다, 먼저 판을 깔아 줍니다. 판이 제대로 깔리면 답은 훨씬 쉽게 좋아집니다.

넷째, 한 번에 완성하려 할수록 오히려 품질이 떨어진다

많은 사람이 AI에게 이렇게 말합니다.

"이걸 전부 다 해줘."

겉보기에는 효율적이지만, 실제로는 실패 확률이 높은 방식입니다. 이유는 간단합니다. 복잡한 작업일수록 한 번에 잘하기 어렵기 때문입니다. 사람도 그런데 AI라고 다르지 않습니다.

예를 들어 블로그 글을 쓴다고 해 봅시다. 한 번에 "멋지고 전문적이면서도 초보자도 이해하기 쉬운 글을 써줘"라고 요청하면, 결과는 종종 애매합니다. 문체는 무난하지만 개성이 없고, 구조는 그럴듯하지만 핵심이 약하고, 초보자용인지 실무자용인지도 어중간해집니다.

이럴 때는 질문의 품질보다 작업 방식이 더 중요합니다. 순서를 나누면 됩니다.

먼저 독자와 목적을 정합니다. 그다음 핵심 논점을 뽑습니다. 그 다음 개요를 확인합니다. 그 후 초안을 쓰게 합니다. 그리고 마지막에 비평과 수정 단계를 거칩니다.

똑같은 AI라도 이렇게 단계적으로 쓰면 결과가 훨씬 안정됩니다. 이유는 중간에 방향을 바로잡을 수 있기 때문입니다. 첫 단추가 잘못 끼워졌는데 끝까지 달리는 일을 줄일 수 있습니다.

좋은 질문보다 더 중요한 것은 좋은 흐름입니다.

다섯째, 검증 기준이 없으면 결과를 쓸 수가 없다

AI를 쓰다 보면 자주 생기는 착각이 있습니다. "나쁘지 않은데?"라는 느낌이 곧 좋은 결과라는 착각입니다.

하지만 실제 작업에서는 나쁘지 않은 것과 쓸 수 있는 것은 다릅니다. 문장이 자연스러워도 핵심이 빠질 수 있고, 설명이 쉬워도 사실 관계가 틀릴 수 있으며, 구조가 깔끔해도 독자에게 맞지 않을 수 있습니다.

그래서 AI를 잘 쓰는 사람은 처음부터 검증 기준을 함께 세웁니다. 무엇을 확인해야 이 결과를 믿고 쓸 수 있는지 정해 두는 것입니다.

예를 들어 요약이라면 이런 기준이 있을 수 있습니다.

• 원문의 핵심 주장 세 가지가 빠지지 않았는가

• 과장되거나 왜곡된 표현이 들어가지 않았는가

• 읽는 사람이 다음 행동을 정할 수 있을 만큼 분명한가

기획안이라면 기준이 달라질 수 있습니다.

• 제안이 실제 자원과 일정 안에서 가능한가

• 누구를 위한 제안인지 분명한가

• 성공 여부를 판단할 기준이 들어 있는가

검증 기준이 있으면 AI는 단지 결과를 만드는 도구가 아니라, 결과를 스스로 점검하는 도구로도 쓸 수 있습니다. "초안을 써줘" 다음에 "위 기준으로 스스로 비평해줘"라고 이어 갈 수 있기 때문입니다.

좋은 질문은 출발점입니다. 검증 기준은 도착점입니다. 둘 다 있어야 일이 완성됩니다.

질문보다 설계가 중요하다는 말의 뜻

여기서 "질문보다 설계가 중요하다"는 말을 오해하면 안 됩니다. 질문을 대충 써도 된다는 뜻은 아닙니다. 질문은 여전히 중요합니다. 다만 질문은 전체 설계의 일부라는 뜻입니다.

조금 거칠게 말하면, 프롬프트는 운전대이고 설계는 자동차 전체입니다. 운전대를 잘 잡는 것도 중요하지만, 엔진이 어떤지, 연료가 있는지, 목적지가 어딘지, 브레이크가 작동하는지가 더 중요할 때가 많습니다.

AI 활용도 똑같습니다. 문장을 예쁘게 다듬는 능력보다 다음이 더 큰 차이를 만듭니다.

• 지금 내가 무엇을 하려는지 분명히 아는가

• AI가 참고할 정보를 모아 두었는가

• 불필요한 추측을 줄일 만큼 맥락을 전달했는가

• 결과를 단계적으로 만들고 고칠 계획이 있는가

• 마지막에 무엇을 확인할지 정했는가

이 다섯 가지가 잡히면 프롬프트는 오히려 조금 서툴러도 괜찮아집니다. 반대로 이 다섯 가지가 비어 있으면, 프롬프트만 화려해도 결과는 흔들립니다.

같은 질문도 이렇게 달라진다

차이를 더 분명히 보기 위해 간단한 예를 들어 봅시다.

질문 중심 사용은 보통 이런 식입니다.

"생산성 향상에 대한 발표 자료 만들어줘."

이 요청이 아주 틀린 것은 아닙니다. 하지만 AI는 너무 많은 것을 추측해야 합니다. 발표 대상이 누구인지, 길이는 어느 정도인지, 정보 중심인지 설득 중심인지, 사례가 필요한지, 회사 내부 발표인지 외부 세미나인지 알 수 없습니다.

반면 작업 중심 사용은 이렇게 바뀝니다.

"사내 팀장 회의에서 10분 발표할 자료를 준비하려고 해. 주제는 생산성 향상이지만, 일반론보다 우리 팀이 바로 적용할 수 있는 방식이 필요해. 대상은 비기술 직군 관리자이고, 너무 유행어처럼 들리면 안 돼. 먼저 발표 구조를 5개 섹션으로 나누고, 각 섹션마다 핵심 메시지 한 줄과 예시 한 개를 붙여줘. 그다음 빠진 점을 스스로 지적해줘."

두 요청의 차이는 문장 길이만이 아닙니다. 두 번째 요청에는 목적, 독자, 맥락, 작업 방식, 검증이 함께 들어 있습니다. 그래서 AI가 훨씬 덜 헤맵니다.

핵심은 이것입니다. 더 길게 쓰는 것이 능사가 아니라, 더 필요한 것을 넣는 것이 중요합니다.

AI에게는 질문이 아니라 역할이 필요할 때가 많다

우리는 흔히 AI를 Q&A 도구처럼 대합니다. 묻고 답하는 방식입니다. 하지만 실제로 유용한 순간에는 질문보다 역할이 더 중요할 때가 많습니다.

예를 들어 AI에게 "이 문서 어때?"라고 묻는 것보다, "이 문서를 읽고 회의 참석자 입장에서 혼란스러운 지점을 찾아줘"라고 맡기는 편이 더 낫습니다. 전자는 감상 요청에 가깝고, 후자는 구체적 역할 부여에 가깝습니다.

역할이 생기면 AI의 시선이 생깁니다. 기획 검토자, 초보자 튜터, 편집자, 반대 의견 제시자, 체크리스트 검사기처럼 역할을 주면 결과도 더 또렷해집니다. 이것은 질문을 멋지게 만드는 기술이라기보다, AI가 어떤 방식으로 기여해야 하는지 정해 주는 설계입니다.

질문이 답을 부른다면, 역할은 일을 부릅니다.

결국 중요한 것은 '정답'이 아니라 '적합한 결과'다

학교 시험에서는 정답이 중요합니다. 하지만 실제 일에서는 적합한 결과가 더 중요합니다. 가장 화려한 설명보다 지금 상황에 맞는 설명이 낫고, 가장 긴 보고서보다 의사결정에 도움이 되는 보고서가 낫습니다.

AI도 마찬가지입니다. 멋진 답변이 아니라, 지금의 목적에 맞는 결과가 중요합니다. 이 기준으로 보면 좋은 질문은 더 이상 문장 기술의 문제가 아닙니다. 목적을 정하고, 재료를 주고, 맥락을 정리하고, 작업을 나누고, 검증하는 운영의 문제입니다.

이 관점을 가지면 AI를 보는 눈이 달라집니다. "어떻게 물어봐야 잘 대답하지?"에서 "어떻게 일하게 해야 제대로 도움이 되지?"로 초점이 이동합니다. 바로 이 이동이, 초보 사용자와 실전 사용자를 가르는 큰 차이입니다.

지금부터 가져야 할 기본 감각

앞으로 AI를 쓸 때는 먼저 이 질문부터 던져 보길 권합니다.

• 나는 지금 무엇을 만들려고 하는가

• 이 결과는 누가 볼 것인가

• AI가 꼭 알아야 할 자료는 무엇인가

• 한 번에 끝낼 일인가, 단계로 나눌 일인가

• 무엇을 기준으로 결과를 점검할 것인가

이 다섯 가지에 답할 수 있으면, 이미 절반은 잘하고 있는 셈입니다. 프롬프트 문장을 약간 서툴게 써도 크게 흔들리지 않습니다. 반대로 이 다섯 가지가 비어 있으면, 아무리 그럴듯한 문장을 써도 자꾸 결과가 들쭉날쭉해집니다.

결국 AI를 잘 쓴다는 것은 말을 잘 거는 능력만이 아닙니다. 일을 분명하게 만드는 능력입니다.

이 장의 핵심 정리

이 장의 요점을 짧게 정리하면 이렇습니다.

좋은 결과는 좋은 질문 한 줄에서 저절로 나오지 않습니다. 더 중요한 것은 목적, 자료, 맥락, 작업 방식, 검증 기준입니다. 질문은 중요하지만, 그것은 전체 설계의 일부입니다.

AI가 자꾸 엇나간다면, 먼저 문장을 고치기 전에 판을 점검해야 합니다. 내가 무엇을 원하는지 분명한가, AI가 참고할 것이 충분한가, 빠져 있는 배경은 없는가, 중간 점검 없이 한 번에 끝내려 하는 것은 아닌가, 결과를 어떤 기준으로 볼지 정했는가를 살펴봐야 합니다.

좋은 질문보다 중요한 것은, AI가 잘 일할 수 있는 조건을 만드는 것입니다.

다음 장에서는 많은 사람이 한때 정답처럼 여겼던 프롬프트 엔지니어링이 실제로 어떤 역할을 했고, 어디까지 유효하며, 어디서부터 한계가 드러나는지를 더 본격적으로 살펴보겠습니다.