숫자는 객관적이지만 결론은 설계된다
데이터 분석 업무에서 가장 흔한 오해는 "표를 넣으면 AI가 알아서 인사이트를 뽑아 준다"는 생각이다. 실제로 위험한 지점은 계산이 아니다. 평균, 합계, 전주 대비 증감률은 도구가 빠르게 계산할 수 있다. 문제는 무엇을 비교해야 하는지, 그 숫자를 믿어도 되는지, 어떤 행동으로 이어져야 하는지를 정하는 일이다.
분석형 스킬은 숫자를 예쁘게 요약하는 기능이 아니다. 사람이 의사결정에 쓰기 전에 반드시 확인해야 할 질문을 순서대로 실행하게 만드는 구조다. 좋은 분석 스킬은 다음 네 가지를 결과물에 남긴다.
사용한 데이터 출처
계산식과 기준 기간
분석 중 둔 가정
해석의 한계와 추가 확인이 필요한 데이터
이 네 가지가 빠지면 리포트는 그럴듯해 보이지만 검증하기 어렵다. 숫자가 틀렸는지, 해석이 과한지, 다음 행동이 적절한지 판단할 근거가 사라진다. 숫자는 객관적인 재료가 될 수 있지만, 그 숫자로부터 어떤 결론을 낼지는 별도의 설계 문제다.
이번 장에서는 분석형 스킬 3개를 설계한다.
CSV 탐색 분석 스킬
주간 KPI 리포트 스킬
실험 결과 해석 스킬
세 스킬 모두 계산보다 질문 정의, 검증, 해석에 초점을 둔다.
AI 생성 이미지
스킬 1. CSV 탐색 분석 스킬
처음 받은 CSV 파일은 대부분 설명이 부족하다. 컬럼명이 애매하고, 단위가 빠져 있고, 결측치가 섞여 있으며, 일부 값은 입력 오류일 수 있다. 이 상태에서 바로 그래프를 만들거나 결론을 내리면 위험하다.
CSV 탐색 분석 스킬의 목적은 분석을 시작하기 전에 데이터의 상태를 파악하고 다음 질문을 정리하는 것이다. 이 스킬은 결론을 내리는 스킬이 아니라, 결론을 내릴 수 있는 상태인지 판단하는 스킬에 가깝다.
스킬 구조
트리거
사용자가 CSV, 스프레드시트, 테이블 데이터를 제공했을 때
"이 데이터 봐줘", "인사이트 뽑아줘", "이상한 점 찾아줘"라고 요청했을 때
분석 목적은 있지만 어떤 컬럼을 봐야 할지 정해지지 않았을 때
필수 입력값
데이터 파일 또는 표
분석 목적: 예를 들어 매출 감소 원인 파악, 사용자 행동 이해, 캠페인 성과 확인
기간 기준: 일별, 주별, 월별 중 무엇을 기준으로 볼지
선택 입력값
주요 지표 후보
제외해야 할 컬럼
정상 범위에 대한 업무 기준
비교 대상 기간 또는 세그먼트
처리 단계
컬럼 목록을 읽고 각 컬럼의 의미를 추정한다.
행 수, 컬럼 수, 기간 범위, 중복 행을 확인한다.
결측치 비율을 컬럼별로 계산한다.
숫자형 컬럼의 최소값, 최대값, 평균, 중앙값을 확인한다.
범주형 컬럼의 고유값과 상위 빈도를 확인한다.
이상치 후보를 찾되, 오류인지 중요한 신호인지는 단정하지 않는다.
분석 목적과 연결되는 다음 질문을 제안한다.
출력 형식
### 데이터 개요
- 출처:
- 행/컬럼 수:
- 기간 범위:
- 주요 단위:
### 컬럼 해석
| 컬럼 | 추정 의미 | 데이터 유형 | 주의점 |
### 데이터 품질 점검
| 항목 | 결과 | 해석 | 조치 필요 여부 |
### 기초 통계 요약
| 지표 | 평균 | 중앙값 | 최소 | 최대 | 이상치 후보 |
### 발견한 패턴
- 확인된 사실:
- 추정 가능한 해석:
- 아직 단정할 수 없는 부분:
### 다음 분석 질문
1.
2.
3.좋은 예
사용자가 orders.csv를 올리고 "지난달 매출이 왜 줄었는지 봐줘"라고 요청했다고 하자. 좋은 스킬은 바로 "매출 감소 원인은 재구매 감소입니다"라고 말하지 않는다. 먼저 데이터가 그 결론을 낼 수 있는지 확인한다.
예를 들어 다음처럼 답한다.
데이터는 5월 1일부터 6월 30일까지의 주문 18,240건을 포함합니다.
order_amount는 주문 금액으로 추정되지만 세금과 배송비 포함 여부는 확인되지 않았습니다.user_id결측치는 12.4%로 재구매 분석에 영향을 줄 수 있습니다. 6월 매출은 5월 대비 9.8% 감소했지만, 주문 수 감소와 객단가 감소 중 어느 요인이 더 큰지는 추가 분해가 필요합니다.
이 답변의 장점은 결론보다 검증을 먼저 한다는 점이다. 숫자의 의미와 한계를 드러내므로 이후 분석이 안전해진다. 특히 "추정된다", "확인되지 않았다", "추가 분해가 필요하다" 같은 표현은 약해 보이지만, 분석 리포트에서는 오히려 신뢰를 높인다. 데이터가 말할 수 있는 범위와 아직 말할 수 없는 범위를 구분해 주기 때문이다.
변형 아이디어
이 스킬은 여러 방향으로 확장할 수 있다.
마케팅 캠페인 데이터 점검 스킬: 클릭, 전환, 광고비, ROAS 컬럼을 중심으로 본다.
고객 행동 로그 탐색 스킬: 세션, 이벤트명, 사용자 ID, 유입 채널을 중심으로 본다.
운영 데이터 품질 점검 스킬: 재고, 배송, 처리 시간, 오류 코드를 중심으로 본다.
변형할 때 중요한 것은 컬럼 해석 기준이다. 같은 숫자라도 맥락에 따라 의미가 달라진다. count라는 컬럼이 주문 수인지, 페이지뷰인지, 에러 발생 횟수인지 모르면 분석을 시작해서는 안 된다.
스킬 2. 주간 KPI 리포트 스킬
많은 팀의 주간 리포트는 숫자 나열로 끝난다.
방문자 수 12,400명
가입자 수 820명
결제 전환율 3.1%
매출 4,800만 원
이런 보고는 상태를 보여 주지만 판단을 돕지는 못한다. 의사결정에 필요한 것은 "좋아졌는가?", "왜 변했는가?", "무엇을 확인해야 하는가?", "이번 주 무엇을 할 것인가?"이다.
주간 KPI 리포트 스킬의 목적은 정기 지표를 변화, 원인 후보, 대응 제안으로 바꾸는 것이다. 같은 숫자라도 독자에 따라 필요한 설명이 다르다. 경영진은 방향과 리스크를 보고 싶어 하고, 팀 리더는 우선순위를 보고 싶어 하며, 실무자는 다음 행동을 알고 싶어 한다.
스킬 구조
트리거
매주 반복되는 성과 보고 요청
대시보드 수치를 요약해야 할 때
팀 회의 전에 핵심 지표 변화를 정리해야 할 때
필수 입력값
이번 주 KPI 데이터
비교 기준: 전주, 전월 평균, 목표치 중 하나 이상
KPI 정의: 예를 들어 활성 사용자, 전환율, 매출, 이탈률의 계산식
리포트 독자: 경영진, 팀 리더, 실무자 중 누구인지
선택 입력값
이번 주 진행한 캠페인이나 제품 변경 사항
장애, 휴일, 가격 변경 같은 외부 이벤트
팀이 이미 알고 있는 이슈
다음 주 계획
처리 단계
각 KPI의 현재값과 비교 기준을 정리한다.
절대 변화량과 변화율을 함께 계산한다.
목표 대비 상태를 표시한다.
변화가 큰 지표를 우선순위화한다.
가능한 원인 후보를 데이터 기반과 가정 기반으로 나눈다.
확인이 필요한 추가 데이터를 제시한다.
실행 가능한 대응 제안을 만든다.
출력 형식
### 한 줄 요약
### KPI 변화 요약
| KPI | 이번 주 | 비교 기준 | 변화 | 상태 | 코멘트 |
### 중요한 변화 3가지
1.
2.
3.
### 원인 후보
| 변화 | 데이터로 확인된 원인 | 추정 원인 | 추가 확인 필요 데이터 |
### 대응 제안
| 우선순위 | 제안 | 기대 효과 | 담당 검토자 | 확인 지표 |
### 해석 한계
-좋은 예
좋은 주간 KPI 리포트는 단순히 "가입자가 15% 증가했다"에서 멈추지 않는다.
이번 주 가입자는 820명으로 전주 대비 15.5% 증가했습니다. 증가분의 68%는 신규 광고 캠페인이 시작된 뒤 유입된 사용자에서 발생했습니다. 다만 결제 전환율은 3.4%에서 3.1%로 하락했습니다. 가입자 증가가 구매 의도가 낮은 유입에서 온 것인지 확인하려면 채널별 7일 내 결제율을 추가로 봐야 합니다.
이 리포트는 세 가지를 분리한다.
확인된 사실: 가입자 증가, 전환율 하락
원인 후보: 신규 광고 캠페인 유입
추가 확인: 채널별 7일 내 결제율
이 구분이 있어야 회의가 "좋다/나쁘다" 감상으로 흐르지 않는다. 특히 KPI 리포트에서는 숫자의 방향만큼이나 다음 질문이 중요하다. 이번 주에 당장 결정할 수 있는 일과, 더 봐야 하는 일을 나누면 회의 시간이 짧아진다.
변형 아이디어
주간 KPI 리포트 스킬은 조직별로 다르게 설계할 수 있다.
대표 보고용 리포트: 핵심 변화와 리스크를 1페이지로 압축한다.
그로스팀 리포트: 퍼널별 전환율과 실험 후보를 강조한다.
CS 운영 리포트: 문의량, 응답 시간, 해결률, 반복 이슈를 중심으로 본다.
콘텐츠 운영 리포트: 조회수보다 구독 전환, 체류 시간, 재방문을 함께 본다.
리포트 독자가 누구인지에 따라 출력이 달라져야 한다. 경영진에게는 방향과 리스크가 중요하고, 실무자에게는 원인 후보와 다음 액션이 중요하다.
스킬 3. 실험 결과 해석 스킬
A/B 테스트나 캠페인 실험은 숫자가 있어도 결론 내리기 어렵다. 클릭률이 올랐다고 해서 매출이 오른 것은 아니다. 표본이 작으면 우연일 수 있다. 통계적으로 유의해도 사업적으로는 의미가 작을 수 있다.
실험 결과 해석 스킬의 목적은 가설, 지표, 통계 판단, 비즈니스 판단을 분리해 결론을 내리는 것이다.
여기서 통계적 유의성은 "우연한 변동만으로도 관찰된 차이가 나올 수 있는지"를 따져 보는 기준에 가깝다. 하지만 이 값만으로 의사결정이 끝나지는 않는다. 실무에서는 효과 크기, 비용, 리스크, 브랜드 영향까지 함께 봐야 한다.
스킬 구조
트리거
A/B 테스트 결과표를 해석해야 할 때
실험군과 대조군의 성과 차이를 비교해야 할 때
"이 실험 성공이야?"라는 질문이 들어왔을 때
필수 입력값
실험 가설
대조군과 실험군 정의
주요 지표와 보조 지표
표본 크기
실험 기간
결과 데이터
선택 입력값
최소 기대 효과
실험 전 기준선
유의수준 기준
실험 중 변경된 조건
세그먼트별 결과
처리 단계
원래 가설과 실제 측정 지표가 일치하는지 확인한다.
대조군과 실험군의 표본 크기와 노출 조건을 확인한다.
주요 지표와 보조 지표를 분리한다.
효과 크기와 변화율을 계산한다.
통계적 유의성 또는 신뢰 구간이 제공되었는지 확인한다.
통계 판단과 비즈니스 판단을 따로 적는다.
출시, 보류, 재실험, 세그먼트 확대 중 하나로 권고안을 낸다.
출력 형식
### 실험 요약
- 가설:
- 실험군/대조군:
- 기간:
- 주요 지표:
### 결과 정리
| 지표 | 대조군 | 실험군 | 차이 | 해석 |
### 판단 분리
- 통계적 판단:
- 비즈니스 판단:
- 리스크:
- 추가 확인 필요:
### 권고안
- 결론:
- 이유:
- 다음 행동:좋은 예
예를 들어 결제 버튼 문구를 바꾼 실험에서 실험군의 클릭률은 8% 상승했지만 결제 완료율은 거의 변하지 않았다고 하자. 좋은 스킬은 클릭률 상승만 보고 성공이라고 말하지 않는다.
버튼 클릭률은 실험군에서 8.0% 높았지만, 결제 완료율 차이는 0.2%p로 작습니다. 원래 가설이 "버튼 문구 변경이 결제 완료를 증가시킨다"였다면 주요 지표 기준으로 성공이라고 보기 어렵습니다. 다만 클릭 이후 결제 단계에서 이탈이 증가했을 가능성이 있으므로 결제 페이지 진입 후 이탈률을 추가 확인해야 합니다. 현재 권고안은 전체 적용이 아니라 결제 퍼널 데이터를 확인한 뒤 재실험하는 것입니다.
이 결론은 신중하다. 실험의 목적을 기준으로 판단하고, 보조 지표와 주요 지표를 섞지 않는다. 분석형 스킬이 해야 할 일은 "성공"이나 "실패"라는 라벨을 빨리 붙이는 것이 아니라, 어떤 기준에서는 성공이고 어떤 기준에서는 아직 불확실한지를 나누어 주는 것이다.
분석형 스킬의 공통 제약조건
분석형 스킬에는 반드시 금지 행동을 넣어야 한다. 숫자는 권위를 갖기 때문에 잘못된 해석이 빠르게 의사결정으로 이어질 수 있다.
다음 제약조건을 기본값으로 둔다.
데이터에 없는 원인을 단정하지 않는다.
컬럼 의미가 불명확하면 추정이라고 표시한다.
결측치, 중복, 이상치가 있으면 결론 전에 알린다.
계산식이 제공되지 않은 KPI는 임의로 정의하지 않는다.
상관관계를 인과관계로 표현하지 않는다.
표본이 작거나 기간이 짧으면 해석 한계를 표시한다.
중요한 수치는 원본 값, 계산식, 비교 기준을 함께 제시한다.
특히 "원인"이라는 단어를 조심해야 한다. 데이터가 보여 주는 것은 대부분 함께 움직인 패턴이다. 원인이라고 말하려면 실험 설계, 시간 순서, 외부 변수 통제 같은 추가 근거가 필요하다.
실패 패턴
분석형 스킬에서 자주 나오는 실패는 네 가지다.
첫째, 질문 없이 분석을 시작하는 것이다. 같은 데이터도 질문에 따라 봐야 할 컬럼과 비교 기준이 달라진다. 매출 감소 원인을 보려는 분석과 VIP 고객 특성을 보려는 분석은 출발점이 다르다.
둘째, 데이터 품질 점검을 건너뛰는 것이다. 결측치가 많은 컬럼으로 전환율을 계산하거나, 중복 주문이 포함된 데이터로 매출을 합산하면 결과가 왜곡된다.
셋째, 변화와 원인을 섞는 것이다. "가입자가 줄었다"는 변화다. "광고 효율이 나빠져서 가입자가 줄었다"는 원인 해석이다. 두 문장은 근거 수준이 다르다.
넷째, 리포트를 액션 없이 끝내는 것이다. 좋은 분석 리포트는 다음 행동을 좁혀 준다. 추가로 볼 데이터, 담당자가 검토할 결정, 중단하거나 확대할 실험을 제시해야 한다.
분석형 스킬은 사람의 판단을 없애는 도구가 아니다. 오히려 사람이 판단해야 할 지점을 더 선명하게 만든다. 에이전트는 계산, 정리, 누락 확인을 맡고, 사람은 질문의 우선순위와 최종 결정을 책임진다. 이 경계가 분명할수록 데이터 리포트는 더 짧고, 더 쓸모 있어진다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.