AI 도입의 병목은 이제 “답을 만들 수 있나”가 아닙니다. “그 답을 믿고 업무에 써도 되나”입니다. Probably는 이 질문을 정면으로 다루는 AI 스타트업입니다. Andreessen Horowitz로부터 900만 달러의 시드 투자를 유치했고, 창업자는 Peter Elias입니다.1
핵심은 더 유창한 챗봇이 아니라, 검증 가능한 데이터 분석 도구입니다.
Probably가 겨냥하는 문제
Probably의 첫 제품은 복잡한 데이터셋에서 빠르게 답을 얻기 위한 데이터 과학 도구입니다. 사용자는 CSV, JSON, Parquet 같은 파일이나 Snowflake, BigQuery, Postgres 등 데이터 웨어하우스에 연결해 자연어로 질문하고 답을 받을 수 있습니다.2
여기까지만 보면 일반적인 AI 데이터 분석 도구처럼 보입니다. 차이는 답을 생성한 뒤에 있습니다. Probably는 스스로를 “검증 가능한 데이터 에이전트”라고 설명합니다.2 LLM이 먼저 답을 만들고, 그 답을 결정론적 검증 시스템이 다시 확인하는 구조입니다.
결정론적 검증이란 같은 입력에 대해 같은 결과를 내는 계산·규칙 기반 확인 절차를 뜻합니다. 즉, AI가 그럴듯한 설명을 내놓는 데서 끝나지 않고, 실제 데이터와 계산 과정에 맞는지 다시 검산하는 방식입니다.
말은 LLM이 하고, 검산은 시스템이 한다
일반 LLM은 문장을 자연스럽게 만드는 데 강합니다. 하지만 숫자, 통계, 데이터 분석에서는 그럴듯하게 틀린 답을 낼 수 있습니다. 업무 환경에서 문제는 바로 이 지점입니다. 사용자는 빠른 답을 원하지만, 틀린 숫자를 믿고 의사결정할 수는 없습니다.
Probably는 수치와 통계가 실제 데이터 및 계산 추적과 맞는지 검사하고, 맞지 않으면 답을 다시 만들도록 설계했다고 설명합니다.2 또한 각 결과에 인용과 감사 추적 기록을 제공합니다.1
이 기능의 의미는 분명합니다. 사용자는 “AI가 이렇게 말했습니다”가 아니라 “어떤 데이터와 계산을 거쳐 이 답이 나왔는지”를 확인할 수 있습니다. 회계, 의료, 금융처럼 오류 비용이 큰 영역에서는 이런 추적 가능성이 선택 기능이 아니라 기본 조건에 가깝습니다.
업무용 AI를 고를 때 봐야 할 기준
Probably가 흥미로운 이유는 단순히 더 큰 모델을 내세우지 않는다는 점입니다. 회사는 더 약한 모델이라도 잘 설계된 검증 장치와 맥락 관리가 있으면 정밀한 업무에 활용할 수 있다고 봅니다.1 이는 AI 비용을 낮추고, 민감한 데이터를 로컬이나 사내 네트워크에 두는 방식과도 연결됩니다.2
따라서 업무용 AI를 평가할 때는 모델 이름만 볼 일이 아닙니다. 다음 질문이 더 중요합니다.
답의 출처가 남는가
계산 과정이 재현 가능한가
검증 실패 시 어떻게 처리하는가
데이터가 어디에 저장되고 처리되는가
결과를 감사하거나 추적할 수 있는가
Probably가 보여주는 방향은 명확합니다. AI의 다음 경쟁력은 “더 유창한 답변”이 아니라 검증 가능한 답변입니다. 특히 데이터 기반 의사결정에서는 빠른 답보다 믿을 수 있는 답이 더 중요합니다.
참고
1Probably raises $9M to build reliable AI systems that don't hallucinate
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.