Skip to main content
공개 노트

Thinking Machines Lab이 던진 질문: AI는 누구의 판단을 배워야 하나

Views 3약 3분생성형 AI 활용
Summary

Thinking Machines Lab이 던진 질문: AI는 누구의 판단을 배워야 하나

Thinking Machines Lab의 핵심 메시지는 분명합니다. AI는 인간을 대체하는 장치가 아니라, 인간의 의지와 판단을 확장하는 도구여야 한다는 것입니다.1 따라서 중요한 질문은 “모델이 얼마나 큰가”가 아닙니다. 누가 AI를 계속 가르치고, 그 과정에서 누구의 판단이 모델에 반영되는가입니다.

AI는 왜 고정된 제품으로는 부족한가

Thinking Machines는 오늘날 많은 AI가 소수의 장소에서 학습된 뒤, 거의 고정된 상태로 사용된다고 설명합니다.1 하지만 실제 업무 지식은 그렇게 정적이지 않습니다.

좋은 투자자, 의사, 엔지니어의 판단은 문서 몇 개로 완전히 설명되지 않습니다. 현장에서 반복적으로 피드백을 받고, 맥락에 맞게 조정되며, 시간이 지나면 다시 바뀝니다. Thinking Machines는 이런 생산적 지식을 암묵적이고, 지역적이며, 일시적이고, 개인적으로 보유된 지식이라고 봅니다.1

이 관점에서 보면 범용 AI 하나를 모든 조직에 똑같이 적용하는 방식에는 한계가 있습니다. AI가 정말 유용해지려면 사용자의 업무 방식과 판단 기준을 계속 흡수해야 합니다.

커스터마이징은 프롬프트보다 깊은 문제다

Thinking Machines가 말하는 맞춤화는 단순히 프롬프트를 잘 쓰는 법이 아닙니다. 사용자가 자신의 필요에 맞게 모델을 조정할 수 있어야 하고, 그 과정에는 모델 가중치를 직접 학습하는 능력도 포함됩니다.1

여기서 Tinker가 연결됩니다. Tinker는 연구자와 개발자가 오픈소스 모델을 LoRA 방식으로 미세조정할 수 있게 해주는 API입니다.2 LoRA는 원래 모델 전체를 바꾸는 대신 작은 어댑터를 학습해, 비교적 효율적으로 모델의 동작을 조정하는 방식입니다.

이 접근의 의미는 큽니다. 조직은 AI를 단순히 빌려 쓰는 데서 멈추지 않고, 자신들의 업무 지식과 판단 기준을 모델에 반영할 수 있습니다. 즉, AI는 외부에서 제공되는 고정된 도구가 아니라, 내부 지식과 함께 발전하는 시스템에 가까워집니다.

좋은 AI의 기준은 “혼자 일하는 능력”만이 아니다

AI 성능을 평가할 때 흔히 보는 기준은 자율성입니다. 얼마나 오래 혼자 작업할 수 있는지, 얼마나 적은 개입으로 결과를 내는지가 강조됩니다.

Thinking Machines는 여기에 다른 기준을 더합니다. 사람과 AI가 함께 일할 때 더 나은 판단과 지식을 만들 수 있는가입니다.1 이는 AI를 독립적인 대체재가 아니라, 인간의 판단을 증폭하는 협업 파트너로 보는 관점입니다.

실제 금융 문서 분류 실험에서도 맞춤 학습 모델은 테스트한 프런티어 모델보다 높은 평균 정확도를 보였고, 작업당 추론 비용도 크게 낮췄습니다.3 모든 문제에 가장 큰 모델이 정답은 아니라는 점을 보여주는 사례입니다. 특정 업무에서는 더 큰 범용 모델보다, 해당 맥락에 맞게 학습된 모델이 더 실용적일 수 있습니다.

독자가 봐야 할 세 가지 질문

Thinking Machines Lab의 주장을 제품이나 기술 전략으로 해석하면, 앞으로 AI 도입에서 확인해야 할 질문은 세 가지로 정리할 수 있습니다.

  1. 내 데이터를 내 모델 학습에 사용할 수 있는가

  2. 프롬프트를 넘어 모델 가중치 수준의 맞춤화가 가능한가

  3. 사람의 피드백이 계속 반영되어 AI가 업무 판단을 함께 배워가는 구조인가

이 질문들은 단순한 기능 체크리스트가 아닙니다. AI의 소유권, 학습 방향, 조직 지식의 축적 방식과 연결됩니다.

Thinking Machines Lab의 결론은 기술적이면서도 철학적입니다. 인간 중심 AI는 친절한 인터페이스만으로 완성되지 않습니다. 사람이 자신의 지식과 가치로 AI를 계속 형성할 수 있어야 합니다. 결국 중요한 것은 AI가 얼마나 똑똑한가가 아니라, 누구의 판단을 배우며 어떤 방향으로 함께 성장하는가입니다.

참고

1The Future Worth Building Is Human

2Tinker is a training API for researchers

3Learning to Replicate Expert Judgment in Financial Tasks

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기