AI 시대의 수학 감각

AI는 마법이 아니라 계산이다

AI라는 말을 들으면 왠지 사람처럼 생각하는 거대한 두뇌가 떠오릅니다. 질문을 던지면 답을 하고, 사진을 보여주면 무엇인지 알아맞히고, 내가 좋아할 만한 영상까지 골라줍니다. 그래서 우리는 가끔 AI를 '똑똑한 존재'처럼 느낍니다.

하지만 수학의 눈으로 보면 AI는 조금 다르게 보입니다. AI는 마법이 아니라 계산입니다. 아주 많은 데이터를 보고, 그 안에서 반복되는 패턴을 찾고, 새 입력이 들어오면 그 패턴에 비추어 가장 그럴듯한 출력을 고르는 기술입니다.

예를 들어 어떤 AI가 고양이 사진을 알아본다고 해봅시다. AI는 처음부터 '고양이다움'을 아는 것이 아닙니다. 수많은 고양이 사진과 고양이가 아닌 사진을 비교하면서 귀 모양, 눈의 위치, 털의 질감, 얼굴의 윤곽처럼 구분에 도움이 되는 특징을 계산합니다. 물론 실제 AI 내부의 계산은 훨씬 복잡하지만, 핵심은 단순합니다. 많이 보고, 차이를 찾고, 다음 판단에 이용하는 것입니다.

이때 필요한 것이 바로 수학적 감각입니다. 복잡한 공식을 직접 풀 줄 몰라도 괜찮습니다. 다만 AI가 어떤 식으로 숫자를 비교하고, 확률을 추정하고, 비슷함을 계산하는지 감을 잡아야 합니다. 그래야 AI가 내놓은 답을 무작정 믿지 않고, 적당히 의심하며, 필요한 곳에 잘 쓸 수 있습니다.

어른에게 필요한 AI 수학은 코딩 시험이 아닙니다. AI가 숫자로 세상을 읽는 방식을 이해하는 일입니다.

알고리즘은 문제를 푸는 절차다

AI를 이야기할 때 빠지지 않는 단어가 알고리즘입니다. 어렵게 들리지만, 알고리즘은 결국 '문제를 해결하기 위한 절차와 규칙의 묶음'입니다.

라면 끓이는 법도 알고리즘입니다. 물을 끓인다. 면과 수프를 넣는다. 일정 시간 기다린다. 그릇에 담는다. 이 순서를 바꾸면 결과가 달라집니다. 물을 끓이기 전에 면을 넣을 수도 있지만, 우리가 기대하는 맛과 식감에서 멀어질 수 있습니다.

출근길을 고르는 것도 알고리즘처럼 생각할 수 있습니다. 집에서 회사까지 가는 길이 세 가지 있다고 합시다. 첫 번째 길은 거리는 짧지만 자주 막힙니다. 두 번째 길은 조금 돌아가지만 지하철 시간이 일정합니다. 세 번째 길은 버스 환승이 필요하지만 비용이 적게 듭니다. 우리는 머릿속에서 대략 이런 계산을 합니다.

시간을 가장 줄이고 싶은가? 비용을 아끼고 싶은가? 비가 오는데 많이 걸어야 하는가? 오늘 지각하면 안 되는 중요한 회의가 있는가?

이 질문에 따라 선택 기준이 바뀝니다. 알고리즘도 비슷합니다. 어떤 문제를 풀 것인지 정하고, 어떤 기준을 중요하게 볼 것인지 정한 뒤, 그 기준에 맞춰 계산합니다.

검색 엔진은 수많은 웹페이지 중에서 내 질문과 관련이 높아 보이는 것을 위로 올립니다. 내비게이션은 거리, 교통 상황, 예상 시간 등을 계산해 경로를 제시합니다. 쇼핑몰은 내가 살 가능성이 높은 상품을 앞에 보여주려 합니다. 이 모든 곳에 알고리즘이 있습니다.

중요한 점은 알고리즘이 '중립적인 진리'가 아니라는 것입니다. 알고리즘에는 반드시 기준이 들어갑니다. 무엇을 먼저 보여줄 것인가, 무엇을 좋은 결과라고 볼 것인가, 어떤 행동을 성공으로 계산할 것인가가 정해져야 합니다.

동영상 플랫폼의 알고리즘이 '시청 시간을 늘리는 것'을 목표로 삼는다면, 우리에게 꼭 유익한 영상보다 오래 붙잡아둘 영상을 더 많이 보여줄 수 있습니다. 쇼핑몰 알고리즘이 '구매 가능성'을 높이는 데 집중한다면, 꼭 필요한 물건보다 충동구매하기 쉬운 상품을 보여줄 수 있습니다.

그래서 AI 시대의 수학 감각은 이렇게 묻는 힘에서 시작합니다. 이 알고리즘은 무엇을 목표로 계산하고 있을까?

추천 시스템은 비슷함을 계산한다

AI를 가장 자주 만나는 곳은 추천 시스템입니다. 영상 추천, 음악 추천, 상품 추천, 뉴스 추천, 친구 추천까지 우리 일상은 추천으로 가득합니다.

추천 시스템은 겉으로 보면 내 마음을 아는 것처럼 보입니다. 어제 운동화를 검색했더니 오늘 운동복 광고가 따라옵니다. 몇 번 요리 영상을 봤더니 갑자기 주방용품과 레시피 영상이 늘어납니다. 어떤 음악을 반복해서 들으면 비슷한 분위기의 곡이 자동으로 이어집니다.

하지만 추천 시스템이 내 마음속을 들여다보는 것은 아닙니다. 추천 시스템은 내가 남긴 흔적을 숫자로 바꾸고, 다른 사람이나 상품과의 비슷함을 계산합니다.

예를 들어 온라인 서점이 있다고 합시다. 나는 경제 입문서, 자기계발서, 데이터 관련 책을 자주 봅니다. 다른 어떤 사람도 비슷한 책들을 샀고, 추가로 통계 입문서를 샀습니다. 그러면 시스템은 이렇게 추정할 수 있습니다. '이 두 사람의 취향이 비슷하니, 저 사람이 산 통계 입문서도 이 사람에게 추천해볼 만하다.'

이 방식은 사람끼리의 비슷함을 보는 방법입니다. 다른 방식도 있습니다. 상품끼리의 비슷함을 볼 수도 있습니다. A 책을 산 사람들이 B 책도 자주 샀다면, A와 B는 서로 가까운 상품으로 계산됩니다. 내가 A를 보고 있다면 B를 추천하는 식입니다.

여기서 수학적으로 중요한 말은 '비슷함'입니다. 비슷하다는 말은 감정적인 표현처럼 보이지만, 추천 시스템 안에서는 숫자가 됩니다. 두 사람이 같은 영화를 몇 편이나 봤는지, 같은 상품을 얼마나 클릭했는지, 평점 패턴이 얼마나 닮았는지, 머문 시간이 비슷한지 등을 계산합니다.

문제는 추천이 늘 나를 위한 것만은 아니라는 점입니다. 추천 시스템의 목표가 나의 만족일 수도 있지만, 광고 수익, 구매 전환, 체류 시간일 수도 있습니다. 내가 좋아할 만한 것과 플랫폼이 보여주고 싶은 것은 겹칠 때도 있고 다를 때도 있습니다.

그래서 추천을 볼 때는 작은 질문 하나가 필요합니다. '이 추천은 나를 이해한 결과일까, 나를 움직이기 위한 계산일까?'

이 질문만으로도 우리는 추천 시스템 앞에서 조금 덜 끌려다니게 됩니다.

벡터는 여러 특징을 담은 숫자 묶음이다

AI를 이해할 때 벡터라는 말도 자주 나옵니다. 벡터는 많은 사람에게 갑자기 어려워지는 단어입니다. 하지만 처음에는 이렇게만 이해해도 충분합니다. 벡터는 여러 특징을 순서대로 담은 숫자 묶음입니다.

카페를 고르는 상황을 생각해봅시다. 어떤 카페를 평가할 때 우리는 한 가지 기준만 보지 않습니다. 커피 맛, 가격, 집에서의 거리, 좌석 편안함, 조용함, 콘센트 유무 같은 여러 기준을 봅니다.

이를 숫자로 바꾸면 카페 하나를 이런 식으로 표현할 수 있습니다.

커피 맛 8점, 가격 만족도 6점, 거리 편의성 9점, 조용함 7점, 좌석 편안함 5점.

이 숫자 묶음이 바로 벡터의 느낌입니다. 물론 실제 AI에서는 수백 개, 수천 개의 숫자가 쓰일 수 있습니다. 하지만 기본 생각은 같습니다. 하나의 대상을 여러 특징의 숫자 묶음으로 표현하는 것입니다.

사람도 벡터처럼 표현할 수 있습니다. 어떤 사람은 액션 영화를 좋아하고, 느린 다큐멘터리는 덜 좋아하며, 밤에 콘텐츠를 많이 보고, 짧은 영상을 자주 끝까지 봅니다. 이런 행동들이 숫자로 바뀌면 그 사람의 취향 벡터가 됩니다.

상품도 벡터처럼 표현할 수 있습니다. 운동화라면 가격, 브랜드, 색상, 사이즈, 쿠션감, 판매량, 리뷰 평점 같은 특징이 들어갈 수 있습니다. 음악이라면 빠르기, 장르, 분위기, 악기 구성, 음색 같은 요소가 숫자로 바뀔 수 있습니다.

벡터를 좌표로 생각해도 좋습니다. 우리가 지도에서 어떤 장소를 위도와 경도로 표시하듯, AI는 사람이나 상품이나 문장을 여러 숫자의 좌표로 표시합니다. 좌표가 가까우면 비슷하다고 보고, 멀면 덜 비슷하다고 봅니다.

문장도 벡터가 될 수 있습니다. '비 오는 날 듣기 좋은 음악'이라는 문장과 '조용한 재즈 플레이리스트'라는 문장은 글자가 많이 다르지만 분위기는 가깝습니다. AI는 이런 의미의 가까움을 숫자 공간 안에서 계산하려 합니다. 그래서 검색창에 정확한 단어를 넣지 않아도 비슷한 뜻의 결과가 나오는 일이 가능해집니다.

여기서 중요한 감각은 이것입니다. AI는 대상을 있는 그대로 이해한다기보다, 계산 가능한 특징들로 바꾸어 비교합니다. 사람이 보기에는 너무나 풍부한 취향, 감정, 맥락도 AI 안에서는 일단 숫자 묶음으로 압축됩니다.

압축은 편리하지만 손실도 있습니다. 사람의 취향을 몇 개의 숫자로 줄이면 빠르게 추천할 수 있지만, 그 사람이 왜 그런 선택을 했는지까지 완전히 이해하기는 어렵습니다. AI가 유용하면서도 가끔 엉뚱한 이유가 여기에 있습니다.

AI의 답은 정답보다 추정에 가깝다

AI가 내놓는 결과는 대개 확률적 판단입니다. 쉽게 말해 '반드시 이것이 답이다'라기보다 '지금까지 본 패턴으로는 이것이 가장 그럴듯하다'에 가깝습니다.

사진 속 동물을 분류하는 AI를 생각해봅시다. AI는 사진을 보고 '고양이일 가능성 87%, 여우일 가능성 8%, 강아지일 가능성 5%'처럼 판단할 수 있습니다. 화면에는 그냥 '고양이'라고 표시될지 몰라도 내부에서는 여러 가능성 사이의 점수 비교가 일어납니다.

문장을 생성하는 AI도 비슷합니다. 어떤 질문을 받으면 관련된 단어와 문장 패턴을 바탕으로 다음에 올 말의 가능성을 계산합니다. 그래서 자연스러운 답을 만들 수 있지만, 그렇다고 해서 그 답이 언제나 사실이라는 뜻은 아닙니다. 그럴듯한 문장과 정확한 사실은 다릅니다.

이 차이는 매우 중요합니다. 사람은 문장이 매끄러우면 내용을 믿기 쉽습니다. 숫자와 전문 용어가 들어가면 더 믿음직해 보입니다. 하지만 AI는 자신 있게 틀릴 수 있습니다. 모르는 것을 모른다고 말하기보다, 비슷한 패턴을 조합해 그럴듯한 답을 만들 수도 있습니다.

이것은 AI가 나쁘다는 뜻이 아닙니다. AI를 제대로 이해해야 한다는 뜻입니다. 계산기는 123 곱하기 456을 정확히 계산하는 도구에 가깝습니다. 하지만 많은 AI는 열린 질문에 대해 가능성 높은 답을 제시하는 도구에 가깝습니다. 그러므로 AI의 답을 볼 때는 '정답인가?'라고만 묻지 말고 '어떤 데이터와 패턴에서 나온 추정인가?'라고 물어야 합니다.

확률적 판단은 우리에게 익숙한 일상 판단과도 닮았습니다. 하늘이 흐리고 습도가 높으면 우리는 비가 올 것 같다고 생각합니다. 하지만 반드시 비가 오는 것은 아닙니다. 병원 검사에서 양성이 나왔다고 해서 언제나 병이 확정되는 것도 아닙니다. 투자에서 과거 수익률이 좋았다고 해서 앞으로도 오르는 것은 아닙니다.

AI의 판단도 이런 세계에 속합니다. 가능성을 계산하지만, 미래와 현실을 완전히 붙잡지는 못합니다.

데이터가 치우치면 AI도 치우친다

이전 장에서 데이터는 사실 그 자체가 아니라 기록이라고 했습니다. AI 시대에는 이 말이 더 중요해집니다. AI는 데이터를 먹고 자라기 때문입니다. 먹은 데이터가 편향되어 있으면 결과도 편향될 수 있습니다.

예를 들어 어떤 채용 AI가 과거 합격자 데이터를 학습했다고 해봅시다. 과거에 특정 성별, 특정 학교, 특정 경력의 사람이 주로 뽑혔다면 AI는 그것을 '좋은 지원자의 패턴'으로 배울 위험이 있습니다. 회사가 의도하지 않았더라도, 과거의 선택이 미래의 추천으로 반복될 수 있습니다.

추천 시스템도 마찬가지입니다. 내가 몇 번 자극적인 뉴스를 클릭하면 시스템은 내가 그런 콘텐츠를 좋아한다고 판단할 수 있습니다. 그러면 비슷한 뉴스가 더 많이 나오고, 나는 더 자주 클릭하게 됩니다. 이 과정이 반복되면 세상이 실제보다 더 극단적으로 보일 수 있습니다. AI는 내 시야를 넓히기도 하지만, 좁히기도 합니다.

데이터가 부족해도 문제가 생깁니다. 어떤 사람에 대한 정보가 거의 없으면 AI는 그 사람 자체보다 비슷해 보이는 집단의 평균에 기대어 판단할 수 있습니다. 그런데 사람은 평균으로만 설명되지 않습니다. 평균적인 고객, 평균적인 학생, 평균적인 환자는 계산에는 편리하지만 현실에서는 늘 예외가 있습니다.

그래서 AI 결과를 읽을 때는 데이터 문해력이 필요합니다. 이 AI는 어떤 데이터를 배웠을까? 빠진 데이터는 없을까? 과거의 편견이 들어 있지는 않을까? 지금 내 상황과 비슷한 사례가 충분히 있었을까?

AI를 잘 쓰는 사람은 AI의 답을 빨리 받아 적는 사람이 아닙니다. AI가 어떤 재료로 답을 만들었는지 질문하는 사람입니다.

AI 결과를 읽는 어른의 체크리스트

AI를 완벽히 이해하려면 복잡한 수학과 컴퓨터 과학이 필요할 수 있습니다. 하지만 AI를 생활과 일에서 현명하게 쓰기 위해 꼭 전문가가 될 필요는 없습니다. 어른에게 필요한 것은 기본적인 점검 습관입니다.

AI가 내놓은 답을 볼 때는 다음 질문을 떠올려보면 좋습니다.

• 이 결과는 사실 확인이 필요한 답인가, 아이디어를 얻기 위한 초안인가?

• AI가 참고했을 법한 데이터는 내 상황과 충분히 비슷한가?

• 숫자, 날짜, 이름, 법률, 의학, 금융처럼 틀리면 손해가 큰 정보가 들어 있는가?

• 결과가 너무 그럴듯해서 오히려 검증 없이 믿고 있지는 않은가?

• 다른 출처, 다른 계산, 사람의 판단으로 한 번 더 확인해야 하는가?

예를 들어 AI에게 여행 일정을 짜달라고 하는 것은 비교적 부담이 적습니다. 마음에 들지 않으면 고치면 됩니다. 하지만 세금 신고, 대출 계약, 질병 진단, 투자 결정처럼 결과가 실제 손실로 이어질 수 있는 일이라면 이야기가 달라집니다. 이때 AI는 조언의 출발점이 될 수는 있어도 최종 판단자가 되어서는 안 됩니다.

AI의 장점은 빠른 초안, 넓은 탐색, 반복 작업의 도움입니다. 단점은 맥락 부족, 사실 오류, 편향, 과잉 확신입니다. 이 둘을 함께 볼 때 AI는 무서운 경쟁자도, 완벽한 비서도 아니라 강력하지만 점검이 필요한 도구가 됩니다.

코드를 몰라도 숫자로 판단할 수 있어야 한다

AI 시대에 모든 사람이 개발자가 될 필요는 없습니다. 하지만 모든 사람이 숫자로 판단하는 감각은 가져야 합니다.

회사가 AI 서비스를 도입한다고 해봅시다. 이때 중요한 질문은 '이 AI가 멋져 보이는가?'가 아닙니다. 도입 전보다 시간이 얼마나 줄었는지, 오류가 얼마나 감소했는지, 고객 만족도가 어떻게 변했는지, 비용 대비 효과가 있는지 봐야 합니다.

마케팅에서 AI가 고객을 분류한다고 해봅시다. 이때도 'AI가 골랐으니 맞겠지'라고 생각하면 위험합니다. 실제 구매율이 높아졌는지, 특정 고객군을 불공정하게 제외하지는 않았는지, 단기 매출은 늘었지만 장기 신뢰는 떨어지지 않았는지 확인해야 합니다.

교육에서 AI가 학생의 수준을 진단한다고 해봅시다. 점수가 낮게 나왔다고 해서 그 학생의 가능성이 낮다는 뜻은 아닙니다. 어떤 문제 유형에 약한지, 시험 환경은 어땠는지, 데이터가 충분한지 함께 보아야 합니다.

AI가 들어오는 곳마다 결국 숫자 질문이 따라옵니다. 얼마나 정확한가? 얼마나 자주 틀리는가? 틀렸을 때 손실은 얼마나 큰가? 누구에게 유리하고 누구에게 불리한가? 개선되었다는 말의 기준은 무엇인가?

이 질문들은 지금까지 이 책에서 익힌 감각과 연결됩니다. 비율을 읽고, 평균을 의심하고, 표본을 확인하고, 상관관계와 인과관계를 구분하고, 확률과 리스크를 함께 보는 힘이 AI 시대에도 그대로 필요합니다.

AI가 복잡해질수록 오히려 기본 수학은 더 중요해집니다. 복잡한 기술을 모두 이해하지 못해도, 숫자가 무엇을 기준으로 나온 것인지 묻는 사람은 쉽게 속지 않습니다.

AI를 대하는 가장 수학적인 태도

AI를 두려워할 필요는 없습니다. 동시에 숭배할 필요도 없습니다. 수학적인 태도는 그 중간에 있습니다. 신기해하되, 기준을 묻습니다. 활용하되, 검증합니다. 빠른 답을 얻되, 중요한 결정에서는 한 번 더 멈춥니다.

AI는 많은 데이터를 계산해 패턴을 찾습니다. 알고리즘은 그 계산의 절차와 규칙입니다. 추천 시스템은 사람과 상품과 취향 사이의 비슷함을 계산합니다. 벡터는 대상을 여러 특징의 숫자 묶음으로 표현하는 방법입니다. AI의 답은 대개 확률적 추정이며, 그래서 언제나 맞는 정답이 아닐 수 있습니다.

이 정도만 이해해도 AI를 바라보는 눈이 달라집니다. 화면에 나타난 결과가 더 이상 신비한 계시처럼 보이지 않습니다. 그 뒤에 있는 데이터, 기준, 계산, 확률이 조금씩 보이기 시작합니다.

어른의 수학 문해력은 여기서 빛납니다. 계산을 빨리하는 능력이 아니라, 계산된 결과를 읽는 능력. 숫자로 포장된 주장을 한 번 멈춰 세우는 능력. 편리한 도구를 쓰되, 내 판단의 주도권을 빼앗기지 않는 능력.

AI 시대의 수학 감각은 거창한 미래 기술의 이야기가 아닙니다. 오늘 내가 본 추천 영상, 쇼핑몰의 상품 배열, 검색 결과, 자동 완성 문장, 업무용 분석 보고서 속에 이미 들어와 있습니다.

이제 질문은 하나입니다. AI가 계산한 결과를 그대로 받을 것인가, 아니면 그 계산을 읽을 줄 아는 사람이 될 것인가.

다음 장부터는 다시 수학의 기본 개념으로 돌아갑니다. 방정식, 함수, 기하, 미적분 같은 말들이 등장할 것입니다. 하지만 겁낼 필요는 없습니다. 그것들도 결국 세상을 숫자로 읽기 위한 도구입니다. AI가 아무리 복잡한 계산을 하더라도, 우리가 가져야 할 첫 감각은 변하지 않습니다. 모르는 것을 찾고, 관계를 보고, 기준을 확인하는 힘입니다.