인공지능 시대의 개발 지식

인공지능은 무엇을 하는가

인공지능, 줄여서 AI는 사람처럼 생각하는 기계라기보다 많은 데이터를 바탕으로 패턴을 찾고, 그 패턴을 이용해 결과를 예측하거나 만들어 내는 기술에 가깝다. 여기서 패턴은 반복해서 나타나는 규칙이다. 예를 들어 온라인 쇼핑몰에서 어떤 사용자가 운동화를 자주 보고, 비슷한 나이대의 사람들이 특정 브랜드를 많이 샀다면, AI는 그 사람에게 관련 상품을 추천할 수 있다.

사람은 "이 고객은 이런 취향이 있을 것 같다"라고 직감적으로 말할 수 있다. AI는 이 직감을 숫자와 확률로 처리한다. 과거 행동, 클릭 기록, 구매 이력, 검색어, 상품 정보 같은 데이터를 보고 "다음에 이 상품을 좋아할 가능성이 높다"라고 계산한다. 정답을 완벽히 아는 것이 아니라, 가능성이 높은 답을 고르는 것이다.

요즘 많이 쓰는 생성형 AI도 같은 흐름에서 이해할 수 있다. 생성형 AI는 글, 이미지, 코드, 음성처럼 새로운 결과물을 만들어 내는 AI다. 채팅창에 질문을 입력하면 그럴듯한 문장을 만들고, 설명을 요약하거나, 이메일 초안을 써 주기도 한다. 이것은 인터넷 어딘가에서 문장을 그대로 꺼내 오는 일이 아니다. 학습한 수많은 예시를 바탕으로 다음에 이어질 말이나 구조를 예측해 결과를 조합하는 방식에 가깝다.

그래서 AI를 마법처럼 볼 필요는 없다. AI는 매우 강력한 도구지만, 도구다. 망치가 집을 혼자 짓지 못하듯 AI도 문제 정의, 데이터 품질, 검증 기준, 사용 환경이 갖춰져야 제대로 쓸 수 있다.

AI 생성 이미지

AI가 서비스 안에서 쓰이는 방식

AI는 이미 많은 서비스 안에 들어와 있다. 사용자가 AI라는 이름을 의식하지 못해도, 뒤에서는 AI가 판단을 돕고 있을 때가 많다.

가장 익숙한 예는 추천 시스템이다. 유튜브의 다음 영상, 쇼핑몰의 추천 상품, 음악 앱의 맞춤 플레이리스트가 여기에 해당한다. 추천 시스템은 사용자의 행동과 다른 사람들의 행동을 함께 본다. "이 영상을 끝까지 본 사람은 다음에 어떤 영상을 봤는가", "이 상품을 산 사람은 무엇을 함께 샀는가" 같은 관계를 찾는다. 추천이 편리한 이유는 선택지를 줄여 주기 때문이다. 하지만 사용자가 비슷한 정보만 계속 보게 만들 수도 있다. 그래서 추천 기능은 편리함과 편향을 함께 생각해야 한다.

챗봇도 대표적인 AI 활용 사례다. 예전 챗봇은 정해진 질문에 정해진 답을 돌려주는 경우가 많았다. "배송 조회"라고 입력하면 배송 조회 메뉴를 보여 주는 식이다. 최근 챗봇은 사용자의 문장을 더 자연스럽게 이해하고, 여러 문서를 참고해 답을 만들 수 있다. 고객센터에서는 반품 규정, 요금제, 예약 변경 방법을 설명하는 데 쓰인다. 다만 상담 내용이 법적 책임, 의료 판단, 금융 결정처럼 중요할수록 사람이 확인하는 절차가 필요하다.

이미지 인식은 사진이나 영상을 보고 대상을 구분하는 기술이다. 스마트폰이 얼굴을 인식해 잠금을 풀거나, 병원에서 촬영 이미지를 분석해 이상 징후를 찾거나, 공장에서 제품 결함을 감지하는 데 쓰인다. AI가 사진을 사람처럼 "본다"고 말하지만 실제로는 픽셀의 색, 형태, 경계, 반복되는 특징을 숫자로 분석한다.

문서 요약도 빠르게 퍼지고 있다. 회의록을 정리하고, 긴 보고서에서 핵심 내용을 뽑고, 고객 문의를 분류하는 방식이다. 이 기능은 정보가 많은 조직에서 특히 유용하다. 사람이 처음부터 끝까지 읽기 전에 대략적인 구조를 파악할 수 있기 때문이다. 하지만 요약은 원문을 대체하지 않는다. 중요한 계약 조항, 금액, 일정, 책임 범위는 반드시 원문과 대조해야 한다.

AI가 틀릴 수밖에 없는 이유

AI의 답이 자연스럽다고 해서 항상 맞는 것은 아니다. 특히 생성형 AI는 문장을 매끄럽게 만드는 데 능숙하다. 문제는 그럴듯하지만 틀린 답도 만들 수 있다는 점이다. 이를 흔히 환각, 또는 할루시네이션이라고 부른다. 어려운 말처럼 들리지만 뜻은 단순하다. AI가 근거 없는 내용을 사실처럼 말하는 현상이다.

왜 이런 일이 생길까. 첫째, AI는 질문의 의도를 확률적으로 해석한다. 사용자가 애매하게 질문하면 AI는 부족한 부분을 추측해 채운다. 둘째, 학습 데이터에 오래된 정보나 잘못된 정보가 섞여 있을 수 있다. 셋째, AI는 자신이 모르는 것을 항상 정확히 구분하지 못한다. 사람도 모르는 문제를 그럴듯하게 말할 때가 있는데, AI도 비슷한 위험을 가진다.

예를 들어 "우리 회사 취업 규칙에 따르면 병가가 며칠까지 가능한가?"라는 질문에 AI가 답했다고 하자. 이 답이 믿을 만하려면 실제 취업 규칙 문서의 어느 조항을 근거로 삼았는지 확인할 수 있어야 한다. 최종 답변이 매끄러운지만 보면 부족하다. 중간에 잘못 읽은 문서, 잘못 요약한 문장, 근거 없는 추측이 들어갔을 수 있기 때문이다. Microsoft Research도 여러 단계를 거치는 AI 작업에서는 최종 결과만 보는 것보다 답이 어떤 원문과 중간 결과를 거쳐 나왔는지 추적하는 일이 중요하다고 설명한다.¹

그래서 AI 서비스에는 검증 장치가 필요하다. 답변 옆에 출처를 보여 주거나, 회사 내부 문서 안에서만 답하게 제한하거나, 중요한 결정은 사람이 승인하게 만드는 방식이다. 금융 상품 가입, 채용 평가, 의료 안내, 법률 문서처럼 결과가 사람에게 큰 영향을 주는 영역에서는 더 엄격해야 한다. AWS도 특정 업무 규칙이나 정책에 맞는지 AI 답변을 검사하는 장치를 제공하며, 이런 방식은 AI의 자유로운 답변을 그대로 믿는 대신 정해진 기준과 비교해 확인하려는 접근이다.²

핵심은 단순하다. AI의 답은 "완성된 진실"이 아니라 "검토해야 할 초안"으로 보아야 한다. 특히 숫자, 날짜, 법적 표현, 출처, 사람의 권리와 비용에 영향을 주는 내용은 반드시 확인해야 한다.

좋은 AI 서비스는 질문보다 기준이 중요하다

AI를 서비스에 붙인다고 해서 자동으로 좋은 서비스가 되지는 않는다. "AI 챗봇을 넣자"보다 먼저 물어야 할 질문이 있다. 어떤 문제를 해결할 것인가. 어떤 데이터를 사용할 것인가. 틀렸을 때 피해는 어느 정도인가. 사용자는 AI의 답을 어디까지 믿어도 되는가.

예를 들어 쇼핑몰 상품 설명을 요약하는 AI와 병원 검사 결과를 설명하는 AI는 위험도가 다르다. 쇼핑몰 요약이 조금 어색하면 사용자가 상품 상세 페이지를 다시 보면 된다. 하지만 의료나 금융 분야에서 잘못된 안내가 나오면 실제 피해로 이어질 수 있다. 같은 AI라도 적용 위치에 따라 필요한 검증 수준이 달라진다.

데이터 품질도 중요하다. AI는 데이터를 먹고 자라는 도구다. 오래된 상품 정보, 중복된 고객 기록, 잘못 입력된 가격, 누락된 문서가 많으면 결과도 흔들린다. 데이터베이스가 서비스의 기억이라면, AI는 그 기억을 바탕으로 판단을 돕는 조수다. 기억이 엉켜 있으면 조수의 판단도 불안정해진다.

개인정보도 함께 봐야 한다. 고객 상담 내용을 AI에 입력할 때 이름, 전화번호, 주소, 결제 정보가 그대로 들어가면 위험할 수 있다. 외부 AI 도구를 쓸 때는 입력한 정보가 어디로 전송되는지, 학습에 사용되는지, 회사 정책과 법적 기준에 맞는지 확인해야 한다. AI 시대의 보안은 비밀번호만 지키는 문제가 아니다. 어떤 데이터를 AI에게 보여 줄 것인지 정하는 문제이기도 하다.

개발자는 AI를 어떻게 활용하는가

AI는 개발자의 일도 바꾸고 있다. 다만 개발자를 완전히 대신한다기보다, 반복 작업과 초안 작성을 돕는 방향으로 많이 쓰인다.

가장 흔한 활용은 코드 작성 보조다. 개발자가 "사용자 목록을 날짜순으로 정렬하는 코드가 필요하다"라고 설명하면 AI가 예시 코드를 제안한다. 처음부터 빈 화면에서 시작하는 부담을 줄여 준다. 하지만 제안된 코드가 항상 안전하거나 효율적인 것은 아니다. 개발자는 그 코드가 실제 서비스 구조에 맞는지, 보안 문제가 없는지, 예외 상황을 처리하는지 확인해야 한다.

두 번째는 문서화다. 개발 프로젝트에는 코드만큼 문서도 중요하다. API 사용법, 설치 방법, 오류 대응 절차, 기능 설명이 정리되어야 다른 사람이 이해하고 유지보수할 수 있다. AI는 긴 코드를 읽고 설명 초안을 만들거나, 회의 내용을 정리하거나, 사용자 안내 문구를 다듬는 데 도움을 준다. 그러나 문서 역시 사실 확인이 필요하다. 코드에 없는 기능을 있는 것처럼 설명하거나, 실제 동작과 다른 문장을 만들 수 있기 때문이다.

세 번째는 테스트 보조다. 개발자는 정상 상황뿐 아니라 예외 상황도 확인해야 한다. AI에게 "회원가입 기능에서 확인해야 할 예외 상황을 알려 달라"고 하면 이메일 형식 오류, 비밀번호 길이 부족, 중복 가입, 인증번호 만료 같은 목록을 제안받을 수 있다. 이런 목록은 테스트 설계를 시작하는 데 유용하다. 하지만 최종 테스트 기준은 서비스의 실제 요구사항과 정책에 맞춰 사람이 정해야 한다.

AI는 오류 분석에도 쓰인다. 로그나 오류 메시지를 보고 원인 후보를 정리해 주거나, 비슷한 문제를 찾는 데 도움을 준다. 개발자는 AI가 제안한 원인을 단서로 삼아 실제 코드, 데이터, 서버 상태를 확인한다. 즉 AI가 답을 확정하는 것이 아니라 조사 속도를 높여 주는 것이다.

AI 시대에 일반인이 알아야 할 개발 감각

일반인이 모든 AI 기술을 깊이 배울 필요는 없다. 하지만 AI가 들어간 서비스를 기획하거나 구매하거나 운영한다면 몇 가지 감각은 필요하다.

첫째, AI는 확률적으로 답한다. 그래서 "항상 맞는가"보다 "틀렸을 때 어떻게 발견하고 고칠 것인가"를 물어야 한다.

둘째, AI 품질은 데이터와 기준에 크게 좌우된다. 좋은 AI 서비스는 멋진 모델 이름만으로 만들어지지 않는다. 어떤 데이터를 쓰는지, 어떤 답을 허용할지, 어떤 경우 사람에게 넘길지 정해야 한다.

셋째, AI 결과는 사용자 경험의 일부다. 챗봇이 빠르게 답해도 사용자가 이해하지 못하면 좋은 서비스가 아니다. 추천이 정교해도 사용자가 불편함을 느끼면 실패다. AI 기능도 결국 서비스의 목적과 사용자의 문제 해결에 맞아야 한다.

넷째, AI 도입은 비용과 운영의 문제다. 모델 사용료, 서버 비용, 데이터 정리, 품질 평가, 보안 검토, 법적 책임이 따라온다. "AI를 붙이면 끝"이 아니라 "AI를 계속 관리해야 시작"에 가깝다.

인공지능 시대의 개발 지식은 AI를 신비롭게 떠받드는 지식이 아니다. AI가 무엇을 잘하고, 어디서 틀리며, 어떤 조건에서 쓸모가 커지는지 구분하는 힘이다. 이 관점을 가지면 과장된 홍보에 흔들리지 않고, 실제로 도움이 되는 AI 활용을 판단할 수 있다.

참고

¹VeriTrail: Detecting hallucination and tracing provenance in multi-step AI workflows

²Minimize AI hallucinations and deliver up to 99% verification accuracy with Automated Reasoning checks