3. 직업재활 실무자가 알아야 할 인공지능의 기초

왜 실무자에게 AI 기초가 먼저 필요한가

직업재활 현장에서 인공지능을 잘 쓴다는 말은, 최신 유행 도구를 누구보다 빨리 도입한다는 뜻이 아닙니다. 오히려 그 반대에 가깝습니다. 어떤 기관은 화려한 데모 화면에 끌려 비싼 시스템을 사지만, 정작 실무에서는 상담기록 정리 하나도 제대로 안 되거나 접근성이 떨어져 현장에 안착하지 못합니다. 반대로 어떤 기관은 거창한 이름의 솔루션이 없어도, 아주 단순한 요약 도구와 음성-문자 변환만으로 상담 품질과 기록 효율을 눈에 띄게 높입니다.

차이는 기술의 이름이 아니라, 기술을 이해하는 눈에 있습니다.

최근 AI 흐름은 단순히 질문에 답하는 챗봇을 넘어, 여러 단계를 이어서 실행하는 이른바 "행동하는 AI" 또는 에이전트형 AI로 확장되고 있습니다. Jang go의 틸노트 블로그도 이런 변화를 쉽게 설명하며, AI를 어렵게 신비화하기보다 실제로 무엇을 대신하고 무엇은 여전히 사람이 맡아야 하는지 구분하는 관점을 강조합니다.¹ 직업재활에서도 이 관점은 매우 중요합니다. 실무자는 "이 도구가 멋져 보이는가?"보다 "우리 이용자의 어떤 장벽을 줄여주는가?"를 먼저 물어야 하기 때문입니다.

직업재활에서 AI는 상담사를 대체하는 기술이 아니라, 상담사가 더 사람다운 일을 하도록 시간을 되돌려주는 기술로 이해하는 편이 맞습니다. 실제 현장 자료들도 AI가 정보 요약, 문서 초안 작성, 진로탐색 보조, 접근성 지원, 사례관리 보조 등에 도움이 될 수 있지만, 최종 판단과 관계 형성은 여전히 인간 전문가의 역할이라고 분명히 말합니다.² 또 장애인의 노동 참여를 높이기 위해서는 기술이 공급자 중심으로 주어지는 것이 아니라, 당사자에게 실제 이익이 있고 쉽게 쓸 수 있으며 참여적으로 설계되어야 한다는 점도 강조됩니다.³

이 장의 목적은 어렵고 낯선 기술 용어를 직업재활 언어로 번역하는 데 있습니다. 생성형 AI, 머신러닝, 자연어처리, 컴퓨터 비전, 예측분석, 추천시스템 같은 말을 알아두면, 실무자는 더 이상 "AI가 다 해준다"는 홍보 문구에 휘둘리지 않습니다. 대신 이렇게 물을 수 있게 됩니다.

• 이 도구는 무엇을 입력으로 받는가?

• 무엇을 출력하는가?

• 누구에게 어떤 도움을 주는가?

• 어디에서 오류나 차별이 생길 수 있는가?

• 최종 결정은 누가 책임지는가?

이 질문을 할 수 있는 순간부터, AI는 유행어가 아니라 실무 도구가 됩니다.

인공지능을 한 문장으로 이해하기

인공지능은 사람이 하던 인식, 분류, 예측, 요약, 추천, 생성 같은 일을 컴퓨터가 데이터와 알고리즘을 이용해 수행하도록 만든 기술입니다.

조금 더 쉽게 말해보겠습니다. 인공지능은 "컴퓨터가 상황을 보고 어느 정도 눈치채게 만드는 기술"입니다. 물론 사람처럼 완전히 이해하는 것은 아닙니다. 다만 많은 데이터 속 패턴을 바탕으로, 다음에 올 말을 예측하거나, 사진 속 대상을 구별하거나, 비슷한 사례를 찾아 추천하거나, 어떤 결과가 일어날 가능성을 계산할 수 있습니다.

이때 중요한 점은 AI가 하나의 기술이 아니라는 사실입니다. AI라는 큰 우산 아래에 여러 종류의 기술이 들어 있습니다. 직업재활 실무에서 자주 만나게 될 대표 기술은 다음과 같습니다.

• 생성형 AI: 문장, 이미지, 요약, 초안처럼 새로운 결과물을 만들어내는 기술

• 머신러닝: 과거 데이터를 학습해 분류나 예측을 수행하는 기술

• 자연어처리: 사람의 말과 글을 이해하고 다루는 기술

• 컴퓨터 비전: 이미지와 영상을 읽고 해석하는 기술

• 예측분석: 특정 결과가 일어날 가능성을 계산하는 기술

• 추천시스템: 사람에게 맞는 정보, 직무, 학습경로, 지원방안을 제안하는 기술

이제부터 이 기술들을 직업재활 실무자의 눈으로 하나씩 풀어보겠습니다.

직업재활의 언어로 번역한 AI

기술 용어를 그대로 들으면 멀게 느껴집니다. 하지만 직업재활 서비스 흐름에 대입하면 훨씬 쉬워집니다.

• 초기 접수와 상담에서는 생성형 AI와 자연어처리가 상담내용 정리, 핵심욕구 추출, 쉬운 문장 변환을 도울 수 있습니다.

• 직업평가와 사례관리에서는 머신러닝과 예측분석이 누가 추가 지원이 필요한지, 어떤 서비스 조합이 효과적일지 가늠하는 데 쓰일 수 있습니다.

• 직무분석과 현장적응 지원에서는 컴퓨터 비전이 작업 동작, 환경 장벽, 문서 이미지, 표지판, 물체 인식을 도울 수 있습니다.

• 진로탐색과 직무매칭에서는 추천시스템이 개인의 선호, 능력, 제약, 노동시장 정보를 함께 고려하는 방향으로 쓰일 수 있습니다.

• 취업 준비와 훈련 단계에서는 생성형 AI가 이력서 초안, 면접 질문 생성, 학습자료 재구성, 코칭 시뮬레이션을 지원할 수 있습니다.²⁴

이렇게 보면 AI는 갑자기 하늘에서 떨어진 낯선 물건이 아닙니다. 이미 직업재활의 여러 단계에 끼어들 수 있는 "디지털 보조 인력"에 가깝습니다. 다만 어떤 보조 인력을 어디에 배치할지 알려면, 그 능력과 한계를 먼저 알아야 합니다.

생성형 AI: 빈 종이를 무서워하지 않게 해주는 기술

생성형 AI는 말 그대로 무언가를 "생성"합니다. 질문에 대한 답을 쓰고, 긴 문서를 요약하고, 면접 예상 질문을 만들고, 보고서 초안을 작성하고, 때로는 이미지나 표까지 만들어냅니다.

직업재활 실무에서 가장 먼저 체감되는 AI가 바로 이것입니다. 상담사가 하루 종일 사람을 만나고 돌아와 기록을 정리하려고 앉았을 때, 가장 지치는 순간은 생각보다 "빈 화면"을 마주하는 시간입니다. 생성형 AI는 이 빈 화면을 채워주는 초안 작성 파트너가 될 수 있습니다.

예를 들어 생성형 AI는 다음과 같은 일을 도울 수 있습니다.

• 상담 내용을 바탕으로 사례기록 초안 만들기

• 이용자의 강점, 흥미, 장벽을 항목별로 정리하기

• 직무설명서를 쉬운 말로 바꾸기

• 면접 연습 질문 만들기

• 자기소개서나 이력서의 첫 버전 만들기

• 합리적 편의 요청 문구 초안 만들기

• 개별화 계획 문장을 구조화하기

이 기술의 핵심은 "그럴듯한 언어를 빠르게 만들어내는 능력"입니다. 그래서 속도와 생산성 측면에서는 대단히 매력적입니다. 그러나 동시에 가장 쉽게 과신되는 기술이기도 합니다.

생성형 AI의 가장 큰 함정은, 모르는 것도 아는 것처럼 말한다는 점입니다. 틀린 정보를 매우 자연스럽게 말할 수 있고, 실제 기록에 없는 내용을 문맥상 그럴듯하게 끼워 넣을 수도 있습니다. 이를 흔히 환각이라고 부릅니다. 직업재활에서는 이 문제가 특히 위험합니다. 상담기록, 장애정보, 근로가능성, 서비스 적합성, 편의 제공 필요성 같은 내용은 한 줄이 잘못되어도 당사자에게 불이익이 갈 수 있기 때문입니다.

그래서 생성형 AI는 "최종 작성자"가 아니라 "첫 초안 작성자"로 두는 것이 안전합니다. 표현을 만드는 일은 잘하지만, 책임을 지는 일은 못합니다. 한마디로 말해 생성형 AI는 문장을 써줄 수는 있어도, 판단을 대신해줄 수는 없습니다.

머신러닝: 과거 사례에서 패턴을 배우는 기술

머신러닝은 컴퓨터가 많은 사례를 보고 스스로 패턴을 찾아내도록 만드는 방식입니다. 사람이 일일이 "이럴 때는 A, 저럴 때는 B"라고 규칙을 다 적어주는 대신, 과거 데이터를 바탕으로 어떤 특성과 결과가 자주 함께 나타나는지 학습하게 합니다.

예를 들어 설명해보겠습니다. 만약 어떤 기관이 수년간의 사례 데이터를 가지고 있고, 그 안에 초기 상태, 제공 서비스, 훈련 참여도, 중도탈락 여부, 취업 여부, 직무유지 기간 같은 정보가 쌓여 있다면, 머신러닝은 이 자료에서 일정한 경향을 찾아낼 수 있습니다. 예를 들면 "어떤 조건의 이용자에게는 초기에 고용유지 지원을 더 촘촘히 넣는 것이 효과적이다" 같은 신호를 포착하는 식입니다.

이때 많은 사람이 머신러닝을 신비롭게 생각하지만, 본질은 의외로 소박합니다. "과거와 비슷한 패턴이 미래에도 어느 정도 반복될까?"를 계산하는 기술일 뿐입니다.

직업재활 실무에서는 머신러닝이 다음과 같은 질문에 연결될 수 있습니다.

• 어떤 이용자가 초기 이탈 위험이 높은가?

• 어떤 서비스 조합이 특정 집단에서 더 좋은 결과를 보였는가?

• 누가 추가 코칭이나 사례관리가 더 필요한가?

• 어느 시점에 개입하면 실패를 줄일 수 있는가?

실제로 직업재활 프로그램 성과를 예측하려는 연구에서는, 신청 시점의 고용 상태나 서비스 이용 패턴이 이후 취업 결과와 관련이 있음을 보여주었고, 머신러닝은 기존 분석보다 더 다양한 위험집단을 조기에 식별하는 데 도움을 줄 수 있었습니다.⁷

하지만 머신러닝에는 아주 중요한 전제가 있습니다. 과거 데이터가 현재와 미래를 대표해야 한다는 점입니다. 만약 과거 자료 자체가 편향되어 있다면, 머신러닝은 그 편향을 더 정교하게 반복할 뿐입니다. 예를 들어 특정 장애유형, 여성, 농어촌 거주자, 비정규 경력자, 발달장애인, 정신장애인 사례가 데이터에 적게 포함되어 있거나, 과거 제도가 이들에게 충분한 기회를 주지 못했다면, 모델은 이들을 "성과가 낮은 집단"으로 잘못 학습할 위험이 있습니다.

그래서 머신러닝은 객관적인 심판이 아니라, 과거 제도의 그림자를 학습하는 기술일 수 있다는 사실을 잊으면 안 됩니다.

자연어처리: 사람의 말과 글을 다루는 기술

자연어처리, 줄여서 NLP는 사람이 쓰고 말하는 언어를 컴퓨터가 다루게 만드는 기술입니다. 직업재활 현장에서는 사실상 가장 실용적인 분야 중 하나입니다. 왜냐하면 현장은 숫자보다 글과 말로 돌아가기 때문입니다.

상담기록, 사례회의 메모, 진단서 요약, 직무설명서, 사업체 요구사항, 이용자 진술, 보호자 의견, 훈련일지, 서비스 계획서까지, 직업재활의 대부분은 텍스트입니다. NLP는 이 텍스트 속에서 필요한 정보를 뽑아내고, 분류하고, 요약하고, 다시 쓰는 데 쓰입니다.

예를 들면 이런 활용이 가능합니다.

• 긴 상담내용에서 핵심 욕구와 목표 추출하기

• 자유서술식 기록을 일정한 형식으로 정리하기

• 문서에서 반복적으로 등장하는 장벽 요인 찾기

• 쉬운 글로 다시 쓰기

• 음성을 문자로 바꾸기

• 면접 답변을 분석해 피드백하기

• 사례기록에서 필요한 행정 항목 자동 분류하기

흥미로운 점은 NLP가 꼭 거대한 최신 모델이어야만 잘 작동하는 것은 아니라는 사실입니다. 한 연구에서는 재활 임상노트에서 운동 정보를 추출하는 여러 NLP 방법을 비교했는데, 일부 항목에서는 규칙기반 방식이 기계학습이나 대형언어모델보다 더 좋은 성능을 보이기도 했습니다.⁵ 이 결과는 직업재활 현장에도 큰 시사점을 줍니다. 가장 최신 AI가 항상 가장 좋은 해법은 아니라는 뜻입니다.

예를 들어 사례기록에서 "상담일자, 목표직무, 희망근무형태, 필요한 편의, 다음 조치" 같은 항목을 뽑아내는 일은, 오히려 잘 설계된 서식과 간단한 규칙기반 시스템이 더 안정적일 수 있습니다. 반면 자유로운 대화 요약이나 쉬운 표현 변환은 생성형 AI가 더 유리할 수 있습니다.

즉, NLP를 이해한다는 것은 단지 "텍스트 AI를 쓴다"가 아니라, 어떤 언어 작업에는 어떤 수준의 기술이 적합한지 구분하는 감각을 갖는 일입니다.

컴퓨터 비전: AI의 눈

컴퓨터 비전은 컴퓨터가 이미지나 영상을 보고 의미를 파악하도록 만드는 기술입니다. 쉽게 말하면 AI의 눈입니다.

이 기술은 직업재활에서 생각보다 쓸모가 많습니다. 왜냐하면 일은 말보다 장면으로 드러나는 경우가 많기 때문입니다. 작업 자세, 작업대 높이, 통로 폭, 도구 배치, 손동작, 피로 징후, 위험요소, 문서 이미지, 표지판, 버튼 위치 같은 것들은 글보다 이미지가 더 잘 설명합니다.

컴퓨터 비전은 다음과 같은 영역에서 응용될 수 있습니다.

• 작업환경 사진을 보고 접근성 장벽 찾기

• 작업 동작 영상을 분석해 반복 동작이나 부담 자세 파악하기

• OCR 기능으로 문서, 안내문, 라벨, 표지판 읽기

• 화면낭독과 결합해 시각장애인의 정보 접근을 돕기

• 원격 훈련 상황에서 자세나 수행 여부를 확인하기

• 영상 속 물체나 공간을 설명해 이동과 과업 수행을 돕기

직업재활 관련 연구에서도 AI 지원 보조기술에 이미지 인식과 언어 이해, 언어 생성이 자주 활용된다고 보고되며, 특히 이미지 인식은 매우 빈번하게 쓰이는 구성요소로 나타났습니다.³ 또 가정 기반 가상 재활 연구에서는 웹캠, 스마트폰 카메라, 웨어러블 센서로 수집한 데이터가 운동 수행, 행동, 감정 상태, 활동량을 파악하는 데 활용될 수 있다고 설명합니다.⁶

여기서 중요한 것은, 컴퓨터 비전이 "감시 도구"가 되지 않게 하는 일입니다. 영상을 분석한다는 말은 곧 매우 민감한 정보를 다룰 수 있다는 뜻이기도 합니다. 따라서 촬영 목적, 저장 기간, 접근 권한, 실시간 처리 여부, 제3자 전송 여부를 분명히 해야 합니다. 특히 장애인의 움직임이나 행동 특성을 자동으로 평가하는 시스템은 잘못 쓰이면 능력 판정이나 통제 장치로 변질될 수 있습니다.

예측분석: 미래를 맞히는 기술이 아니라, 위험을 일찍 알아차리는 기술

예측분석은 이름 때문에 오해를 많이 받습니다. 마치 미래를 정확히 맞히는 기술처럼 들리지만, 실제로는 그렇지 않습니다. 예측분석은 어떤 결과가 일어날 가능성을 계산하는 기술입니다. 점쟁이가 아니라 확률 계산기라고 보는 편이 맞습니다.

직업재활 현장에서 예측분석이 의미를 가지는 이유는, 뒤늦은 개입보다 이른 개입이 훨씬 효과적이기 때문입니다. 예를 들어 서비스 중단 위험, 훈련 이탈 가능성, 취업 후 초기 적응 어려움, 반복 상담 필요성, 고용유지 위험 같은 신호를 너무 늦게 발견하면 이미 손쓰기 어려운 경우가 많습니다.

예측분석은 다음과 같은 방식으로 도움이 될 수 있습니다.

• 초기 접수 단계에서 추가 지원이 필요한 집단을 조기에 찾기

• 중도탈락 위험이 높은 사례에 먼저 집중하기

• 취업 이후 이직 가능성이 높은 상황을 빨리 포착하기

• 제한된 자원을 우선순위에 따라 배분하기

• 어떤 서비스 패키지가 어떤 집단에 효과적이었는지 검토하기

중요한 것은 예측결과를 절대화하지 않는 것입니다. "이 사람은 취업 가능성이 낮다"는 식의 결론은 예측분석의 올바른 사용법이 아닙니다. 더 적절한 표현은 "이 사례는 추가 지원이 없으면 어려움을 겪을 가능성이 높으니, 지금 더 촘촘히 지원하자"입니다. 즉 예측은 배제의 근거가 아니라, 지원 강화의 신호여야 합니다.

바로 이 지점에서 윤리 문제가 갈립니다. 같은 예측모델이라도, 누구를 탈락시키는 데 쓰면 차별이 되고, 누구에게 더 많은 지원을 주는 데 쓰면 예방적 개입이 됩니다. 도구보다 더 중요한 것은 사용 목적입니다.

추천시스템: 직업재활의 '맞춤 길잡이'가 될 수도, 좁은 길만 보여주는 필터가 될 수도 있다

추천시스템은 개인에게 맞는 선택지를 제안하는 기술입니다. 온라인 쇼핑몰이 "이 상품도 좋아하실 것 같아요"라고 말할 때 쓰는 기술이 바로 추천시스템입니다. 이를 직업재활에 가져오면 "이 이용자에게는 어떤 직무, 어떤 훈련, 어떤 보조공학, 어떤 편의 제공, 어떤 준비 경로가 더 적절할까?"를 제안하는 도구가 됩니다.

이 기술은 특히 진로탐색과 직무매칭에서 유용합니다. 이용자의 흥미, 강점, 제한요인, 선호환경, 통근 가능성, 지역 노동시장, 필요한 훈련 수준, 근무형태를 함께 고려해 선택지를 넓혀줄 수 있기 때문입니다. 직무정보가 너무 많아 막막한 이용자에게는 "완벽한 답"보다 "다음에 탐색할 만한 후보"를 제시하는 것만으로도 큰 도움이 됩니다.

하지만 추천시스템은 매우 조심해서 써야 합니다. 왜냐하면 추천은 중립적으로 보이지만, 실제로는 누군가의 가능성을 좁히는 방식으로 작동할 수 있기 때문입니다.

예를 들어 과거 데이터상 특정 장애유형의 이용자가 단순직에 많이 취업했다는 이유만으로, 비슷한 특성을 가진 사람에게 계속 같은 유형의 일자리만 추천한다면 어떻게 될까요? 겉으로는 "맞춤 추천" 같지만, 실제로는 과거의 낮은 기대를 자동 반복하는 장치가 됩니다. 특히 장애인 고용에서는 이런 경향이 저임금 직무 고착, 발달 가능성 축소, 편의 제공 없는 직무 회피로 이어질 수 있습니다.

따라서 좋은 추천시스템은 현재의 제약만 반영하는 것이 아니라, 지원이 제공될 경우 열릴 수 있는 가능성까지 고려해야 합니다. 다시 말해 "지금 가능한 것"만이 아니라 "지원하면 가능해질 것"도 추천해야 합니다.

규칙기반 시스템과 AI를 구분할 줄 알아야 한다

현장에서는 무언가 자동화되면 전부 AI라고 부르는 경우가 많습니다. 하지만 실무자는 이 둘을 구분할 줄 알아야 합니다.

규칙기반 시스템은 사람이 정한 규칙대로 움직입니다. 예를 들면 "상담기록에 '면접'이라는 단어가 있으면 면접준비 태그를 붙인다" 같은 식입니다. 반면 AI, 특히 머신러닝은 과거 데이터를 바탕으로 스스로 패턴을 학습합니다.

둘 중 무엇이 더 좋으냐고 묻는다면, 정답은 "문제에 따라 다르다"입니다.

규칙이 명확하고 예외가 적고, 설명 가능성이 매우 중요하고, 실수가 허용되지 않는 행정업무라면 규칙기반 방식이 더 낫습니다. 반대로 패턴이 복잡하고, 사람이 일일이 규칙을 만들기 어렵고, 대량의 데이터 속에서 경향을 찾아야 한다면 머신러닝이 도움이 됩니다.

이 구분이 중요한 이유는, 많은 기관이 사실 AI가 필요 없는 문제에 비싼 AI를 도입하기 때문입니다. 예를 들어 사례기록 서식을 표준화하고, 자동 템플릿과 키워드 추출 규칙만 잘 설계해도 충분한 업무에 굳이 고비용 생성형 AI를 붙일 필요는 없습니다. 반대로 상담 녹취를 자연스럽게 요약하거나, 복잡한 진술 속 핵심 강점과 요구를 재구성하는 일은 생성형 AI가 훨씬 유리할 수 있습니다.

좋은 실무자는 "AI를 쓸까?"보다 먼저 "이 문제는 규칙으로 풀 수 있는가, 패턴 학습이 필요한가?"를 묻습니다.

데이터가 성능보다 먼저다

AI 성능을 좌우하는 가장 큰 요소는 멋진 모델 이름이 아니라 데이터입니다. 흔히 쓰는 말로 하면, 쓰레기를 넣으면 쓰레기가 나옵니다. 입력 데이터가 부정확하고 편향되어 있으면, 결과도 그 한계를 벗어나기 어렵습니다.

직업재활에서 중요한 데이터는 매우 다양합니다. 상담기록 같은 텍스트, 연령·학력·경력·서비스 이용 이력 같은 구조화 데이터, 현장 사진과 영상, 웨어러블 센서 정보, 노동시장 정보, 사업체 요구 정보 등이 모두 포함될 수 있습니다.⁴⁶

그런데 데이터가 많다고 좋은 것은 아닙니다. 다음 질문이 더 중요합니다.

• 이 데이터는 누구의 경험을 담고 있는가?

• 빠진 사람은 누구인가?

• 장애유형 간 대표성이 있는가?

• 지역, 성별, 연령, 소득, 학력에 따른 편향은 없는가?

• 과거의 제도 차별이 그대로 반영된 것은 아닌가?

• 최신 상황을 반영하는가?

• 당사자가 이해하고 동의한 데이터인가?

직업재활 분야의 AI 보조기술 연구는, 기술이 제대로 확산되려면 접근 보장, 사용 역량 강화, 지속 지원, 그리고 무엇보다 수요지향적이고 참여적인 개발이 필요하다고 지적합니다.³ 이 말은 결국 데이터 단계부터 당사자와 현장이 들어와야 한다는 뜻입니다. 장애인의 실제 경험이 빠진 데이터로 만든 AI는, 장애인을 위한 기술처럼 보여도 장애인을 제대로 이해하지 못합니다.

직업재활 실무자가 꼭 알아야 할 기술별 핵심 포인트

이 표를 기억해두면, 새로운 솔루션을 만났을 때 적어도 "이 도구가 대체 어느 종류의 기술인지"는 빠르게 파악할 수 있습니다.

도구를 고를 때 실무자가 반드시 물어야 할 8가지 질문

AI를 잘 모를수록 판매자의 언어를 따라가게 됩니다. 반대로 기본 개념을 아는 실무자는 자신의 질문으로 대화를 주도합니다. 새 도구를 검토할 때는 최소한 아래 질문을 던져야 합니다.

• 이 도구가 해결하려는 현장 문제는 정확히 무엇인가?

• 입력 데이터는 무엇이며, 민감정보가 포함되는가?

• 출력 결과는 초안인가, 점수인가, 예측인가, 추천인가?

• 결과가 왜 그렇게 나왔는지 설명할 수 있는가?

• 사람 검토는 어느 단계에서 필수로 들어가는가?

• 우리 이용자 집단에서 검증했는가, 아니면 다른 나라·다른 분야 데이터인가?

• 접근성은 확보되어 있는가? 화면낭독기, 자막, 쉬운 언어, 키보드 조작은 가능한가?

• 틀렸을 때 누가 수정하고, 책임지고, 기록을 남기는가?

이 질문을 던질 수 있으면, 공급자 중심의 홍보에서 벗어나 현장 문제 중심으로 AI를 선택할 수 있습니다. 바로 이것이 이 장의 핵심 메시지입니다.

윤리 문제는 기술 뒤에 따라오는 것이 아니라, 선택 단계에서 이미 시작된다

많은 사람이 AI 윤리를 "나중에 법무 검토할 문제" 정도로 생각합니다. 하지만 현장에서는 훨씬 앞단에서 시작됩니다. 어떤 기술을 선택하느냐, 어떤 데이터를 넣느냐, 어떤 목적으로 쓰느냐, 사람이 어디서 개입하느냐가 이미 윤리입니다.

특히 직업재활에서는 다음 원칙이 기초가 되어야 합니다.

첫째, 최소한의 정보만 넣어야 합니다. 편리하다고 해서 상담 원문 전체, 주민등록정보, 민감한 의료정보를 무심코 외부 서비스에 입력해서는 안 됩니다.

둘째, 당사자가 이해할 수 있어야 합니다. "AI가 일부 기록 정리와 정보 추천을 돕고 있지만, 최종 결정은 사람이 한다"는 설명조차 하지 않는다면 신뢰는 쌓이지 않습니다.

셋째, AI 결과는 최종 결정이 아니라 참고자료여야 합니다. 특히 서비스 적격성, 취업 가능성, 배치 여부, 편의 제공 여부처럼 권리에 영향을 주는 결정은 사람이 책임 있게 검토해야 합니다.

넷째, 틀릴 수 있다는 전제를 유지해야 합니다. AI는 종종 자신 있게 틀립니다. 자신감과 정확도는 다릅니다.

다섯째, 접근성이 빠진 AI는 직업재활용 AI가 아닙니다. 화면은 화려한데 자막이 없고, 글은 많은데 쉬운 언어가 아니고, 마우스 없이 조작이 안 된다면 그 도구는 이미 현장의 일부 이용자를 배제하고 있습니다.

여섯째, 당사자 참여가 필요합니다. 장애인을 위한 AI라면 장애인이 개발, 시험, 평가 과정에 들어와야 합니다. 수요지향적·참여적 설계가 중요하다는 점은 직업재활 분야 연구에서도 반복해서 강조됩니다.³

윤리적 위험을 완전히 "피하는" 기술은 없습니다. 대신 위험을 미리 줄이고, 발견하고, 수정하고, 설명할 수 있는 체계를 만드는 것이 더 현실적입니다. 이 책의 뒤 장들에서 윤리와 법, 거버넌스를 더 자세히 다루겠지만, 그 출발점은 사실 아주 단순합니다. 기술 이름보다 사용 맥락을 먼저 보는 습관입니다.

현장에서 자주 생기는 오해 5가지

첫 번째 오해는 "생성형 AI = 모든 AI"라는 생각입니다. 실제로는 AI의 아주 한 부분일 뿐입니다. 직업재활에서는 오히려 추천, 예측, 음성인식, OCR, 규칙기반 자동화가 더 실용적인 경우가 많습니다.

두 번째 오해는 "AI가 최신일수록 무조건 좋다"는 믿음입니다. 앞서 본 것처럼 어떤 작업은 단순한 규칙기반 방식이 더 정확하고 안정적일 수 있습니다.⁵

세 번째 오해는 "AI는 객관적이라서 사람보다 공정하다"는 주장입니다. AI는 과거 데이터를 배우기 때문에, 과거가 불공정했다면 그 불공정을 더 세련되게 반복할 수 있습니다.

네 번째 오해는 "예측분석은 낙인을 찍는 기술"이라는 두려움입니다. 그렇게 쓰면 안 되지만, 반대로 조기 지원과 예방적 개입을 위해 사용할 수도 있습니다. 핵심은 사용 목적과 통제 장치입니다.⁷

다섯 번째 오해는 "AI를 쓰려면 코딩을 잘해야 한다"는 생각입니다. 물론 기술 전문가의 도움은 중요합니다. 하지만 실무자가 꼭 코드를 짤 필요는 없습니다. 더 중요한 것은 문제 정의 능력, 데이터 이해, 질문하는 힘, 윤리 감수성입니다.

작은 사례로 이해하는 AI 선택법

가상의 예를 하나 생각해보겠습니다.

한 직업재활기관이 상담사들의 기록 부담을 줄이고 싶어 합니다. 이때 바로 "AI 시스템 도입"부터 말하면 실패할 가능성이 큽니다. 먼저 업무를 쪼개서 봐야 합니다.

상담사가 힘든 이유가 무엇인지 따져보면, 사실은 세 가지일 수 있습니다. 첫째, 상담 직후 기억이 흐려지기 전에 기록해야 하는 부담. 둘째, 기관 서식에 맞게 내용을 다시 정리해야 하는 부담. 셋째, 비슷한 문장을 반복해서 쓰는 피로입니다.

이 문제라면 해법도 하나가 아닙니다.

음성 녹음을 빠르게 문자로 바꾸는 기능은 자연어처리입니다. 기관 양식에 맞춰 항목별 초안을 쓰는 것은 생성형 AI입니다. 반복 문구를 자동 삽입하는 것은 규칙기반 자동화로도 충분합니다. 만약 누가 기록 누락 위험이 높은지 알려주고 싶다면 그때는 예측분석이 들어갈 수 있습니다.

즉 "기록업무를 줄이는 AI"라는 한 문장 안에도 사실은 여러 기술이 섞여 있습니다. 이걸 분해해서 볼 수 있을 때, 기관은 비싸고 거대한 솔루션 하나보다 작고 정확한 도구 조합을 선택할 수 있습니다.

실무자를 위한 한 문장 정리

생성형 AI는 써준다.

머신러닝은 배운다.

자연어처리는 읽고 듣고 정리한다.

컴퓨터 비전은 본다.

예측분석은 가능성을 계산한다.

추천시스템은 다음 선택지를 제안한다.

그리고 직업재활 실무자는 이 모든 기술 위에서 사람의 삶을 놓치지 않도록 방향을 잡는 사람입니다.

마치며

직업재활에서 AI를 잘 활용하려면, 먼저 AI를 무서워하지도 말고 숭배하지도 말아야 합니다. 신기한 말 대신 정확한 질문을, 유행 대신 문제 정의를, 자동화 대신 인간 중심 지원을 앞세워야 합니다.

기술 용어를 이해하는 순간 실무자의 위치는 달라집니다. 더 이상 공급자가 만든 설명을 따라가는 사람이 아니라, 현장 문제를 기준으로 도구를 고르는 사람이 됩니다. 그리고 바로 그때부터 AI는 직업재활의 본질을 흐리는 기술이 아니라, 본질에 더 가까이 가게 돕는 기술이 됩니다.

다음 장에서는 이 기초 위에서 한 걸음 더 나아가, 장애와 일의 관계를 의료모델이 아니라 권리기반 관점에서 다시 바라보며, AI를 어떤 시선으로 도입해야 하는지 살펴보겠습니다.

참고

¹jang-go 블로그 - TILNOTE

²Using AI in Vocational Rehabilitation

³AI in Vocational Rehabilitation—Intelligent Assistance for People with Disabilities

⁴Applications of artificial intelligence in rehabilitation: technological innovation and future directions

⁵Mining Clinical Notes for Physical Rehabilitation Exercise Information: Natural Language Processing Algorithm Development and Validation Study

⁶Artificial intelligence-driven virtual rehabilitation for people living in the community: A scoping review

⁷Predicting Program Outcomes for Vocational Rehabilitation Customers: A Machine Learning Approach