15. 직업재활에서 반드시 다뤄야 할 AI 윤리의 핵심 쟁점

윤리는 마지막 검토표가 아니라 실무의 첫 기준이다

직업재활 현장에서 AI를 도입할 때 가장 흔한 출발점은 효율이다. 기록을 더 빨리 정리하고, 평가를 더 정교하게 만들고, 직무를 더 잘 추천하고, 행정 부담을 줄이겠다는 기대가 먼저 나온다. 그런데 직업재활에서는 이 순서가 자주 위험해진다. 이유는 간단하다. 여기서 다루는 것은 단순한 업무가 아니라 사람의 일할 권리, 자기결정, 존엄, 그리고 사회참여의 기회이기 때문이다.

TILNOTE의 jang-go 블로그가 보여 주는 문제의식은 AI를 그저 편리한 기능이 아니라 산업과 일의 구조를 다시 짜는 기술로 봐야 한다는 데 있다.¹ 직업재활에서는 이 변화가 더 무겁다. 상담 한 번, 평가 한 번, 추천 한 번이 당사자의 훈련 경로와 취업 기회를 바꾸기 때문이다. 그래서 윤리는 부록처럼 뒤에 붙는 것이 아니라, 처음부터 "이 도구를 써도 되는가", "어떻게 써야 하는가", "누가 손해를 볼 수 있는가"를 묻는 중심 기준이 되어야 한다.²⁴

쉽게 말하면, 직업재활에서 AI 윤리는 브레이크가 아니다. 브레이크이기도 하지만 그보다 먼저 핸들이다. 속도를 줄이는 역할만 하는 것이 아니라, 어디로 갈지 방향을 정하는 역할을 한다. 방향이 틀린 채 빨라지면, 잘못된 결론에 더 빨리 도착할 뿐이다.

왜 직업재활의 AI 윤리는 일반적인 AI 윤리보다 더 까다로운가

직업재활은 원래도 섬세한 판단의 연속이다. 장애 특성, 건강 상태, 통근 가능성, 학습 방식, 가족 지원, 경제적 여건, 고용시장 구조, 보조공학 필요, 합리적 편의 가능성까지 모두 함께 봐야 한다. 이런 영역에 AI가 들어오면 문제는 단순한 정확도 경쟁이 아니다. 같은 90% 정확도라도 누구에게 틀리는지, 왜 틀리는지, 틀렸을 때 무엇을 잃는지가 훨씬 중요해진다.³

게다가 직업재활의 데이터는 민감하다. 상담기록에는 장애 정보만 있는 것이 아니라 실패 경험, 불안, 낙담, 가족 갈등, 복지 수급, 건강 악화, 일터에서의 차별 경험 같은 매우 사적인 이야기가 들어간다. 이 정보는 잘 쓰면 맞춤형 지원의 토대가 되지만, 잘못 쓰면 낙인과 감시의 토대가 된다.²⁵

또 하나의 특징은 서비스 대상의 다양성이다. 시각장애, 청각장애, 발달장애, 정신장애, 지체장애, 뇌병변, 신경다양성, 중복장애는 각기 다른 접근성 요구를 만든다. 그래서 어떤 AI가 평균적인 사용자에게는 편리해 보여도, 직업재활 현장에서는 누군가에게 거의 쓸 수 없는 도구일 수 있다. 이 때문에 직업재활의 AI 윤리는 기술의 성능만 보지 않고, 관계, 권리, 접근성, 설명 가능성을 함께 보아야 한다.³⁵

프라이버시: 지원을 이유로 삶 전체를 수집해서는 안 된다

프라이버시는 직업재활 AI 윤리의 출발점이다. 많은 기관이 AI를 도입할 때 "데이터가 많을수록 더 잘 돕는다"고 생각한다. 어느 정도는 맞다. 그러나 직업재활에서는 그 말이 쉽게 과해진다. 필요한 정보와 알고 싶은 정보는 다르기 때문이다.

예를 들어 한 기관이 취업 유지 가능성을 예측하기 위해 상담 메모, 출결, 직무훈련 결과, 건강 변화, 보호자 연락 내용, 통근 거리, 스마트폰 사용 습관까지 한꺼번에 모은다고 해 보자. 모델은 더 많은 상관관계를 찾을 수 있다. 하지만 당사자 입장에서는 지원을 받기 위해 자신의 삶 대부분을 제출해야 하는 상황이 된다. 이때 문제는 단지 불편함이 아니다. 지원과 침해의 경계가 흐려지는 것이 문제다.²⁴

직업재활에서 프라이버시를 지키려면 최소한 세 가지 원칙이 필요하다.

• 목적에 꼭 필요한 정보만 수집해야 한다.

• 원래 목적과 다른 2차 활용은 별도로 판단해야 한다.

• 수집하지 않아도 가능한 지원 방법이 있으면 그 방법을 먼저 검토해야 한다.

특히 생성형 AI를 문서 요약이나 사례정리에 쓸 때는 "이름을 지웠으니 괜찮다"고 쉽게 생각하면 안 된다. 희귀한 장애 특성, 특정 지역, 독특한 직무 이력, 가족 상황이 몇 개만 겹쳐도 다시 누구인지 짐작할 수 있다. 즉, 익명화처럼 보이는 정보도 재식별 위험을 안고 있다.²⁵

좋은 직업재활 실무는 가능한 한 적게 모으면서도 충분히 돕는 방법을 찾는다. 윤리적으로 더 나은 질문은 "무엇을 더 수집할까"가 아니라 "무엇을 수집하지 않아도 될까"이다.

데이터 보안: 좋은 의도로 모은 정보가 가장 위험한 자산이 된다

프라이버시가 "수집과 사용이 정당한가"의 문제라면, 데이터 보안은 "그 정보를 안전하게 지키는가"의 문제다. 이 둘은 다르지만 직업재활에서는 늘 함께 다뤄야 한다.

현장에서는 보안 사고가 거대한 해킹으로만 떠오르기 쉽다. 실제로는 훨씬 평범한 장면에서 문제가 생긴다. 상담사가 개인 노트북에 사례 요약 파일을 내려받아 두거나, 회의용으로 만든 자료가 공용 메신저에 오래 남거나, 외부 AI 서비스에 올린 문서의 저장·학습 정책을 확인하지 않거나, 퇴사자의 접근권한이 즉시 차단되지 않는 식이다. 이런 사소해 보이는 틈은 장애, 병력, 훈련평가, 취업 실패 경험 같은 민감정보를 한순간에 위험한 자산으로 바꾼다.⁴⁵

직업재활 기관이 보안을 말할 때는 기술적 조치만으로 부족하다. 접근권한 관리, 로그 기록, 보관 기간 설정, 외부 벤더 계약 검토, 유출 시 통지 절차, 직원 교육이 함께 가야 한다. 특히 사례관리 시스템, 화상상담 도구, 음성기록 앱, 직무매칭 솔루션이 서로 다른 업체에서 제공될 때는 데이터가 어디에서 어디로 흐르는지부터 분명히 알아야 한다. 데이터 흐름을 모른 채 AI를 쓰는 것은 지도를 보지 않고 야간 운전하는 것과 비슷하다.

직업재활은 사람을 돕는 분야다. 그러나 AI 시대에는 이렇게 덧붙여야 한다. 사람을 돕기 위해 모은 정보가 그 사람을 다시 다치게 하지 않도록 지키는 것도 지원의 일부다.

동의: 서명보다 이해가 먼저다

많은 기관에서 동의는 종이 한 장으로 끝난다. 그러나 직업재활에서 AI 활용 동의는 그렇게 단순할 수 없다. 이용자는 서비스가 절실한 상황일 수 있고, 기관은 정보와 자원에서 훨씬 우위에 있다. 이런 관계에서는 형식적 동의가 아주 쉽게 만들어진다. "여기 서명하시면 진행됩니다"라는 문장은 행정적으로는 깔끔하지만, 윤리적으로는 빈약할 수 있다.⁴

의미 있는 동의는 적어도 다음 질문에 답해야 한다. AI가 어디에 쓰이는지, 어떤 데이터가 들어가는지, 결과가 누가 보는 기록으로 남는지, 동의하지 않을 경우 대체 서비스가 있는지, 나중에 철회할 수 있는지, 철회하면 불이익이 있는지 설명되어야 한다.²⁴

예를 들어 모의면접 영상을 AI가 분석해 말하기 속도와 답변 구조를 피드백해 준다고 하자. 이때 단지 "훈련 고도화를 위해 AI를 사용합니다"라고만 적어 놓으면 부족하다. 당사자는 영상이 저장되는지, 표정이나 시선 분석이 포함되는지, 결과가 취업 추천 자료로 재사용되는지, 영상 대신 텍스트나 대면 연습 같은 대안이 있는지 알 수 있어야 한다.

직업재활에서는 동의의 형식도 중요하다. 쉬운 문장, 큰 글씨, 자막, 음성 안내, 수어, AAC 친화적 설명, 질문 시간을 보장하는 절차가 필요하다. 이해할 수 없는 설명 뒤에 받는 서명은 동의라기보다 순응에 가깝다. 직업재활에서 존중받는 이용자는 서명하는 사람이 아니라 이해하고 선택하는 사람이어야 한다.

설명가능성: 결과보다 이유를 이해할 수 있어야 한다

직업재활 실무는 원래 설명의 일이다. 왜 이 직무가 적합한지, 왜 이 훈련이 필요한지, 왜 추가 평가를 권하는지 설명해야 당사자도 납득하고 움직일 수 있다. 그런데 AI가 개입하면 종종 이런 설명이 약해진다. 화면에는 점수와 순위와 추천 결과가 멋지게 뜨지만, 정작 "왜 그런가"에는 답하지 못하는 경우가 많다.

설명가능성은 바로 이 지점을 묻는다. 이 시스템의 판단을 사람이 이해할 수 있는 언어로 풀어낼 수 있는가? 직업재활에서는 이 질문이 매우 중요하다. 왜냐하면 설명되지 않은 추천은 곧 압력이 되기 쉽기 때문이다.

예를 들어 AI가 어떤 이용자에게 "사무보조 직무 적합도 낮음"이라고 표시했다고 하자. 여기서 실무자는 적어도 다음을 말할 수 있어야 한다. 어떤 항목이 영향을 주었는지, 그것이 실제 직무수행과 얼마나 관련 있는지, 보조공학이나 편의 제공을 반영하면 결과가 달라질 수 있는지, 데이터 누락이나 형식 차이 때문에 불리해진 것은 아닌지 말이다. 이런 설명 없이 숫자만 제시하면, 당사자는 자신의 가능성을 검토받는 것이 아니라 기계에 의해 규정받는 느낌을 받게 된다.²⁶

의료와 재활 영역의 설명가능 AI 연구에서도 비슷한 점이 지적된다. SHAP, LIME, Grad-CAM 같은 설명기법은 널리 쓰이지만, 설명이 있다고 해서 자동으로 신뢰할 수 있는 것은 아니다. 설명의 일관성, 안정성, 실제 판단과의 충실성, 외부 검증이 함께 필요하다.⁶ 직업재활에서도 마찬가지다. 보기 좋은 설명 화면보다 더 중요한 것은 그 설명이 실무 판단과 권리 보장에 실제로 도움이 되는가이다.

투명성: AI를 쓰고 있다는 사실부터 보여 주어야 한다

설명가능성이 결과의 이유를 묻는다면, 투명성은 그 이전 단계의 질문이다. 애초에 무엇이 AI의 도움을 받았고, 무엇이 AI의 평가를 받았는지 드러나 있는가를 묻는다.⁷

직업재활 현장에서 투명성이 부족한 장면은 생각보다 흔하다. 상담 메모 초안이 AI로 생성되었는지, 직무 추천 목록이 알고리즘을 거친 것인지, 사례 우선순위가 예측모델에 영향을 받은 것인지, 훈련 피드백 문장이 자동 생성된 것인지 이용자가 모르는 경우가 많다. 이때 당사자는 사람과 이야기한다고 생각하지만, 실제로는 이미 시스템이 정리한 현실과 만나고 있을 수 있다.

투명성이 중요한 이유는 간단하다. 그래야 질문이 가능해지기 때문이다. 당사자는 "이 추천은 누가 만든 건가요?", "제가 동의한 범위 안에서만 쓰였나요?", "이 결과에 대해 다른 방식으로 다시 볼 수 있나요?"라고 물을 수 있어야 한다. 투명성이 없는 시스템에서는 이런 질문 자체가 성립하지 않는다.

더구나 투명성은 이용자만을 위한 원칙이 아니다. 실무자에게도 중요하다. "AI가 그렇게 나왔어요"라는 말은 아주 쉽게 책임 회피의 문장이 된다. 투명한 기관은 오히려 이렇게 말한다. "이 결과는 AI가 보조적으로 제시한 것이고, 최종 판단은 사람이 맥락과 권리를 고려해 다시 검토합니다." 이 한 문장이 조직의 윤리 수준을 많이 보여 준다.²⁴

책임성: 결국 누가 설명하고, 누가 바로잡고, 누가 책임지는가

AI 윤리에서 가장 자주 흐려지는 단어가 책임성이다. 개발사는 도구만 만들었다고 하고, 기관은 벤더 제품을 썼을 뿐이라고 하고, 실무자는 시스템 결과를 참고했을 뿐이라고 말하면, 피해는 분명한데 책임지는 사람은 사라진다.

책임성은 단순히 "잘못하면 벌을 받는다"는 뜻이 아니다. 더 정확히는 질문받을 수 있고, 설명할 수 있고, 수정할 수 있는 구조가 존재하는가를 뜻한다.⁷ 직업재활에서 AI를 도입했다면, 그 결과에 대해 답할 사람과 절차가 반드시 있어야 한다.

예를 들어 취업 유지 위험 예측 모델이 특정 집단을 반복적으로 고위험군으로 분류한다고 하자. 그 결과 추가 지원을 받는 것이 아니라 오히려 "취업 성과 낮을 가능성"으로 읽혀 훈련 기회가 줄어든다면, 누가 책임질까. 이때 문제는 단일 실수보다 구조에 있다. 데이터를 선정한 조직, 성능 검증을 소홀히 한 관리자, 결과를 절대화한 실무자, 이의제기 창구를 만들지 않은 기관 운영이 모두 연결된다.²⁵⁷

책임성 있는 기관은 적어도 다음을 갖춘다.

• AI 사용 목적과 책임 주체를 문서로 명확히 한다.

• 최종 판단에 실질적인 인간 검토 단계를 둔다.

• 오류 신고와 이의제기 절차를 운영한다.

• 정기적인 성능 점검과 윤리 감사를 실시한다.

• 피해 발생 시 정정과 구제의 경로를 마련한다.

중요한 것은 사람이 마지막 버튼을 눌렀다는 사실만으로 책임성이 생기지 않는다는 점이다. 아무 비판 없이 AI 결과를 승인하는 사람은 감독자가 아니라 전달자에 가깝다. 직업재활에는 형식적인 인간 개입이 아니라 의미 있는 인간 책임이 필요하다.

접근성: 접근할 수 없는 AI는 애초에 공정할 수 없다

직업재활에서 접근성은 부가 기능이 아니다. 접근할 수 없는 도구는 아무리 정교해도 윤리적이라고 부를 수 없다. 왜냐하면 쓸 수 없는 서비스는 공정한 서비스가 아니기 때문이다.³⁵

예를 들어 직무탐색 챗봇이 스크린리더와 호환되지 않으면 시각장애인에게는 존재하지 않는 서비스다. 화상면접 연습 도구에 자막 정확도가 낮거나 수어 통역 연결이 어렵다면 청각장애인에게는 불리한 훈련 환경이 된다. 화면 전환이 빠르고 시각 자극이 많은 대시보드는 자폐인이나 ADHD 당사자, 뇌손상 경험자에게 큰 부담이 될 수 있다. 긴 문단과 어려운 행정용어는 발달장애인과 문해 취약 이용자를 조용히 밀어낸다.

이 때문에 접근성은 기술 개발이 끝난 뒤 점검하는 항목이 아니라 처음부터 설계 기준이어야 한다. 키보드만으로 조작 가능한지, 음성과 텍스트의 상호 전환이 되는지, 자막과 대체텍스트가 제공되는지, 단순한 언어 버전이 있는지, 보조공학과 충돌하지 않는지, 실제 장애인 사용자가 테스트에 참여했는지 확인해야 한다.³⁵

경제적 접근성도 중요하다. AI 도구가 고가의 유료 구독을 전제한다면, 고정소득 이용자에게는 현실적으로 닿지 않는 서비스가 된다. 직업재활에서 기술이 도움이 되려면 성능만 좋아서는 안 된다. 실제로 접근 가능하고, 지속적으로 사용할 수 있어야 한다.

편향: 숫자의 오류이면서 동시에 관계의 오류다

편향은 흔히 데이터 문제로 설명된다. 물론 맞다. 훈련 데이터에 특정 장애유형이나 지역, 연령, 성별이 충분히 반영되지 않으면 결과가 왜곡될 수 있다. 하지만 직업재활에서 편향은 숫자만의 문제가 아니다. 사람을 이해하는 방식의 오류이기도 하다.

예를 들어 상담 기록을 요약하는 AI가 반복적으로 "의욕 부족", "적응 어려움", "지속 가능성 낮음" 같은 표현을 만들어 낸다고 해 보자. 이 문장은 중립적으로 보일 수 있다. 하지만 실제 맥락은 다를 수 있다. 교통 접근이 어려워 지각이 잦았던 사람, 감각 과부하 때문에 특정 환경을 피한 사람, 반복된 차별 경험으로 구직 자신감이 낮아진 사람이 모두 개인의 결함처럼 보이게 된다. 이때 편향은 알고리즘 안에도 있고, 그 결과를 그대로 받아들이는 조직문화 안에도 있다.

또 다른 편향은 대리변수에서 나온다. 장애 여부를 직접 입력하지 않아도 공백 경력, 병원 방문 패턴, 보조공학 사용, 특정 단어 선택, 응답 속도 같은 요소가 장애를 우회적으로 드러내는 신호가 될 수 있다. 시스템은 이를 예측력 높은 변수라고 여길지 몰라도, 당사자에게는 디지털 차별의 다른 이름이 될 수 있다.²⁵

그래서 직업재활에서 편향 점검은 평균 정확도만 보면 안 된다. 장애유형, 성별, 지역, 연령, 디지털 접근 수준, 보조공학 사용 여부에 따라 결과를 따로 보고, 누가 반복적으로 오분류되는지, 누가 설명받기 어려운 결과를 받는지, 누가 낮은 추천을 더 자주 받는지 확인해야 한다. 공정성은 전체 평균이 아니라 누가 자꾸 손해 보는지를 보는 데서 시작한다.

낙인: AI의 라벨은 오래 남고 조용히 굳어진다

직업재활에서 낙인은 언제나 경계해야 할 문제였다. 그런데 AI는 낙인을 더 쉽게, 더 조용하게, 더 오래 남게 만들 수 있다. 사람이 회의에서 한 번 "이 분은 좀 어렵다"고 말하면 시간이 지나 흐려질 수도 있다. 하지만 시스템이 "고위험", "낮은 준비도", "우선순위 낮음", "집중도 불안정" 같은 라벨을 붙이면 그 말은 데이터로 저장되고 반복 사용되기 쉽다.

문제는 라벨이 붙는 순간 사람이 사람을 직접 보기보다 라벨을 통해 보게 된다는 점이다. 실제로는 적절한 환경과 편의만 있으면 안정적으로 일할 수 있는 이용자가 초기 예측모델에서 낮은 점수를 받았다는 이유로 훈련 기회, 실습 기회, 취업 연계 기회를 덜 받는 일이 생길 수 있다. 이때 AI는 미래를 예측한 것이 아니라, 과거의 제한을 미래에 다시 붙여 놓는다.

장애인은 이미 오랫동안 진단명, 판정, 제한, 중증도, 기능 수준 같은 언어로 분류되어 왔다. 직업재활 AI가 여기에 새로운 점수와 라벨을 더할 때는 훨씬 더 조심해야 한다. 지원을 위한 분류가 사람 자체의 정체성을 가두는 낙인으로 바뀌지 않도록, 기록의 언어와 활용 범위를 엄격하게 관리해야 한다.²³

감시: 지원과 관찰의 경계가 무너질 때

직업재활 현장에는 원래도 관찰이 있다. 출석을 보고, 과제를 보고, 직무 적응을 보고, 고용주 피드백을 듣는다. 문제는 AI가 들어오면 이 관찰이 아주 쉽게 감시로 변할 수 있다는 점이다.

예를 들어 훈련 중 웹캠 영상을 통해 집중도를 측정하거나, 재택근무 초기 적응 지원이라는 이름으로 키보드 입력량과 마우스 움직임을 추적하거나, 취업 후 안정 지원이라는 이유로 위치 정보와 활동 로그를 장기간 수집하는 경우를 생각해 보자. 시작은 모두 좋은 뜻처럼 보일 수 있다. 그러나 당사자의 입장에서는 "돕기 위해 지켜본다"가 어느 순간 "의심하기 때문에 감시한다"로 느껴질 수 있다.

감시가 특히 위험한 이유는 장애 특성과 쉽게 충돌하기 때문이다. 손 기능 제한이 있는 사람은 입력 속도가 느릴 수 있고, 스크린리더 사용자는 작업 시간이 길어질 수 있으며, ADHD 당사자는 창 전환이 많을 수 있고, 자폐 당사자는 감각 조절을 위해 짧은 휴식이 자주 필요할 수 있다. 이런 차이는 직무 부적합의 증거가 아니라 다른 방식의 일하기일 수 있다. 그런데 감시 중심 AI는 이를 비효율, 이상행동, 집중 저하로 읽을 위험이 있다.

직업재활에서 필요한 것은 많이 보는 기술이 아니라, 적절하게 돕는 기술이다. 감시가 지원을 압도하는 순간, AI는 재활의 도구가 아니라 통제의 도구가 된다.

인간 존엄: 결국 사람을 무엇으로 대하는가의 문제다

프라이버시, 보안, 동의, 설명가능성, 투명성, 책임성, 접근성, 편향, 낙인, 감시를 하나로 묶는 더 큰 질문이 있다. 이 시스템은 사람을 한 명의 주체로 대하는가, 아니면 관리 대상 데이터로 대하는가? 이것이 인간 존엄의 문제다.

직업재활에서 존엄은 추상적인 말이 아니다. 당사자가 자신의 목표를 말할 수 있고, 추천 결과에 질문할 수 있고, 동의하지 않을 수 있고, 다른 방식을 요구할 수 있고, 실패 기록으로만 정의되지 않을 권리를 갖는다는 뜻이다. AI가 아무리 똑똑해도 사람의 삶을 대신 살아 주지는 못한다. 그래서 직업재활에서 좋은 AI는 결정을 대신하는 기계가 아니라 대화를 더 잘 가능하게 만드는 도구여야 한다.²⁴

존엄을 해치는 AI는 대개 비슷한 특징을 보인다. 맥락을 지우고, 점수로 환원하고, 이의를 어렵게 만들고, 사람의 설명보다 기록을 더 믿는다. 반대로 존엄을 지키는 AI는 사람의 선택권을 남겨 두고, 결과를 검토 가능하게 만들며, 편의와 다양성을 오류가 아니라 전제로 다룬다.

직업재활은 원래 사람의 가능성을 다시 보는 일이다. AI가 그 가능성을 넓히지 못하고 오히려 평균에 맞지 않는 삶을 잘라 내기 시작한다면, 그 순간 그 기술은 아무리 편리해도 직업재활의 철학과 멀어진다.

실무에서 윤리를 중심 기준으로 삼으려면 무엇이 달라져야 하는가

윤리를 실무의 중심에 둔다는 말은 선언으로 끝나면 안 된다. 실제 현장에서는 다음과 같은 변화가 필요하다.

첫째, 도입 전에 묻는 질문이 달라져야 한다. "무엇이 가능한가"보다 "무엇이 정당한가"를 먼저 물어야 한다. 기술 시연이 화려하다고 바로 도입하지 말고, 데이터 흐름, 설명 가능성, 접근성, 장애인 사용자 테스트, 이의제기 절차를 먼저 확인해야 한다.

둘째, AI를 만능 조언자로 두지 말아야 한다. 직업재활의 핵심은 여전히 관계와 맥락이다. AI는 첫 초안, 참고 자료, 탐색 도구로는 유용할 수 있지만, 사람의 목표와 가치가 걸린 최종 결정은 인간 검토와 대화 속에서 이뤄져야 한다.⁴

셋째, 이용자를 단순한 서비스 수혜자가 아니라 공동 설계자로 보아야 한다. 당사자의 경험은 오류를 가장 빨리 발견하는 센서다. 실제 장애인 사용자가 테스트와 평가 과정에 들어와야 접근성 문제, 낙인 언어, 과도한 감시를 더 빨리 찾아낼 수 있다.³⁵

넷째, 기관 내부의 윤리 역량을 키워야 한다. 상담사가 AI의 한계를 모르고 쓰면, 기술은 쉽게 권위처럼 작동한다. 직업재활 실무자에게 필요한 것은 코딩 능력보다도 데이터 감수성, 설명 능력, 윤리적 질문을 던지는 습관이다.⁴

이 장의 핵심 정리

직업재활에서 AI 윤리는 부가적인 검토 항목이 아니다. 프라이버시와 데이터 보안은 지원을 이유로 과도한 수집과 유출 위험을 막기 위한 기본선이고, 동의는 형식적 서명이 아니라 이해 가능한 선택이어야 한다. 설명가능성과 투명성은 AI가 왜 그런 판단을 내렸는지, 애초에 어디에 쓰이고 있는지 드러내는 기준이며, 책임성은 문제가 생겼을 때 질문하고 수정하고 구제할 수 있는 구조를 뜻한다.²⁴⁷

여기에 접근성은 쓸 수 없는 사람을 만들지 않기 위한 전제이고, 편향은 특정 집단이 반복적으로 손해 보지 않는지 살피는 실질적 점검 항목이다. 낙인과 감시는 AI가 사람을 지원 대상이 아니라 관리 대상으로 바꾸지 않도록 경계하게 만들며, 인간 존엄은 이 모든 기준을 하나로 묶는 가장 큰 원칙이다.³⁵

결국 직업재활에서 윤리를 실무의 중심에 두어야 하는 이유는 단순하다. 이 분야에서 AI는 시간을 아껴 주는 도구를 넘어, 사람의 기회를 분류하고 경로를 제안하고 때로는 미래를 예측하는 위치에 서기 때문이다. 그런 기술을 다루면서 윤리를 뒤로 미루는 것은, 지도를 보지 않고 사람의 삶을 안내하는 것과 같다. 직업재활의 AI는 똑똑한가보다 먼저 정당한가, 설명 가능한가, 접근 가능한가, 사람을 존중하는가를 물어야 한다.

참고

¹jang-go 블로그 - TILNOTE

²Ethical AI in Vocational Rehabilitation

³AI in Vocational Rehabilitation—Intelligent Assistance for People with Disabilities

⁴Ethics and Artificial Intelligence (AI) - GW Center for Rehabilitation Counseling Research & Education

⁵GitHub - williambelz/Ethical-AI-and-Vocational-Rehabilitation

⁶Explainable AI in healthcare: a systematic review of XAI use cases in imaging, diagnostics, and rehabilitation

⁷Accountability in artificial intelligence: what it is and how it works