17. 법·정책·인권 프레임: 기관과 기업이 지켜야 할 기준

법은 브레이크가 아니라 방향키다

직업재활 현장에서 AI를 이야기하면 사람들은 종종 이렇게 묻는다. "이 기술이 쓸 만한가요?" 그런데 현장에서 더 먼저 물어야 할 질문은 따로 있다. "이 기술을 이렇게 써도 되는가?" 그리고 그 다음이 "누가 책임지는가?"다.

이 질문이 중요한 이유는 간단하다. 직업재활은 단순한 서비스가 아니라, 장애인의 노동권·참여권·자기결정권을 현실에서 구현하는 제도이기 때문이다. 그래서 직업재활에서 AI는 편리한 도구로 끝나지 않는다. 누군가의 훈련 기회를 넓힐 수도 있고, 반대로 지원 자격을 좁히거나 취업 가능성을 과소평가할 수도 있다. 법과 정책과 인권 프레임이 필요한 이유가 여기에 있다. 기술을 막기 위해서가 아니라, 기술이 사람 위에 올라타지 못하게 하기 위해서다.

이 장의 핵심은 한 문장으로 정리할 수 있다. 직업재활에서 AI 활용의 기준은 "가능하냐"가 아니라 "권리를 해치지 않으면서 정당하게 운영되느냐"다.

인권의 바닥선: 장애인권리협약은 무엇을 요구하는가

직업재활의 가장 바닥에 놓여야 하는 기준은 유엔 장애인권리협약이다. 이 협약은 장애를 개인의 결함으로만 보지 않고, 손상과 환경적 장벽의 상호작용 속에서 이해한다. 동시에 존엄, 자율성, 비차별, 사회참여, 기회평등, 접근성을 핵심 원칙으로 제시한다.¹ 이 말은 직업재활 AI에도 그대로 적용된다. 장애인이 AI를 "사용할 수 있는가"만이 아니라, 그 AI가 장애인의 선택과 기회를 동등하게 보장하는가가 기준이 되어야 한다는 뜻이다.

특히 협약 제27조는 장애인의 노동권을 분명히 말한다. 국가는 장애를 이유로 모집, 채용, 고용유지, 승진, 안전한 근로조건에서 차별을 금지해야 하고, 일반적인 기술·직업지도와 직업훈련, 취업지원, 고용유지와 복귀 프로그램에 실효성 있게 접근할 수 있도록 해야 하며, 직장에서 합리적 편의가 제공되도록 해야 한다.² 직업재활 실무의 언어로 바꾸면 이렇다. 평가, 훈련, 매칭, 취업지원, 사후관리 어느 단계에서도 AI가 사람을 배제하는 방향으로 작동해서는 안 된다.

여기서 아주 중요한 문장이 하나 더 있다. 협약은 합리적 편의 제공 거부 자체를 차별의 한 형태로 본다.¹ 다시 말해 기관이나 기업이 "우리는 AI를 똑같이 적용했을 뿐"이라고 말해도, 그 결과가 장애인의 실질적 참여를 막고 필요한 조정을 하지 않았다면 그것은 중립이 아니라 차별일 수 있다. 겉으로 공평해 보이는 자동화가 실제로는 가장 불공평할 수 있다는 뜻이다.

직업재활 맥락에서 인권 프레임이 특히 중요한 이유

일반적인 고용 서비스와 달리 직업재활은 더 깊은 정보를 다룬다. 장애 특성, 건강 상태, 기능평가 결과, 보조공학 사용, 이동 제약, 피로도, 가족지원, 복지 수급, 과거 실패 경험까지 한 사람의 일과 삶이 촘촘히 들어온다. 이 정보는 맞춤형 지원에는 필요하지만, 잘못 쓰이면 낙인과 차별의 재료가 되기도 한다.

그래서 직업재활에서 인권 프레임은 예쁜 선언이 아니라 운영 원칙이다. 사람을 분류하기 전에 설명해야 하고, 추천하기 전에 접근성을 확인해야 하며, 자동화하기 전에 이 결정이 권리에 미치는 영향을 따져야 한다. 특히 장애인의 경험은 평균에서 자주 벗어난다. AI가 평균을 잘 맞춘다고 해서 장애인을 잘 지원한다는 뜻은 아니다. 오히려 평균 중심 모델은 장애인의 다양한 방식의 일하기, 배우기, 의사소통하기를 자꾸 "예외"로 밀어낼 수 있다.

직업재활에서 인권 프레임이 강해야 하는 이유는 결국 분명하다. 여기서 다루는 것은 데이터가 아니라 사람의 기회이기 때문이다.

한국 법체계에서 직업재활 AI를 바라보는 기본 시선

한국 현장에서는 아직 "직업재활 AI만을 위한 단일법"이 있는 것은 아니다. 하지만 그렇다고 법적 공백이라고 볼 수는 없다. 오히려 기존의 장애인 관련 법, 고용 관련 법, 개인정보 보호 법제가 이미 강한 기준을 제공하고 있다. AI라고 해서 예외가 되는 것이 아니라, AI이기 때문에 더 엄격하게 읽어야 하는 영역에 가깝다.

대표적으로 한국의 「장애인고용촉진 및 직업재활법」은 장애인이 능력에 맞는 직업생활을 통해 인간다운 삶을 누릴 수 있도록 고용촉진과 직업재활 체계를 마련하는 것을 목적으로 둔다.⁴ 이 법의 관점에서 보면 직업재활기관의 AI 활용은 단순한 업무 효율화가 아니다. 장애인의 직업지도, 직업적응훈련, 고용유지, 직업생활 지원이라는 공적 목적을 수행하는 수단이다. 그러므로 기관이 사용하는 AI는 "편하니까 쓰는 것"이 아니라, 법의 목적에 맞게 사람의 직업생활을 실질적으로 돕는 방식으로 써야 하는 도구다.⁴

여기에 「장애인차별금지 및 권리구제 등에 관한 법률」이 더해진다. 이 법은 장애를 이유로 한 차별을 금지하고, 정당한 편의 제공을 통해 장애인이 비장애인과 동등하게 활동에 참여할 수 있도록 요구한다. 법은 합리적 편의를 장애인의 동등한 참여를 위해 필요한 인적·물적 제반 조정과 조치로 본다.³ 이 기준을 AI에 적용하면 아주 분명해진다. 접근이 어려운 인터페이스, 자막 없는 면접 연습 시스템, 스크린리더와 충돌하는 훈련 플랫폼, 발달장애 사용자에게 지나치게 복잡한 대화형 시스템은 단지 "불편한 서비스"가 아니라 정당한 편의와 접근성 의무를 제대로 이행하지 못한 구조가 될 수 있다.

즉 한국에서 직업재활 AI의 합법성은 "AI를 썼는가"가 아니라, 그 AI가 고용촉진·직업재활의 목적과 차별금지·편의제공 의무를 함께 충족하는가로 판단해야 한다.

차별금지와 고용평등: AI가 중립처럼 보여도 결과는 중립이 아닐 수 있다

고용평등의 관점에서 가장 위험한 말은 "AI는 사람보다 객관적이다"라는 말이다. AI는 감정이 적을 수는 있어도, 편견이 없다고 보장되지는 않는다. 오히려 과거 데이터를 바탕으로 학습한 시스템은 과거의 차별을 더 부드럽고 더 빠르게 반복할 수 있다. 국제노동기구도 AI가 장애인의 고용에 기회를 줄 수 있지만, 동시에 배제와 차별의 위험을 낳을 수 있다고 경고한다.⁷

직업재활에서는 이 문제가 더 복잡하다. 예를 들어 기관이 구직자의 취업 가능성을 예측하는 모델을 쓴다고 해 보자. 모델이 과거 취업 성공 사례를 바탕으로 높은 점수의 사람만 추천하면, 지원 강도가 많이 필요한 사람들은 계속 뒤로 밀릴 수 있다. 결과적으로 AI는 "지원이 필요한 사람을 더 잘 돕는 도구"가 아니라 "이미 취업 가능성이 높은 사람에게 자원을 몰아주는 필터"가 될 수 있다. 이것은 효율의 문제가 아니라 평등권의 문제다.

채용과 배치 단계에서의 위험도 마찬가지다. 이력서 자동 필터링, 면접 분석, 직무 적합도 점수화, 근태 예측, 감정 분석, 생산성 모니터링은 모두 장애와 직결될 수 있다. 말의 속도, 눈맞춤, 표정, 입력 속도, 휴식 패턴, 센서 데이터 같은 것이 비장애인 기준으로 해석되면, 장애인의 특성이 '낮은 역량'이나 '위험 신호'로 잘못 읽히기 쉽다.⁷⁸

이때 차별은 꼭 노골적으로 발생하지 않는다. 오히려 다음과 같은 방식으로 조용히 생긴다.

• 장애인 구직자에게 도달하는 채용 광고가 자동으로 줄어드는 경우

• 이력서 공백이나 직무 전환 이력이 부정적으로 과대 해석되는 경우

• 보조공학 사용 흔적이 생산성 저하 신호처럼 읽히는 경우

• 치료 일정이나 잦은 병원 방문이 결근 위험으로 분류되는 경우

• 직무수행에 필요한 편의 제공 가능성을 고려하지 않은 채 낮은 적합도 점수가 부여되는 경우

겉으로는 모두 데이터 처리다. 하지만 실제로는 모두 고용기회의 분배다. 그래서 기관과 기업은 AI를 평가도구가 아니라 권리영향 도구로 봐야 한다.

합리적 편의: "같이 쓰게 하는 것"과 "제대로 쓸 수 있게 하는 것"은 다르다

합리적 편의는 직업재활 AI에서 가장 자주 오해받는 개념이다. 어떤 기관은 프로그램을 모두에게 열어 두면 공평하다고 생각한다. 하지만 모두에게 같은 문을 열어 두는 것과, 각자가 실제로 그 문을 통과할 수 있게 만드는 것은 전혀 다른 일이다.

유엔 장애인권리협약은 합리적 편의를 필요한 개별적 조정으로 정의하고, 그 제공 거부를 차별로 본다.¹ 한국의 장애인차별금지법 역시 장애인의 동등한 참여를 위해 필요한 인적·물적 조치를 요구한다.³ 이 기준을 직업재활 실무에 대입하면, 합리적 편의는 단순히 보조기기를 붙여 주는 문제가 아니다. AI 시스템 전체의 사용 방식과 절차를 조정하는 일이다.

예를 들어보자. AI 면접 연습 시스템이 있다. 청각장애 참여자에게는 정확한 자막과 수어 통역 연계가 중요할 수 있고, 시각장애 참여자에게는 화면 읽기 구조와 음성 피드백의 품질이 중요할 수 있다. 발달장애 참여자에게는 질문을 쉬운 문장으로 바꾸고 단계별로 제시하는 기능이 더 중요할 수 있다. 정신장애나 자폐 스펙트럼 참여자에게는 과한 시간 압박, 번쩍이는 시각 자극, 모호한 피드백이 큰 장벽이 될 수 있다. 이럴 때 기관이 "모든 사람에게 동일한 버전을 제공했다"고 말하는 것은 편의 제공이 아니라 사실상 방치일 수 있다.

중요한 점은, AI가 합리적 편의를 대체하는 것이 아니라 강화해야 한다는 것이다. 예를 들어 자동 자막, 음성-문자 변환, 쉬운 글 요약, 예측 텍스트, 시각 설명, 일정 리마인더는 훌륭한 도구가 될 수 있다. 그러나 그것만으로 충분하다고 보면 안 된다. 필요하면 사람 통역, 추가 시간, 과제 방식 변경, 평가 기준 조정, 대면 지원, 보조공학 연동까지 함께 가야 한다. 합리적 편의는 기능 목록이 아니라 개별화된 참여 보장이다.

개인정보 보호: 직업재활 데이터는 민감하고, AI는 자꾸 더 많이 알고 싶어 한다

직업재활에서 개인정보 보호는 부수적 주제가 아니다. 거의 모든 AI 활용이 결국 데이터 문제로 돌아오기 때문이다. 한국 개인정보 보호법은 개인정보 처리 목적을 명확히 하고, 적법하고 정당하게 수집하며, 목적에 필요한 최소 범위로 제한할 것을 기본 원칙으로 둔다.⁵ 이 세 가지 원칙만 제대로 적용해도 현장에서 걸러낼 수 있는 위험이 아주 많다.

첫째, 목적 명확성이다. 상담 요약을 위한 입력인지, 직무추천을 위한 입력인지, 성과 예측을 위한 입력인지가 분명해야 한다. 목적이 흐리면 데이터가 자꾸 과잉 수집된다.

둘째, 최소 수집이다. 직무 추천에 꼭 필요하지 않은 상세 병력, 가족 갈등 서술, 복지수급 사유, 상담자의 주관적 메모 전체를 생성형 AI에 넣는 것은 대개 과하다. 특히 외부 서비스형 AI에 자유서술 메모를 통째로 넣는 방식은 매우 위험하다.

셋째, 적법하고 정당한 처리다. 동의서를 받았다고 해서 모든 처리가 정당해지는 것은 아니다. 직업재활처럼 정보 비대칭이 큰 관계에서는 이용자가 내용을 충분히 이해하지 못한 채 동의할 가능성도 있다. 그래서 법적 준수는 "체크박스 하나"가 아니라, 데이터 흐름 자체를 설계하는 일이어야 한다.

여기서 한 단계 더 생각해야 할 것이 있다. 장애 정보는 직접 입력하지 않아도 추론될 수 있다는 점이다. OECD 논의에서도 장애인이 원하지 않는데도 AI가 장애 상태를 간접적으로 드러낼 수 있다는 우려가 제기되었다.⁸ 예를 들어 음성 패턴, 타이핑 속도, 스크린리더 사용 흔적, 이동 데이터, 자막 사용 빈도, 휴식 주기, 웨어러블 센서 기록은 장애 관련 특성을 암시할 수 있다. 즉 "우리는 장애 정보를 따로 받지 않았습니다"라는 말만으로는 충분하지 않다. 모델이 장애를 추정할 수 있는 구조인지까지 봐야 한다.

개인정보 보호에서 특히 주의해야 할 세 가지 경계선

직업재활 기관과 기업이 함께 일할 때는 정보가 섞이기 쉽다. 이때 가장 먼저 세워야 할 것은 데이터의 경계선이다.

첫 번째 경계선은 기관 내부 데이터와 외부 AI 서비스 사이다. 민감한 상담기록, 평가기록, 기능정보를 외부 클라우드 AI에 그대로 입력하는 것은 기본적으로 매우 신중해야 한다. 비식별화, 내부망 운영, 계약상 재학습 금지, 접근권한 통제 같은 장치가 없으면 안 된다.⁵

두 번째 경계선은 직업재활기관과 고용기업 사이다. 고용연계를 위해서라도 모든 정보가 기업으로 넘어가서는 안 된다. 기업이 알아야 하는 것은 대개 직무수행에 필요한 정보와 필요한 편의 제공 사항이지, 기관이 가진 전체 사례기록이 아니다. 기관은 지원을 위해 가진 정보를 채용판단 자료로 흘려보내지 않도록 강한 기준을 가져야 한다.

세 번째 경계선은 현재 목적과 미래 재사용 사이다. 상담 메모를 오늘은 요약에 쓰고, 내일은 성과예측에 쓰고, 모레는 위험등급 산정에 쓰는 식의 기능 확장은 매우 위험하다. 처음 수집한 목적을 넘어설수록 법적·윤리적 정당성은 약해진다.

쉽게 말해, 직업재활에서 데이터는 물과 비슷하다. 한 번 새기 시작하면 예상보다 멀리 흘러간다. 그래서 처음부터 수로를 잘 설계해야 한다.

접근성은 좋은 기능이 아니라 법적·인권적 기준이다

많은 조직이 AI의 성능은 열심히 본다. 그런데 접근성은 출시 후 옵션처럼 다루는 경우가 많다. 이것은 순서가 거꾸로다. 직업재활에서 접근성은 "있으면 좋은 기능"이 아니라, 동등한 참여를 위한 기본 조건이다.¹³

기관이 도입한 AI 시스템이 스크린리더로 읽히지 않거나, 키보드만으로 조작되지 않거나, 자막 품질이 낮거나, 쉬운 언어 지원이 없거나, AAC 사용자에게 지나치게 불편하다면 그 시스템은 직업재활 도구로서 이미 큰 결함을 가진다. 특히 훈련이나 평가에 사용되는 AI는 접근성 실패가 곧 성과평가 왜곡으로 이어질 수 있다. 능력이 없는 것이 아니라, 도구가 접근 불가능해서 결과가 나빠지는 것이다.

Springer의 직업재활 AI 연구도 AI 지원 보조기술이 효과를 가지려면 수요지향적·참여적 방식으로 개발되고, 실제 접근이 보장되며, 사용 역량과 지속적 지원이 함께 제공되어야 한다고 강조한다.⁹ 현장에서 이 말은 아주 현실적이다. 좋은 도구를 들여놓는 것보다 더 중요한 것은, 누가 실제로 끝까지 쓸 수 있는가다.

고위험 AI 규제 흐름: 왜 직업재활 기관도 예외가 아닌가

이제 규제 흐름을 보자. 특히 유럽연합의 AI 법은 세계적으로 중요한 기준점이 되고 있다. 이유는 단순하다. 어떤 AI가 사람의 권리, 기회, 안전에 큰 영향을 미친다면 더 강한 의무를 부과해야 한다는 생각을 제도화했기 때문이다.

EU AI Act는 고위험 AI의 범주로 교육·직업훈련, 고용 및 노동관계, 필수 공공서비스 접근 등을 명시한다.⁶ 이 조항을 직업재활 맥락에서 읽어 보면 매우 흥미롭다. 직업재활기관이 쓰는 AI는 생각보다 자주 이 세 영역을 동시에 건드린다.

먼저 직업훈련 영역이다. 훈련기관 배정, 훈련 접근 결정, 학습성과 평가, 학습 경로 조정에 AI를 쓰면 이는 단순한 학습 보조가 아니라 기회 배분 기술이 된다.⁶

다음은 고용 영역이다. 모집·선발, 지원서 분석, 후보 평가뿐 아니라 업무배치, 계약 유지, 성과 및 행동 모니터링에 쓰이는 AI 역시 고위험으로 본다.⁶ 즉 채용단계만이 아니라 취업 후 배치와 관리도 규제의 핵심이다.

마지막은 공공서비스·급여 접근 영역이다. 공공기관 또는 그 위탁 주체가 사람의 서비스 자격, 우선순위, 급여나 지원의 유지 여부를 평가하는 데 AI를 쓰면 역시 큰 영향을 미치는 영역으로 본다.⁶ 공공 직업재활기관이나 공공재원을 다루는 사업에서는 이 시선이 특히 중요하다.

이 규제 흐름이 한국 기관에 당장 같은 법적 형식으로 적용되는 것은 아닐 수 있다. 그러나 방향성은 분명하다. 사람의 교육, 고용, 공공서비스 접근을 좌우하는 AI는 더 이상 저위험 편의기술로 보지 않는다. 직업재활기관과 기업이 지금부터 이 기준에 맞춰 준비해야 하는 이유다.

직업재활에서 특히 고위험으로 봐야 하는 AI 활용들

현장에서 "이 정도도 고위험인가요?"라는 질문이 자주 나온다. 직업재활에서는 다음과 같은 경우를 사실상 고위험으로 보는 것이 안전하다.

• 서비스 자격 여부나 우선지원 대상을 점수화하는 시스템

• 훈련기관 배정, 훈련 수준, 탈락 위험을 자동으로 판단하는 시스템

• 직무추천 결과가 실제 취업 기회 축소로 이어지는 시스템

• 채용 서류 필터링, AI 면접 분석, 업무배치 자동화 도구

• 근태, 휴식, 감정, 행동, 생산성 등을 추적해 불이익 가능성을 만드는 시스템

• 합리적 편의 필요 여부를 점수로 대체하거나 축소하는 시스템

이런 도구들의 공통점은 하나다. 모두 누군가의 기회·평가·대우를 바꾼다는 점이다. 직업재활기관이든 기업이든 이런 AI를 "참고용"이라고만 부르면 책임이 사라지지 않는다. 실제 현장에서 그 결과가 반복적으로 받아들여지면, 이미 영향력 있는 의사결정 도구다.

기관의 책임: 상담기관은 기술 소개자가 아니라 권리보호자다

직업재활기관은 종종 스스로를 중립적 지원기관으로 생각한다. 하지만 AI가 들어오면 기관의 역할은 훨씬 무거워진다. 기관은 단순히 좋은 솔루션을 찾아 소개하는 곳이 아니라, 장애인의 권리와 기회를 지키는 첫 번째 필터가 된다.

기관이 져야 할 책임은 크게 다섯 가지다.

첫째, 목적 적합성 책임이다. AI가 기관의 법적 목적과 서비스 철학에 맞는지 확인해야 한다. 취업률 숫자만 높이고 중증장애인이나 복합지원 대상자를 배제하는 시스템이라면 기관 목적에 맞지 않는다.⁴

둘째, 권리영향 점검 책임이다. 이 도구가 참여자의 선택권, 설명받을 권리, 이의제기권, 접근권을 침해할 가능성이 있는지 봐야 한다. 특히 자동화 결과에 불복할 경로가 없다면 매우 위험하다.⁷

셋째, 데이터 관리 책임이다. 누가 어떤 데이터를 왜 입력하는지, 외부 전송은 어떻게 되는지, 재사용은 가능한지, 삭제는 어떻게 되는지 내부 규정을 분명히 해야 한다.⁵

넷째, 접근성과 편의 제공 책임이다. 시스템이 실제 장애유형별로 사용 가능한지, 필요한 추가 지원이 준비되는지, 대체 절차가 있는지 검증해야 한다.³⁹

다섯째, 기업 연계 책임이다. 기업에 AI 채용이나 모니터링 도구를 추천할 때 그 위험을 함께 설명하고, 차별 발생 가능성을 점검해야 한다. 기관이 기업에게 "이 솔루션이 효율적입니다"라고 권하는 순간, 실질적 영향력도 함께 생긴다.

한마디로 말해, 직업재활기관은 AI 사용의 촉진자이면서 동시에 브레이크다. 액셀만 밟는 조직은 금방 사고를 낸다.

기업의 책임: 채용과 근로관리에서 AI를 쓰는 순간 설명 의무가 생긴다

기업 쪽 책임도 분명하다. 특히 장애인 채용과 고용유지에 관련된 기업은 AI를 일반 HR 도구처럼만 다뤄서는 안 된다. ILO는 기업이 AI를 활용할 때 장애인을 위한 기회를 넓히는 동시에 차별·배제·사생활 침해 위험을 완화하는 조치를 갖춰야 한다고 제안한다.⁷

기업이 특히 주의해야 할 지점은 다음과 같다.

먼저 채용단계다. 자동 필터링이 경력 공백, 비전형적 학습경로, 보조공학 사용, 느린 응답 패턴을 불리하게 읽지 않는지 봐야 한다. 장애인 채용에서는 전형 방식 자체를 유연하게 설계해야 하므로, AI가 표준형 지원자만 선호하도록 두면 안 된다.

다음은 근로관계 관리 단계다. 업무배치, 성과평가, 승진, 계약유지, 복귀지원, 안전 모니터링에 AI를 쓰면 장애와 건강 상태가 쉽게 얽힌다.⁶ 예를 들어 휴식 빈도가 높다고 저성과로 판단하거나, 일정한 움직임 패턴이 없다고 집중력 문제로 해석하는 것은 매우 위험하다. 편의 제공 이후에 충분히 수행할 수 있는 사람을, 편의 제공 이전 상태로 평가하면 결과는 왜곡될 수밖에 없다.

마지막은 합리적 편의와 인사결정의 연결이다. 기업은 AI 결과를 근거로 편의 제공을 줄이거나 거부해서는 안 된다. 오히려 필요한 편의가 제공된 뒤에도 어떤 지원이 더 필요한지 묻는 방향으로 AI를 써야 한다. 편의 제공을 비용으로만 보고 AI를 비용절감 수단으로 쓰는 순간, 법과 인권 기준에서 멀어진다.

벤더의 책임: "우리는 도구만 만들었을 뿐"이라는 말은 점점 덜 통한다

AI를 만든 업체도 책임에서 벗어날 수 없다. 접근성 없는 제품, 설명 어려운 모델, 장애포용 테스트를 하지 않은 도구, 민감정보 재학습 구조를 가진 서비스는 직업재활에 맞지 않는다. OECD 보고와 관련 논의에서도 장애인 당사자와 사용자의 실질적 참여 부족이 장애포용 AI 도입의 가장 큰 장벽으로 반복해서 지적된다.⁸

좋은 벤더라면 적어도 다음 질문에 답할 수 있어야 한다. 이 제품은 어떤 장애유형의 사용성 검증을 거쳤는가. 스크린리더와 자막, 키보드 탐색, 쉬운 글, AAC 환경과 호환되는가. 모델이 어떤 데이터를 학습하고 어떤 결과를 내는가. 고객 입력 데이터를 재학습에 쓰는가. 오류 발생 시 감사 로그와 수정 절차를 제공하는가. 특정 집단에 대한 성능 편차를 본 적이 있는가.

현장의 실무자는 화려한 데모보다 이런 질문을 더 많이 해야 한다. 시연은 10분이지만, 책임은 몇 년을 간다.

법·정책·인권 프레임을 현장 절차로 바꾸는 방법

이쯤 되면 실무자는 또 묻는다. "그래서 무엇을 문서화해야 하죠?" 여기서 중요한 것은 큰 선언보다 작은 절차다. 법과 인권은 결국 문서와 프로세스로 내려와야 현장에서 작동한다.

가장 실용적인 구조는 다음과 같다.

이 표의 핵심은 간단하다. AI 관리는 기술팀만의 일이 아니라, 상담자·관리자·법무·정보보호 담당자·당사자 대표가 함께 봐야 한다는 점이다.

현장에서 꼭 세워야 할 책임 구조

기관과 기업이 실제로 AI를 안전하게 쓰려면 책임이 공중에 떠 있으면 안 된다. 최소한 아래와 같은 구조가 필요하다.

첫째, 승인 책임자가 있어야 한다. 어떤 AI를 어떤 목적으로 도입할지 승인하는 사람이다. 보통 기관장이나 부서장만 떠올리기 쉽지만, 고위험 기능이라면 개인정보·법무·현장 실무가 함께 결재선에 들어가는 편이 더 안전하다.

둘째, 운영 책임자가 있어야 한다. 일선 상담자나 HR 담당자처럼 실제 사용하는 사람이다. 이 사람은 단순 사용자가 아니라, 입력 데이터 범위와 인간 검토 기준을 지키는 책임을 진다.

셋째, 권리보호 창구가 있어야 한다. 참여자나 근로자가 "이 결과가 이상하다", "이 시스템은 접근하기 어렵다", "나에게 불리하게 작동했다"고 말할 수 있는 통로다. 이 창구가 없으면 차별은 발견되지 않는다.

넷째, 사후 점검 주기가 있어야 한다. 한 번 승인하고 끝내는 것이 아니라, 오류 사례, 민원, 성능 편차, 접근성 문제를 정기적으로 점검해야 한다. 고위험 AI는 출시보다 운영 중 감시가 더 중요하다.

다섯째, 중지 기준이 있어야 한다. 특정 집단에 대한 반복적 오류, 민감정보 유출, 설명 불가능한 결과, 접근성 중대한 결함이 발견되면 바로 멈출 수 있어야 한다. 멈추지 못하는 시스템은 통제되는 시스템이 아니다.

직업재활기관과 기업이 함께 일할 때 가장 흔한 실수

실무에서 많이 벌어지는 실수는 크게 세 가지다.

첫 번째는 기관이 가진 깊은 사례정보를 기업의 선발도구로 흘려보내는 것이다. 지원을 위한 정보와 선발을 위한 정보는 다르다. 직업재활기관은 고용을 돕기 위해 많은 정보를 듣지만, 그 정보의 대부분은 채용판단 자료가 되어서는 안 된다.

두 번째는 AI 추천을 사실상 결정처럼 쓰는 것이다. 문서에는 참고용이라고 적혀 있어도, 현장에서 모두 그 점수대로 움직이면 이미 결정도구다. 이때는 설명 가능성, 재검토, 이의제기 절차가 필요하다.

세 번째는 접근성 문제를 사용자의 적응 문제로 돌리는 것이다. 참여자가 시스템을 어렵다고 말할 때 "조금만 익숙해지면 된다"라고 답하는 순간, 조직은 장벽을 개인 탓으로 돌리기 시작한다. 직업재활에서 이런 태도는 특히 위험하다. 적응을 돕는 일과 장벽을 정당화하는 일은 아주 다르다.

사례로 보는 법·정책·인권 판단

사례 1: 공공 직업재활기관의 서비스 우선순위 예측 시스템

기관이 예산과 인력이 부족하다는 이유로 AI를 도입해 "취업 성공 가능성"이 높은 참여자에게 우선 서비스를 배정하려 한다고 해 보자. 얼핏 효율적으로 보인다. 하지만 이 시스템은 공공서비스 접근과 기회 배분에 직접 영향을 미친다. EU의 규제 흐름으로 보면 이런 영역은 고위험 시각으로 접근해야 하고,⁶ 인권 관점에서는 지원이 더 필요한 사람을 뒤로 미는 구조가 될 수 있다.² 한국 현장에서도 이는 직업재활의 공공성과 평등 원리에 비추어 매우 신중해야 한다.

이 경우 기관은 최소한 이렇게 물어야 한다. 이 점수가 실제 서비스 배제 효과를 만드는가. 장애유형별 편차가 있는가. 상담자의 재량과 수정 권한이 실질적인가. 참여자가 결과를 설명받고 다툴 수 있는가. 이 중 하나라도 없으면 도입 속도를 늦추는 편이 맞다.

사례 2: 기업이 장애인 채용에 AI 면접 분석을 도입한 경우

기업이 표정, 시선, 말의 속도, 음성 톤을 분석해 지원자의 적합도를 점수화한다고 하자. 이 도구는 장애인에게 매우 불리하게 작동할 가능성이 높다. 신경다양성, 안면근육 특성, 언어장애, 청각장애, 불안 반응, 보조공학 사용은 모두 표준적 비언어 행동 기준과 다를 수 있다. 그런데 그것을 적합성 저하로 읽으면, 이는 차별위험이 큰 자동화다.⁷⁸

이럴 때 기업은 '모든 지원자에게 같은 도구를 적용했다'고 말해서는 안 된다. 오히려 다양한 응답 방식, 대체 평가 경로, 사전 고지, 편의 요청 절차를 제공해야 한다. 합리적 편의가 없는 AI 면접은 공정한 면접이 아니다.¹³

사례 3: 훈련 플랫폼이 학습 데이터를 바탕으로 훈련생을 자동 분반하는 경우

AI가 과제 완료 속도, 반복 횟수, 오류율을 분석해 훈련생을 초급·중급·고급반으로 자동 배정한다고 하자. 직업훈련에서는 매우 흔히 떠올릴 수 있는 활용이다. 그러나 EU AI Act는 교육·직업훈련에서 접근, 배정, 학습성과 평가에 영향을 주는 AI를 고위험 범주에 포함한다.⁶ 직업재활 맥락에서는 더 조심해야 한다. 왜냐하면 느린 수행이 반드시 낮은 잠재력을 뜻하지 않기 때문이다. 보조공학 적응 중일 수도 있고, 설명 방식이 맞지 않을 수도 있고, 시간이 조금 더 필요할 수도 있다.

이 경우 적절한 방향은 자동 배정이 아니라 보조적 제안이다. 그리고 상담자·훈련교사·당사자가 함께 조정할 수 있어야 한다. 훈련은 분류가 목적이 아니라 성장 지원이 목적이기 때문이다.

법적 정당성과 제도적 책임 구조를 한 문장으로 정리하면

직업재활에서 AI를 제대로 도입하려면 세 가지가 동시에 맞아야 한다.

첫째, 인권적으로 정당해야 한다. 장애인의 존엄, 자율성, 비차별, 접근성, 참여를 해치지 않아야 한다.¹²

둘째, 법적으로 적합해야 한다. 장애인 차별금지, 합리적 편의, 직업재활의 공적 목적, 개인정보 보호 원칙을 충족해야 한다.³⁴⁵

셋째, 제도적으로 책임이 분명해야 한다. 누가 승인하고, 누가 사용하고, 누가 감시하고, 누가 중지할지 정해져 있어야 한다.⁶⁷

이 세 가지 중 하나라도 빠지면 도입은 흔들린다. 인권이 없으면 사람을 놓치고, 법이 없으면 조직이 흔들리고, 책임 구조가 없으면 문제가 생겨도 아무도 고치지 못한다.

이 장의 핵심 정리

직업재활에서 AI는 더 이상 기술팀만의 주제가 아니다. 그것은 노동권, 차별금지, 합리적 편의, 접근성, 개인정보 보호, 공공서비스 책임, 고용평등이 한꺼번에 만나는 지점이다. 유엔 장애인권리협약은 장애인의 일할 권리와 합리적 편의 제공 의무를 분명히 하고,¹² 한국 법체계는 직업재활의 공적 목적과 차별금지, 개인정보 최소수집 원칙을 요구한다.³⁴⁵ 국제 규제 흐름은 교육·직업훈련, 고용, 공공서비스 접근을 좌우하는 AI를 점점 더 고위험으로 보고 있다.⁶

따라서 기관과 기업이 알아야 할 것은 "어떤 모델이 더 똑똑한가"보다 "어떤 시스템이 더 정당한가"다. 좋은 AI란 빠른 AI가 아니라, 장애인의 권리를 줄이지 않는 AI다. 더 나아가 좋은 직업재활기관과 좋은 기업은 AI를 잘 쓰는 조직이 아니라, AI를 써도 설명할 수 있고, 수정할 수 있고, 멈출 수 있는 조직이다.

기술은 점점 빨라진다. 그러나 직업재활의 기준은 여전히 사람이다. 법은 그 사람을 지키는 최소선이고, 인권은 그 최소선을 어디로 끌어올릴지 알려 주는 나침반이다.

참고

¹Convention on the Rights of Persons with Disabilities

²Article 27 - Work and employment | United Nations Enable

³Statutes of the Republic of Korea - KLRI

⁴Act on The Employment Promotion and Vocational Rehabilitation of Persons With Disabilities

⁵Personal Information Protection Act - Klri

⁶Annex III | AI Act Service Desk

⁷Artificial Intelligence and the Employment of Persons with Disabilities

⁸OECD report on Artificial Intelligence and Employment of People with Disabilities - European Disability Forum

⁹AI in Vocational Rehabilitation—Intelligent Assistance for People with Disabilities