기술이 가능하다는 말과 사회가 허용한다는 말
자율주행차가 도로를 달리려면 두 가지 허가가 필요하다. 하나는 기술적 허가다. 센서가 주변을 인식하고, 시스템이 위험을 예측하며, 차량이 계획한 궤적을 따라 움직일 수 있어야 한다. 다른 하나는 사회적 허가다. 여기서 허가는 행정 절차만을 뜻하지 않는다. 사고가 났을 때 누가 책임지는지, 차량이 모은 데이터가 어디에 쓰이는지, 해킹을 어떻게 막는지, 보행자가 그 차를 믿고 길을 건널 수 있는지가 사회적으로 설명되어야 한다는 뜻이다.
이 장의 핵심은 단순하다. 기술적으로 가능한 자율주행이 곧바로 사회적으로 허용되는 자율주행이 되지는 않는다. 법과 신뢰가 함께 설계되어야 한다. 실제로 자율주행에 대한 대중의 수용성은 기술 성능뿐 아니라 책임 배분, 데이터 보호, 안전 규제의 명확성과 깊게 연결된다1.
AI 생성 이미지
사고가 나면 누구의 책임인가
사람이 운전하는 차에서 사고가 나면 우선 운전자의 행위가 조사된다. 과속했는지, 신호를 위반했는지, 전방 주시를 소홀히 했는지가 중심이다. 그러나 자율주행차에서는 질문이 더 복잡해진다. 사고 당시 자동화 기능이 켜져 있었는가. 그 기능의 ODD, 즉 작동 설계 영역 안이었는가. 여기서 ODD는 차량이 안전하게 작동하도록 정해 둔 도로 종류, 지역, 날씨, 속도 범위, 시간대 같은 조건의 묶음이다. 운전자가 개입해야 하는 단계였는가. 제조사가 기능의 한계를 충분히 알렸는가. 소프트웨어 업데이트나 지도 오류가 있었는가. 서비스 운영자가 차량 정비와 원격 관제를 제대로 했는가.
책임 주체는 하나로 끝나지 않는다. 운전자 또는 이용자, 완성차 제조사, 자율주행 소프트웨어 공급자, 센서·지도·클라우드 제공자, 로보택시 서비스 운영자, 정비 사업자가 함께 얽힌다. 예를 들어 레벨 2 운전자 보조 기능을 켜고 고속도로를 달리던 중 사고가 났다면 운전자의 지속 감시 의무가 중요하다. 반대로 레벨 4 로보택시가 승인된 지역 안에서 무인 운행 중 사고를 냈다면 탑승객에게 운전자 책임을 묻기는 어렵다. 이때는 시스템 설계, 운영 관리, 원격 지원, 정비 기록이 핵심 증거가 된다.
그래서 자율주행 법제에서 중요한 것은 '책임을 누구에게 몰아줄 것인가'가 아니라 '어떤 조건에서 어떤 책임이 이동하는가'를 명확히 하는 일이다. 자동화 기능이 켜진 시점, 운전 인계 요청 여부, 센서 고장 경고, 소프트웨어 버전, 지도 버전, 차량 속도, 제어 명령 같은 운행 기록은 사고 원인 분석의 기반이 된다. 항공기 블랙박스처럼 자율주행차에도 이벤트 데이터 기록 장치와 로그 보존 체계가 필요하다. 다만 일반적인 이벤트 데이터 기록 장치가 충돌 전후의 속도나 제동 상태를 남기는 데 초점이 있다면, 자율주행 사고 분석에는 자동화 기능의 작동 상태, 인계 요청, 시스템 판단 근거를 확인할 수 있는 기록도 함께 필요하다. 그리고 이 기록은 책임 규명에 필요하다는 이유만으로 무제한 수집되어서는 안 된다. 뒤에서 볼 개인정보 원칙과 함께 설계되어야 한다.
보험도 달라져야 한다. 전통적인 자동차 보험은 운전자 과실을 중심으로 설계되었다. 자율주행에서는 제조물 책임, 소프트웨어 결함, 서비스 운영 책임, 사이버 사고 책임이 함께 고려되어야 한다. 이용자는 사고 후 보상을 빨리 받아야 하고, 사업자와 공급자 사이의 구상 관계는 별도의 절차로 정리되는 구조가 현실적이다. 사회가 원하는 것은 복잡한 책임 공방이 아니라 예측 가능한 보상과 투명한 원인 조사다.
윤리 문제는 극단적 딜레마보다 일상의 위험 배분이다
자율주행 윤리를 말할 때 흔히 '브레이크가 고장 난 차가 누구를 희생할 것인가' 같은 극단적 딜레마가 등장한다. 이런 논의는 기술의 한계를 드러내는 데 도움이 되지만, 실제 도로에서 반복되는 윤리 문제의 대부분은 그보다 평범하다. 예를 들어 차가 골목길에서 너무 보수적으로 움직이면 뒤차 흐름을 막고, 너무 적극적으로 움직이면 보행자를 위협할 수 있다. 비보호 좌회전에서 언제까지 기다릴 것인지, 자전거를 추월할 때 얼마나 간격을 둘 것인지, 빗길에서 제한속도보다 얼마나 낮춰 달릴 것인지가 모두 위험 배분의 문제다.
자율주행 시스템은 매 순간 안전, 법규, 효율, 승차감 사이에서 우선순위를 정한다. 여기서 윤리의 출발점은 생명을 숫자로 비교하는 계산이 아니라, 불필요한 위험을 만들지 않는 설계다. 보행자, 자전거, 어린이, 고령자처럼 취약한 도로 사용자를 더 조심해야 한다. 법규를 지키는 것을 기본으로 하되, 법규만으로 설명되지 않는 상황에서는 예측 가능하고 방어적인 행동을 해야 한다.
중요한 원칙은 차별 금지와 설명 가능성이다. 시스템이 특정 지역, 특정 보행자 유형, 특정 이동수단에 대해 더 위험한 판단을 반복한다면 기술적으로 좋아 보여도 사회적으로 받아들여지기 어렵다. 또 사고나 위험 상황이 발생했을 때 'AI가 그렇게 판단했다'는 말만으로는 충분하지 않다. 어떤 센서 정보가 있었고, 어떤 위험을 예측했으며, 왜 감속·정지·회피를 선택했는지 사후에 검토할 수 있어야 한다. 윤리적 자율주행은 완벽한 선택을 약속하는 기술이 아니라, 위험을 줄이는 원칙을 공개하고 그 원칙이 실제로 지켜졌는지 검증받는 기술이다.
데이터는 안전의 재료이자 감시의 재료가 될 수 있다
자율주행차는 데이터 없이는 작동하기 어렵다. 차량 위치, 속도, 카메라 영상, 라이다 점군, 실내 탑승자 상태, 음성 명령, 주행 로그, 원격 관제 기록이 모두 시스템 개선과 사고 분석에 쓰일 수 있다. 문제는 같은 데이터가 개인의 이동 경로, 생활 습관, 동승자 관계, 방문 장소를 드러낼 수 있다는 점이다.
예를 들어 로보택시 서비스는 사용자가 언제 어디서 탔고 어디서 내렸는지 안다. 실내 카메라가 안전벨트 착용이나 응급 상황 감지를 위해 쓰인다면 탑승자의 얼굴과 행동도 처리할 수 있다. 차량 외부 카메라는 도로를 보기 위해 주변 보행자와 다른 차량 번호판을 함께 촬영한다. 연결형 자율주행에서는 차량, 인프라, 서버 사이에 데이터가 계속 오가기 때문에 개인정보와 감시 우려가 커진다. 실제 대중 우려 연구에서도 안전뿐 아니라 프라이버시와 데이터 보안은 연결·자동화 차량 수용성의 중요한 쟁점으로 반복해서 나타난다2.
따라서 데이터 정책은 '많이 모을수록 좋다'가 아니라 '필요한 만큼, 정해진 목적에 맞게, 안전하게'가 되어야 한다. 이를 데이터 최소화라고 한다. 사고 분석에 필요한 로그와 모델 학습에 필요한 데이터는 구분되어야 한다. 개인을 식별할 필요가 없다면 익명화나 가명화가 적용되어야 한다. 익명화는 특정 개인을 다시 알아볼 수 없도록 만드는 것이고, 가명화는 이름이나 식별자를 다른 값으로 바꾸되 별도의 정보가 있으면 다시 연결될 수 있는 방식이다. 그래서 가명화된 데이터도 함부로 공개되어서는 안 된다. 보관 기간, 접근 권한, 제3자 제공 조건도 명확해야 한다. 이용자는 어떤 데이터가 수집되는지, 서비스 개선·보험·수사·광고에 어떻게 쓰일 수 있는지 이해할 수 있어야 한다.
자율주행 데이터의 또 다른 쟁점은 소유권보다 통제권이다. 데이터가 차량 소유자의 것인지, 제조사의 것인지, 서비스 운영자의 것인지라는 질문도 중요하지만, 실제로는 누가 접근할 수 있고 누가 삭제를 요청할 수 있으며 누가 사고 조사 목적으로 열람할 수 있는지가 더 중요하다. 신뢰는 추상적인 약속이 아니라 접근 기록, 암호화, 권한 관리, 감사 절차 같은 구체적인 장치에서 나온다.
사이버보안은 선택 기능이 아니라 안전 기능이다
자율주행차는 바퀴 달린 컴퓨터이자 네트워크 장치다. 내부에는 여러 제어기가 있고, 외부와는 이동통신망, V2X, 블루투스, 와이파이, 진단 포트, OTA 업데이트 서버로 연결된다. 연결성이 높아질수록 편의성과 운영 효율은 좋아지지만 공격 표면도 넓어진다.
공격 방식은 다양하다. 해커가 차량 내부 네트워크에 침투해 조향이나 제동 명령을 방해할 수 있다. 가짜 V2X 메시지를 보내 앞쪽에 사고가 난 것처럼 속일 수 있다. GNSS 신호를 위조해 차량 위치를 틀리게 만들 수 있다. 카메라 앞 표지판에 교묘한 패턴을 붙여 인식 모델을 혼동시킬 수도 있다. 라이다나 레이더에 이상 신호를 보내 실제보다 가까운 장애물이 있는 것처럼 보이게 하는 센서 스푸핑도 가능하다.
이런 위협은 정보 유출에 그치지 않는다. 주행 판단과 직접 연결되면 안전 문제가 된다. 그래서 자율주행 보안은 일반 IT 보안보다 더 보수적으로 설계되어야 한다. 첫째, 외부에서 들어오는 메시지는 인증과 서명 검증을 거쳐야 한다. 둘째, 차량 내부 네트워크는 중요한 제어 영역과 편의 기능 영역을 분리해야 한다. 셋째, 소프트웨어 업데이트는 암호학적으로 검증된 파일만 설치되어야 하며, 문제가 생기면 이전 안정 버전으로 되돌릴 수 있어야 한다. 넷째, 센서 정보와 통신 정보가 충돌할 때는 한쪽을 맹신하지 않고 일관성을 점검해야 한다. 앞 장에서 본 것처럼 V2X는 추가 안전망이지 차량의 자체 인지를 대체하는 절대 정보원이 아니다.
보안의 핵심은 침입을 100% 막겠다는 약속이 아니다. 공격을 어렵게 만들고, 침입을 빨리 감지하며, 침입이 있어도 차량이 위험 행동으로 곧장 이어지지 않게 격리하는 것이다. 이상 메시지가 감지되면 해당 통신을 무시하고, 위치 신뢰도가 낮아지면 속도를 줄이며, 제어 명령의 무결성이 의심되면 최소 위험 상태로 전환해야 한다. 최소 위험 상태란 차량이 더 큰 위험을 만들지 않도록 가능한 범위에서 감속하고, 차선을 유지하거나 안전한 곳에 정차하며, 비상등이나 관제 연결로 주변에 상태를 알리는 방식을 말한다. 자율주행에서 사이버보안은 안전 케이스의 일부다.
도로 위 신뢰는 행동으로 전달된다
사람 운전자는 눈빛, 손짓, 차의 미세한 움직임으로 의도를 주고받는다. 횡단보도 앞에서 운전자가 속도를 줄이면 보행자는 '나를 봤다'고 느낀다. 좁은 골목에서 차가 살짝 멈추면 상대 차량은 양보 의도를 읽는다. 그런데 무인 자율주행차에는 운전자의 얼굴이 없다. 보행자와 다른 운전자는 이 차가 자신을 인식했는지, 멈출 것인지, 먼저 갈 것인지 알기 어렵다.
그래서 자율주행차의 외부 인터페이스가 중요해진다. 차량 외부 조명, 디스플레이, 소리, 주행 행동이 의도를 전달할 수 있다. 예를 들어 횡단보도 앞에서 일정한 감속 패턴을 보이고 완전히 정지한 뒤, 외부 표시로 차량이 정지 상태이며 양보 중임을 알려줄 수 있다. 다만 표시만 믿게 만드는 것은 위험하다. 지역과 문화에 따라 색과 문구 해석이 다르고, 표시 장치가 고장 날 수도 있으며, 모든 보행자가 그 의미를 알지는 못한다. 무엇보다 차량의 표시가 교통법규나 보행자의 주의 의무를 대신할 수는 없다.
따라서 가장 강한 언어는 차량의 행동이다. 자율주행차는 의도를 예측 가능하게 보여주어야 한다. 갑자기 멈추거나, 애매하게 기어가거나, 양보할 듯하다가 다시 출발하면 사람은 불안해진다. 반대로 일관된 감속, 충분한 정지 거리, 무리하지 않는 차선 변경, 명확한 양보는 신뢰를 만든다. 연구 문헌에서도 자율주행 수용성은 단순한 성능보다 신뢰와 위험 인식의 상호작용에 크게 영향을 받으며, 예측 가능한 행동과 제도적 신뢰가 중요하게 다뤄진다3.
사회적 수용은 한 번에 얻는 허가가 아니다
자율주행의 사회적 수용은 광고 문구나 시범 운행 한 번으로 얻어지지 않는다. 사람들은 사고가 났을 때의 책임, 평소 데이터 처리, 해킹 가능성, 도로 위 행동을 함께 본다. 그래서 수용성은 기술 성능, 법적 책임, 개인정보 보호, 사이버보안, 보험, 도시 운영, 대중 소통이 누적된 결과다.
좋은 제도는 혁신을 막는 장벽이 아니라 신뢰를 만드는 기반이다. 명확한 ODD 명시와 운행 허가 절차, 단계적 실증, 사고 보고 의무, 독립 조사, 안전 케이스 공개, 개인정보 보호 기준, 보안 업데이트 의무가 있어야 기업도 예측 가능하게 개발할 수 있고 시민도 위험을 이해할 수 있다. 반대로 책임이 모호하고 데이터 사용이 불투명하며 사고 설명이 부족하면, 기술이 좋아져도 사회는 쉽게 허용하지 않는다.
자율주행차가 도로의 한 구성원이 되려면 사람에게 '믿어 달라'고 요구해서는 안 된다. 믿을 수밖에 없는 구조를 보여주어야 한다. 사고를 줄이는 기술, 책임을 숨기지 않는 법, 데이터를 남용하지 않는 운영, 공격을 견디는 보안, 의도를 읽기 쉬운 주행 행동이 함께 있을 때 자율주행은 실험실의 성능을 넘어 사회의 교통수단이 될 수 있다.
참고
1The public perception and adaptability of laws and regulations of autonomous driving vehicles
2Public concerns and connected and automated vehicles: safety, privacy, and data security
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.