자율차 윤리가이드라인, 인간 생명이 동물·재산피해 보다 우선

자율차 융·복합 미래포럼, 12일 초안 공개…최종안 내년 6월 고시

피할 수 없는 사고를 맞닥뜨렸을 때 자율주행차는 우선순위를 어떻게 판단하고 실행할까.

자율차 도입에 따라 윤리적 판단을 기계가 대신해서 발생하는 결과에 따른 사회적 충격과 책임을 완화하기 위한 판단 목표와 가치를 담은 가이드라인 초안이 나왔다.

자율주행차 융·복합 미래포럼은 2017년부터 국내외 사례 검토와 의견 수렴을 통해 자율주행 윤리가이드라인 초안을 12일 발표했다.

자율주행차 활성화에 필수적인 윤리가이드라인 초안이 나왔다. 사진은 국토교통부가 국내 최초로 자율협력주행 대중교통 시연에 성공한 자동차.

윤리가이드라인은 자율차 제작·운행 등의 과정에서 고려해야 할 ▲기본가치 ▲행위주체를 정의하고 이들이 지켜야 할 행위준칙을 제시했다.

윤리가이드라인의 기본가치는 인간의 존엄성과 공공성, 인간의 행복이다. 초안에 따르면 자율차의 목표는 인간의 안전과 복리 증진이다. 인간 생명을 동물이나 재산 피해보다 우선적으로 고려하는 ‘인간의 존엄성’을 가장 큰 가치로 꼽았다. 인간이 안전하고 편리하게, 자유롭게 이동할 수 있는 권리를 보장하면서도 사고로 인한 개인·사회적 손실을 최소화해야 한다(공공성)는 내용이다.

행위주체는 설계자와 제작자, 이용자, 관리자, 서비스 제공자로 정했다. 윤리가이드라인은 인공지능(AI) 작동 중 발생하는 개인정보 보호와 사회적 안전 확보를 위해 제작·운행 전반의 과정에서 참여하는 주체들이 지켜야 할 윤리적 의무를 제시했다.

설계자는 자율차를 불법 개조하거나 임의로 시스템을 변경할 수 없도록 시스템 설계, 해킹을 방지할 수 있도록 자율차를 설계해야 한다. 제작자는 제작·판매와 관련한 법규 준수, 자율차의 안전과 보안을 보장하고 사용연한 내 유지보수와 결함에 책임을 져야 한다. 관리자는 자율차 도입과 활용을 위한 사회적 인프라 확충 의무와 자율차 도입, 안전 및 모니터링 등에 관한 의무가 있다. 소비자는 자율차를 임의로 개조하거나 변경하면 안 된다. 또 오사용 및 불법 사용으로 발생하는 문제에 책임을 져야하고 법률 및 사용지침을 준수해야 한다.

자율차 융·복합 미래포럼은 국토교통과학기술진흥원 홈페이지에 초안과 의견수렴 배너를 개설해 의견수렴을 거쳐 내년 6월께 최종안을 마련해서 고시할 예정이다.

이창기 국토교통부 첨단자동차기술과장은 “자율차는 새로운 기술인만큼 다양한 정책 연구가 필요하고 윤리가이드라인은 사회적 공감대가 필수적”이라며 “지속적인 연구와 의견 수렴을 통해 국민이 안전하게 느낄 수 있는 자율차를 도입하기 위해 노력할 것”이라고 밝혔다.