자율주행자동차 윤리가이드라인 0 9002

자율주행기능을 탑재한 차량의 도로 주행 중 다양한 사고가 빈번하게 발생했을 경우, 그에 따른 책임은 누가져야 될 것인가에 대한 문제는 아주 중요하게 다뤄질 필요성이 있다. 이런 문제를 해결하기 위한 대응방안으로 윤리가이드라인을 선정하게 되는데 가이드라인의 내용은 다음과 같다.

1) 목표와 가치

  • 자율주행자동차는 이용자의 안전을 개선하고 이도의 기회와 편익의 증진을 목적으로 하며, 기술은 인간의 자율성과 책임성을 전재로 개발 될 필요성이 있다.

  • 자율주행기술로 인해 교통사고가 눈에 띄게 감소한다면 도입에 따른 일부 문제에도 불구하고 윤리적으로 수용 해야한다.

  • 기술적으로 피할 수 없는 사고 위험 상황에서 재물이나 동물 등이 손상되더라도 인간의 생명과 안전이 최우선적으로 보호 될 필요성이 있다.

  • 자율주행기능으로 인한 딜레마 사고 상황일 경우, 자율주행자동차는 연령,성별, 신체적, 정신적 상태를 감안하여 특정 희생자를 선택하도록 설계가 되어서는 안된다.

2) 디자인 원칙

  • 자율주행 기술은 사고를 미리 방지하도록 방어적이고 예방적으로 설계되어야 하며, 운행 중 발생할 수 있는 모든 위험한 상황을 회피할 수 있어야 한다.

  • 도로의 운행환경 측면이 정상적이지 않고 법률에서 정한 별도의 운전요령에 대한 규정이 없으며 법규를 위반하지 않으면 진행할 수 없거나 심각한 위험상황이 올 수 있는 경우, 인간의 생명에 위협을 주지 않고 재산상의 손실을 최소화 하는 차원에서 자율주행차의 자율저그로 대응 알고리즘을 결성할 수 있어야 한다.

  • 자율주행자동차의 자동충동방지 기술과 같이  사고피해를 획기적으로 감소시킬 수 있는 기술은 사회/윤리적으로 의무화 할 필요성이 있다.

  • 자율주행자동차는 어떠한 상황에서도 운전자(사람 또는 시스템)에 대한 정보와 손해배상 책임 여부를 명확하게 할 수 있도록 문서화 된 기록 확보가 중요하다.

  • 주행 중 위급상황 시, 시스템이 갑자기 운전자에게 제어권을 넘기도록 설계가 되어서는 안되며 운전자와의 충분한 의사교류 행태를 고려해야 한다.

  • 자율주행자동차에 내장된 데이터를 활용해 스스로 차량을 운행하게 하는 기계학습기능은 운행의 안전을 개선할 경우에만 수용할 수 있다.

  • 자율주행자동차는 주행 중 위급상황에서 운전자의 도움 없이도 스스로 안전한 운행 환경으로 복귀할 수 있도록 시스템이 설계 될 필요성이 있다.

3) 공급자 의무

  • 운행 중인 자율주행차에 결함이 생기지 않도록 제조다와 운영사는 기존 시스템 관리 및 최적화, 개선의 의무를 가질 필요성이 있다.

  • 제조사와 운영사는 자율주행 관련 신기술에 대해 공개적으로 전문기관의 검토를 거쳐 일반 고객들에게 명확하게 알려야 할 필요성이 있다.

  • 자율주행자동차는 관련 시스템이나 내부적 시스템에 대하여 외부 해킹으로부터 안전하게 설계 되어야 할 필요성이 있다.

4) 관리자 의무

  • 자율주행자동차의 선택에 상관없이 인적 피해가 생기는 경우 효과적으로 대응하기 위해서는 독립적인 공공기관에서 각 사례에 관해 체계적인 분석과 관리를 담당 할 필요성이 있다.

  • 자율주행자동차의 운행해 대한 책임은 개인, 제조 및 운영사, 인프라 건설사, 정책적 의사결정자 등으로 나눌 필요성이 있다.

  • 자율주행자동차의 운행감시 및 운행조작은 개인의 사생활 침해라는 윤리적 문제의 소지가 있기 때문에 자율주행자동차의 중앙적 통제는 제한 될 필요성이 있다.

  • 자율주행자동차 운행으로 발생하는 데이터에 대한 사용여부는 반드시 자율주행자동차 소유자 또는 운행자의 승인을 받을 필요성이 있다.

5) 소비자 의무

  • 자율주행자동차의 운행을 결정한 사람은 타인의 자유와 안전에 대해서도 상응하는 책임을 질 필요가 있다.

  • 자율주행자동차 이용자는 자율운행시스템의 올바를 조작을 위해 운전교습이나 운전면허 시험을통해 자율주행자동차 관련 된 교육을 이수 할 필요가  있다.

Previous ArticleNext Article

운전자-자동차 상호작용(Driver Vehicle Interactions) 0 104

DVI(Driver Vehicle Interactions)는 직접적인 영향을 미치는 운전자와 자동차 사이의 커뮤니케이션 방법과 제어 기능 설계의 적절성 및 효율성, 이를 정량적으로 평가하기 위한 다양한 운전자 인지반응과 행태반응의 분석방법 및 지표 개발 등을 의미한다. 이렇게 운전자와 자동차 사이에 운전자와 자동차의 DVI전환적 판단기술이 필요하게 되는데, 그 기술은 다음과 같이 정의해 볼 수가 있다.

  • ICT기반차량/운전자 협력자율주행 시스템은 센서 및 통신기술(V2X)을 기반으로 주행상황을 인식하고, Direct/Indirect 인식기반으로 운전자 상태를 판별하여, 차량의 운전 제어권을 결정하고 이를 인용하여 운전자를 보조하거나 제한된 환경에서 스스로 운전하는 자동차와 운전자간 협력형 주행 시스템이며 운전자, 주행상황, 자동차와 상호작용을 하는 시스템이다.

  • 긴급모드 판단 및 운전자 통제권 판단기술은 차량의 자율주행 시 운전자 및 주변상황, 센서의 기능상 문제로 인한 긴급작동여부 및 긴급성의 수준을 판단하고, 운전자와 자율주행 시스템 간에 차량 조작/제어통제권을 자동으로 부여하는 기술이다.

IEEE 글로벌 이니셔티브 『윤리적 설계』 발간 0 12

IEEE 글로벌 이니셔티브는 인공지능 및 자율시스템과 관련한 구체적 사안을 다루는 『윤리적 설계』를 발간하였다.
『윤리적 설계』는 여덟 섹션으로 구성되어 있으며, 섹션의 주제와 관련된 쟁점들과 권고사항들이 실려있다.
자세한 내용은 아래의 내용을 참고하기 바란다
『윤리적 설계 : 인공지능 및 자율시스템에서 복지를 우선시하는 비전』, 초판. IEEE, 2016. http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html
 

Most Popular Topics

Editor Picks