`인간을 대체한 인공지능`이라는 말이 이미 낯설지 않은 지금 자율주행 자동차도 우리 삶의 일부가 될 시기가 머지않았다. 그러나 자율주행 자동차의 기술 발전 속도에 비해, 이에 대한 윤리적·법적 논의는 지체되어 기술과 규범의 공백이 점차 벌어지고 있다. 본고는 새로운 과학 기술이 인간의 기본권 체계에 긴장을 가져오는 구체적인 사례로 자율주행 자동차의 트롤리 딜레마를 제시했다. 트롤리 딜레마는 (1) 운전자 한 명의 생명권과, (2) 다수 보행자의 생명권을 포함한 자동차 외부의 법익이 충돌하는 상황을 가정하고 있다. 이 경우 공리주의적 프로그래밍은 전자를 희생시킬 가능성이 큰 반면, 운전자 우선주의적 프로그래밍은 전자를 우선시하고 후자의 법익을 포기할 것이다. 기존의 논의들은 모든 자율주행 자동차에 위의 두 입장 중 하나의 프로그래밍을 일률적으로 실시하는 것을 기본적인 전제로 삼아왔다. 하지만 제삼자인 국가가 일률적 프로그래밍으로써 사고 상황에 처한 자동차의 선택을 강제하는 것은, 생명과 관련된 중대한 사안에서 개인의 의사와 상관없이 국가가 그 개인의 이익을 위한다는 이유로 특정 행동을 강제하는 점에서 후견주의적 발상에 해당한다. 본고는 일률적 프로그래밍의 위헌성을 (1) 인간 존엄과 생명권, (2) 자기결정권, (3) 양심의 자유의 측면에서 논증 한다. 그리고 일률적 프로그래밍의 한계를 극복하는 해결책으로 운전자 스스로 사고 상황에서의 행동 양식을 결정할 수 있도록 보장하는 개별적 프로그래밍을 제안한다. 개별적 프로그래밍은 생명을 수단화해서는 안 된다는 신념의 표현으로서 인간 존엄을 보호하며, 운전자의 의사나 가치관에 따른 선택을 가능하게하기 때문에 자기결정권 또한 보장한다. 나아가 개별적 프로그래밍은 옳고 그름에 대한 자신의 신념, 즉 양심에 따라 행동할 자유를 허용한다. 개별적 프로그래밍은 새로운 과학기술로 인해 개척된 새로운 삶의 양식에서도, 인간 존엄을 기치로 하는 헌법적 가치가 여전히 보장되어야 한다는 것을 재확인한다는 의의를 갖는다.

Now that the phrase `Artificial Intelligence replacing human` is already familiar, self-driving cars will soon be part of our life. However, delayed discussion on self-driving car`s ethicalㆍlegal issue compared to its fast technical development led to the growing gap between its technique and ethics. This article adduces self-driving car`s trolley dilemma as an example which shows how newly developed technology can bring tension to the system of fundamental human rights. Trolley dilemma assumes the situation when (1) one driver`s right to life and (2) the benefit and protection of the law outside the car, including many pedestrian`s right to life, conflict. In this situation, utilitarian setting raise a concern of sacrificing the former, while driver-priority setting takes the later`s precedence over the former. Previous discussions were based on the premise which assumes one of the two settings being uniformly applied to all self-driving cars. However, uniform setting, in which the government enforces cars` reaction in an accidental situation, is paternalistic approach, as the setting induces the government to enforce drivers a particular choice about important matter of life without considering individual`s opinion for a reason that the government`s choice is the best choice for the individuals. This article argues unconstitutionality against the uniform setting in the aspect of (1) human dignity and right to life, (2) right to self-determination, (3) the freedom of conscience. Then, as the alternative to overcome the limits of uniform setting, this article suggests personal setting which guarantees each driver to determine their own car`s reaction in the accidental situation. Personal setting not only protects the human dignity by expressing the belief that human life must not be a mean, but also respects the right to self-determination by enabling drivers to follow their own opinion and value. Moreover, personal setting allows the freedom to act according to each person`s conscience, a moral sense of right and wrong. Personal setting has a meaning of reconfirming the necessity to protect the constitutional values such as human dignity in the new life style opened by new technology.