新能源汽車法規｜自動駕駛汽車如何應對“電車難題”【走出去智庫】

走出去智庫（CGGT）觀察

由走出去智庫（CGGT）提供學術資源支持的《深圳法治評論》2025年第二期《專論》欄目聚焦“創新自動駕駛汽車管理制度體系”，約請法律專家建言獻策。

西南政法大學民商法學院鄭志峰教授的文章《自動駕駛汽車如何應對“電車難題”》，闡述了自動駕駛汽車如何應對“電車難題”，分析了“機器人三法則”在自動駕駛汽車運行管理中具有局限性后， 提出了應當為自動駕駛汽車設置“機器人碰撞三法則”，并肯定了深圳自動駕駛汽車前沿立法探索破解“電車難題”的做法。

《深圳法治評論》由中共深圳市委全面依法治市委員會辦公室、深圳市司法局主辦，定位于高端領導決策讀物，聚焦深圳法治建設，刊發高水平、可實操的應用性政策研究，輔助市領導及本市黨政機關領導干部法治建設方面決策，為支持深圳建設中國特色社會主義法治先行示范城市建言獻策。《深圳法治評論》在2020-2024年連續五年榮膺深圳內刊傳媒獎之“優秀城市內刊獎”。自2020年創刊起，走出去智庫（CGGT）即為該高端決策讀物提供學術資源支持。

今天，走出去智庫（CGGT）微信公眾號刊發西南政法大學民商法學院鄭志峰教授的文章《自動駕駛汽車如何應對“電車難題”》，供關注自動駕駛汽車法規的讀者參考。

要點

1、“電車難題”對自動駕駛技術具有重要的規范價值，直接關系到產品準入、責任分配等法律制度設計，絕非空洞的智力游戲，而是關乎人機法律秩序是否以人為本的根本問題。

2、機器人三法則完全以人類利益為中心，并不必然體現真正的“善”。第二法則要求機器人無條件服從人類命令，只要不違反第一法則。這將賦予每個人類對機器人極大的支配權，即便出于無理甚至惡意的目的，人類仍可命令機器人傷害自己或自毀。

3、《深圳經濟特區智能網聯汽車管理條例》高度重視安全管理，明確實行產品準入制度，從源頭減少“電車難題”的發生。

正文

文/鄭志峰

西南政法大學民商法學院教授、博士生導師，科技法學研究院副院長

想象一下，在未來某個遙遠的時刻，您的自動駕駛汽車遇到一個可怕的兩難選擇：它必須向左轉，撞向一個八歲的小女孩，或者向右轉，撞向一位八十歲的祖母。根據汽車的速度，無論選擇哪一方，受害者都將喪生。這是“電車難題”在自動駕駛時代新版本的體現。既然自動駕駛汽車將取代人類駕駛員，就必須遵循人類的倫理準則。然而，讓機器具備倫理判斷能力極具挑戰性。歷史上，阿西莫夫提出“機器人三定律”，試圖規范機器人行為，但其在兩難困境中的效用仍存爭議。如何應對倫理困境，不僅是技術問題，更可能影響自動駕駛汽車的準入標準與責任認定，值得深思。

“電車難題”的法律意義

“電車難題”自提出以來爭議不斷，至今仍無定論。在此背景下，探討其對自動駕駛汽車是否具有現實意義？筆者認為，“電車難題”對自動駕駛技術具有重要的規范價值，直接關系到產品準入、責任分配等法律制度設計，絕非空洞的智力游戲，而是關乎人機法律秩序是否以人為本的根本問題。

自動駕駛汽車面臨“電車難題”的可能性客觀存在

首先，作為新興技術，其安全性只能是相對的，即便系統完善，也無法完全避免碰撞事故。其次，自動駕駛技術尚處于發展階段，在可預見的很長一段時間內仍將與傳統車輛并存，“電車難題”短期內無法回避。最后，“電車難題”的成因多樣，既可能源于自動駕駛汽車本身的剎車故障或系統缺陷，也可能由其他交通參與者的違規行為引發，或因惡劣天氣與復雜路況等意外因素導致。因此，僅憑技術進步尚不足以徹底避免“電車難題”的發生。

“電車難題”也會影響著自動駕駛汽車相關法律制度的設計

當面臨“電車難題”時，自動駕駛汽車不可避免地會對一方造成損害，從而引發生產者、使用者、保險公司之間的責任分擔問題。而生產者是否設計出合理應對該問題的算法系統，還將直接影響產品的市場準入。

在域外，德國早在 2017 年發布了《自動和網聯車輛交通倫理準則》，2021 年通過的《自動駕駛法案》，第 1e 條第 2 款第 2 項要求自動駕駛系統在不可避免的事故中權衡法益，優先保護人的生命，并不得依據個體特征設定差別權重，直面“電車難題”。在國內，2022 年制定的《上海市浦東新區促進無駕駛人智能網聯汽車創新應用規定》第 32 條規定，若自動駕駛汽車違反倫理要求或存在重大風險，應終止其應用。2023年工信部等四部委制定的《關于開展智能網聯汽車準入和上路通行試點工作的通知》明確指出，系統應避免對駕乘人員和其他交通參與者造成不合理風險，事故不可避免時應采取合理控制策略。2024 年 AI 善治學術小組提出的《人工智能法（學者建議稿）》亦在第 75 條第 2 款中要求，不得對交通參與者進行不合理差別對待。因此，討論“電車難題”具有現實意義，會影響自動駕駛汽車乃至人工智能的法律設計。

“機器人三法則”的局限

阿西莫夫被讀者譽為“神一樣的人”，其在1942 年短篇小說《環舞》中提出了著名的“機器人三法則”。

“機器人三法則”的內容

一是不得傷害人類或坐視人類受傷（不傷害法則）；

二是須服從人類命令，除非與第一法則沖突（服從法則）；

三是在不違反前兩法則下保護自己（保護法則）。

1986 年，他在長篇小說《機器人與帝國》中又提出“零號法則”：機器人不得傷害人類，或因不作為致其受害。只不過零號法則提出較晚，不如機器人三法則名氣大，在科幻小說和法學界，人們習慣上仍稱之為機器人三法則。

機器人三法則備受推崇，被稱為“當代機器人學的基本法則”“現代機器人學的基石”。即使是放在當前的人工智能環境中，該法則也是非常具有啟發意義的倫理指引。2016 年歐盟制定的《機器人技術民事法律規則》就明確指出，“阿西莫夫機器人三法則應當可以直接適用于具有自主性和自我學習能力的機器人的設計者、生產者和操作者，盡管這些法則并不能被轉換成機器代碼”。

“機器人三法則”的困境

那么，機器人三法則是否可以解決兩難困境呢？筆者認為，答案是否定的。

首先，機器人三法則存在內

在沖突阿西莫夫在小說《環舞》中便展現了這一矛盾：兩名宇航員在水星執行任務時，一名宇航員命令機器人斯皮迪采集硒礦。但斯皮迪在硒礦湖附近徘徊不前——靠近硒礦湖會觸發第三法則（自我保護），遠離后又觸發第二法則（服從命令）。

兩個法則不斷拉扯，使機器人陷入循環。這源于斯皮迪造價昂貴，程序上加強了自我保護機制，使第三法則權重上升，最終與第二法則產生沖突。由此可見，機器人三法則本身正是建立在邏輯張力之上，若其完全協調，許多科幻作品便不會有如此豐富的戲劇沖突。

其次，機器人三法則并不完全符合倫理

機器人三法則完全以人類利益為中心，并不必然體現真正的“善”。第二法則要求機器人無條件服從人類命令，只要不違反第一法則。這將賦予每個人類對機器人極大的支配權，即便出于無理甚至惡意的目的，人類仍可命令機器人傷害自己或自毀。由于服從法則優先于保護法則，機器人對自身無法有效防護。這種權力結構并不構成人機和諧的倫理基礎。理想的機器人倫理，不僅應規范機器人行為，也應反向促進人類的道德自律。

最后，機器人三法則無法解決兩難困境

機器人三法則的邏輯預設機器人總能找到不傷害人類的“好”選擇，然而現實中常有道德兩難：自動駕駛汽車面對小女孩和祖母，轉向或直行都會造成傷害。此時，機器人無論如何抉擇，都將違背第一法則，陷入倫理困境。更復雜的是，機器人三法則未明確“傷害”的程度區分，在生命與健康、重傷與輕傷之間缺乏判斷標準。例如，撞擊小女孩可能致命，而撞擊祖母僅造成輕傷，但機器人三法則對此無能為力。

“機器人碰撞三法則”的提出

為破解“電車難題”的道德困境，應立足于提升全體交通參與者安全的目標，為自動駕駛汽車構建“機器人碰撞三法則”。

第一法則：生命利益優先法則

生命利益應優先于財產與動物利益，這在德國《自動和網聯車輛交通倫理準則》第 7 條中已有體現。無論車內外人員，生命利益都應被優先保障。與此同時，生命利益有條件地優于健康利益，如自動駕駛汽車直行會導致甲死亡，左轉僅會使乙受傷，此時可選擇左轉。但這種“優先”并非無條件：若為挽救一人生命而導致多人重傷，則道德上難以正當化。因此，僅當健康損害輕微且能換取較大生命利益時，生命利益才可優先。

第二法則：遵守交通法規優先法則

交通法規維護多數人安全，應被自動駕駛系統優先遵循。當兩難困境源于一方違法，自動駕駛汽車應優先保護守法一方。例如，逆行騎手與正常過路人構成沖突，應由違法者承擔后果，車輛應直行，不應轉向以犧牲他人安全。即使違法者人數更多，如五人騎手逆行，也不應轉向撞向守法個體或犧牲車內乘客。唯有堅守這一底線，才能真正維護規則的權威，促使公眾普遍遵守法律。

第三法則：不改變路線兜底法則

前兩種法則無法涵蓋所有情形，如兩人都違反交通規則，或都遵守交通規則時，該如何抉擇？此時，“不改變路線”可作為兜底機制。例如，自動駕駛汽車直行撞到甲、左轉撞到乙、右轉犧牲乘客，甲乙均違法，生命利益也相等，此時應維持既定路線，選擇直行。同理，在雙方都守法的情況下，也應適用該法則，避免人為選擇決定生死。

深圳對“電車難題”的前沿探索

作為我國自動駕駛汽車發展的先行城市，深圳不斷探索解決相關法律問題，推動產業加速發展。2022 年，深圳出臺全國首部規范智能網聯汽車管理的法規——《深圳經濟特區智能網聯汽車管理條例》（以下簡稱《條例》），為自動駕駛汽車的準入、管理與責任劃分提供了制度保障。

2023 年，深圳發布十項地方標準，構建起地方技術準入體系，成為全國首個制定智能網聯汽車標準的城市。在應對“電車難題”方面，深圳也展開了諸多前沿探索。

堅持產品準入

《條例》高度重視安全管理，明確實行產品準入制度，從源頭減少“電車難題”的發生。一方面，生產者與銷售者須對產品質量安全負責，建立可追溯機制；另一方面，需完善售后服務體系，若發生重大故障，應及時提供技術支持與救援服務。此外，生產者若發現產品存在缺陷，應立即調查并向監管部門報告，確認為缺陷產品的，必須停止相關活動并實施召回，經營者也須配合處理。

堅持全生命周期安全

除功能安全與預期功能安全外，《條例》還強調網絡安全與數據安全，防止黑客入侵引發風險。企業應依法取得安全認證，建立應急預案與數據管理制度，確保信息安全。在產品使用中，要求車輛配置自動駕駛模式外部指示燈，運行時需開啟，提醒他人注意；駕駛人則須按規定掌握并規范使用自動駕駛功能，履行相應義務。

堅持以人為本

《條例》注重落實倫理困境下的“人在環內”原則，保障人在“電車難題”中的參與權。具言之，有條件和高度自動駕駛汽車必須具備人工駕駛模式，配備駕駛人，駕駛人需在駕駛座監控車輛狀態，隨時準備接管。完全自動駕駛汽車應具備故障或危險情形下自動采取避險措施的能力，如減速、遠程接管等。由于完全自動駕駛短期難以全面落地，故可以認為深圳強調的是人的決策參與，一旦發生“電車難題”，駕駛人需要介入選擇。

（原文《自動駕駛汽車“電車難題”的倫理困境與立法因應》發表于《法學》2024 年第 11 期，經作者修改后在《深圳法治評論》刊發。）

免責聲明

本文僅代表原作者觀點，不代表走出去智庫立場。

延展閱讀

▌地緣政治風險:

▌出口管制與制裁:

▌跨境數據監管:

▌全球科技競爭:

▌品牌聲譽管理:

走出去智庫（CGGT）為《深圳法治評論》提供學術資源支持。