據MIT Technology Review報道，2016年5月份，一輛特斯拉汽車卷入美國佛羅里達州的致命車禍中，導致司機當場死亡。如今，美國國家運輸安全委員會（NTSB）發布調查結果，宣稱特斯拉的自動駕駛系統（Autopilot）存在局限性，系統缺少保護措施，這是發生車禍的“重要原因”。

NTSB主席羅伯特·薩姆瓦爾特（Robert Sumwalt）表示，特斯拉不僅為汽車配備了有限的自主能力（這是該公司之前承認的），同時也無法確保它的人類駕駛員在Autopilot投入使用時注意道路安全。薩姆瓦爾特說:“特斯拉允許司機在其設計的環境之外使用該系統，而該系統給司機提供了太多分心的機會，促使他們轉移注意力。”

不久前，《華爾街日報》曾發表關于特斯拉自動駕駛程序的詳細報道，其中幾名工程師對該系統的安全性表示深切關注。這套系統只能提供部分自主能力，需要司機的持續關注。但特斯拉公司，尤其是其首席執行官伊隆·馬斯克（Elon Musk）公開表示，自動駕駛系統完全能夠自動駕駛。

在車禍發生的時候，特斯拉的汽車配備了相應設備，以檢測司機的雙手是否握在方向盤上。如果司機雙手松開超過數秒種，它就會發出警報聲。NTSB在其聲明中表示，這些措施不足以監測司機是否注意到道路。從那以后，特斯拉就逐步提高了汽車駕駛員的參與度，并升級了新款汽車的傳感器套件。但NTSB的聲明是一個必要的提醒：要想完善半自動駕駛汽車設計的核心——人車互動問題，我們還有很長的路要走。（小小）