機器人要承擔刑事責任嗎？

????????警用裝備網(wǎng)訊：?不論是弱人工智能時代，還是強人工智能時代，人工智能與大數(shù)據(jù)對法學和法律實踐所造成的變革都已是不爭的事實。法學研究對人工智能時代所提出的新課題的回應，將會為未來的司法實踐贏得主動權。

　　關于人工智能和法律，前美國國家安全顧問和國務卿基辛格在近日發(fā)表于 《大西洋月刊》的文章中曾談及一個自動駕駛汽車版本的 “電車難題”：如果自動駕駛汽車因突發(fā)情況，被迫在殺害老人和殺害孩子之間作出選擇，它會選擇誰？為什么？再進一步思考，如果這輛汽車撞死撞傷了人，誰又該為此負刑事責任？是這輛車，還是這輛車的設計者？

　　這個假設的場景只是人工智能面對法律問題的一個縮影。伴隨著人工智能和大數(shù)據(jù)技術的迅速發(fā)展，一系列類似的問題也接踵而來：人類生產(chǎn)生活方式的深刻變革將會給法律制度和社會治理帶來哪些挑戰(zhàn)？現(xiàn)行法治體系又該如何調(diào)整和應對？近日，由華東政法大學人工智能與大數(shù)據(jù)指數(shù)研究院主辦，上海市大數(shù)據(jù)社會應用研究會和律新社協(xié)辦的“人工智能、國家治理與法治論壇”在華東政法大學舉行，與會專家們針對上述問題展開了討論，為我們勾勒了人工智能時代下法治世界的圖景。

　　人工智能如何實現(xiàn)未來的精準法治

　　在美劇《西部世界》中，主角福特有一句著名臺詞：“我們給機器編碼，是為了解碼人類?！痹谌斯ぶ悄軙r代，隨著越來越多的社會活動轉移到互聯(lián)網(wǎng)上進行，人們在互聯(lián)網(wǎng)上留下海量數(shù)據(jù)，使得原本不可預測和追蹤的社會行為變得可以被計算。無論是對企業(yè)的經(jīng)營還是政府的管理來說，這種“社會的計算化”都意義重大：企業(yè)可以通過分析客戶數(shù)據(jù)、投放定制化廣告來兜售自己的產(chǎn)品，政府可以利用海量數(shù)據(jù)對個人進行分類、評分和社會信用評級來實現(xiàn)預測性執(zhí)法，從而更好地進行精準化治理。

　　但是，由于如今的“社會計算化”主要由商業(yè)力量推動和控制，這給政府的治理工作帶來了新的問題。上海交通大學凱原法學院教授鄭戈就指出，傳統(tǒng)上人們認為，政府掌握了最充分的個人數(shù)據(jù)，從出生、入學、就業(yè)、婚姻、生育到死亡，但這些數(shù)據(jù)都是靜止的，它并不能生成對一個人動態(tài)的行為模式的分析?，F(xiàn)在，由于人的大部分線上活動不是在政府平臺上進行，而是在搜索引擎、購物平臺、社交網(wǎng)絡等由私人企業(yè)運營的商業(yè)平臺進行，因此大量的數(shù)據(jù)實際是掌握在私人企業(yè)手里。政府雖然可以在行政、司法和執(zhí)法的過程中要求企業(yè)提供特定的個人數(shù)據(jù)，但這種要求只能在具體個案中針對特定人物，不能成為可供機器學習的大數(shù)據(jù)。而且，也可能遭到企業(yè)以保護商業(yè)秘密或合同關系為由的拒絕。

　　鄭戈的擔憂并非空穴來風。在近日發(fā)生的“女孩坐滴滴順風車遇害案”中，滴滴公司就以保護司機隱私為由，未在第一時間向警方提供車牌、駕駛人信息，致使救援行動延誤。更為“諷刺”的是，滴滴一方面拒絕與政府合作披露用戶信息，另一方面又偷偷地濫用用戶的個人信息，典型的例子即是前不久因“空姐遇害案”引發(fā)爭議而下線的順風車用戶標簽和車主評價功能。

　　“從法律的角度來看，我們在考慮人工智能在所謂的精準治理中的應用時，首先要面對的就是政府和企業(yè)的關系問題——政府既需要與企業(yè)合作來獲取數(shù)據(jù)、購買產(chǎn)品和服務，又需要作為企業(yè)與消費者之間的中立第三方來對企業(yè)進行監(jiān)管，保護消費者的個人數(shù)據(jù)?！痹卩嵏昕磥恚竟卜疹I域的公、私權力關系是未來治理需要解決的首要問題：“一方面，要將透明、公開、程序合法、說明理由等對公權力行使者的要求延伸到實際上行使著 ‘準公權力’的企業(yè)，使算法等技術化的監(jiān)控和決策手段不再是無法被問責的‘黑箱’；另一方面，要調(diào)整傳統(tǒng)的公法概念和規(guī)制手段，以應對現(xiàn)時代公私合作、公私共治的普遍現(xiàn)象?！?/p>

　　人工智能可以替代法律工作者嗎

　　如今，“智慧司法”已然是大勢所趨：已在上海市全面推廣應用、覆蓋上海刑事案件的90%以上的“刑事案件智能輔助辦案系統(tǒng)”，就是人工智能新科技和司法改革深度融合的典范。在對上海幾萬份刑事案件的卷宗、文書數(shù)據(jù)進行“深度學習”后，該系統(tǒng)已具備初步的證據(jù)信息抓取、校驗和邏輯分析能力。今年8月，一場法律界的“人機大賽”在重慶舉行，由重慶研發(fā)的人工智能法律機器人“大?！迸c從全國公開招募的6名資深律師進行了法律服務比拼，比賽結果令人瞠目結舌——“大?！钡牡梅诌h遠高于這6位資深律師。

　　上述這些例子都表明，法律從業(yè)人員的許多具體工作可以被人工智能所取代，這是否意味著人工智能會全面取代法律工作者？答案顯然是否定的?！叭斯ぶ悄芩w現(xiàn)的技術理性有明顯的化約主義傾向，我們可以借助它來提高效率，取代一部分無需創(chuàng)造性和價值判斷的工作，比如闖紅燈罰款，但不能由它來做出事關人類福祉的最終決策。在涉及事實爭議和價值選擇的復雜問題上，人工智能只能被用來強化人類智能，而由人來作出最終的選擇和判斷?！编嵏赀@樣說。

　　上海市法學會黨組書記崔亞東則進一步指出：“在未來的法律人才培養(yǎng)上，一方面要在高校設立法律人工智能研究中心，開設相關法律科技等方面的課程，培養(yǎng)法律和科技的復合高端人才。另一方面，我們也要明確在人工智能時代，法學教育的主業(yè)仍然是法律，人工智能的引入應該是輔助法律從業(yè)人員更加高效、便捷、公正公開地處理法律事務，至于這個證據(jù)能不能用、怎么用，如何量刑等問題，最終的決定權仍在法官、檢察官手中，這一點決不能走偏。”

　　人工智能偏離人類的預設怎么辦

　　美國波士頓動力公司曾設計出一款可以 “隨機應變”的機器人：給它設定一個“搬箱子”的任務，無論實驗人員怎么妨礙它（把箱子移到別處，或者直接把機器人推倒），它還是會“頑強地”爬起來完成任務。但是，有學者擔心，給機器人植入一個 “排查妨礙”的程序，如果它突然產(chǎn)生意識、學會自我學習，它發(fā)現(xiàn)每次害自己完不成任務的人是這個實驗人員，那它會不會為了完成任務直接把這個實驗人員撂倒？可見，當智能機器人被設定為一種由程序編碼而成并由此產(chǎn)生深度學習能力的物體時，它完全有可能超越人類對它的預設，獨立實施某些犯罪行為，這就對現(xiàn)有的刑罰體系產(chǎn)生了沖擊。

　　對此，華東政法大學刑事法學研究院院長劉憲權教授在他的新書《人工智能時代刑事責任的演變》中指出，人工智能已經(jīng)遠遠不是作為犯罪工具那么簡單，它影響著刑事責任的分配。他這樣說：“現(xiàn)在一般將人工智能時代分為三類：前人工智能時代、弱人工智能時代、強人工智能時代。前人工智能時代中的機器人，我們稱之為普通機器人，比較典型的是ATM機和工業(yè)機械手。如果ATM機出了問題，我們不太可能去追究它的研發(fā)者和使用者。但在我們正處于的弱人工智能時代中，在自動駕駛技術日益普及的當下，我們對研發(fā)者和使用者的責任定義就有了很大變化。比如，委內(nèi)瑞拉無人駕駛的炸藥，還有韓國的殺人機器，從法律的角度來看，這應當是研發(fā)者的責任。未來，如果強人工智能時代到來，機器人擁有了自由意志，就需要獨立承擔刑事責任?！北M管目前在“強人工智能時代是否會到來”這一問題仍有很大的爭議，但劉教授認為法律工作者的態(tài)度應是寧可信其有、不可信其無：“我們必須預先設定一些應對的法律，否則一旦強人工智能時代到來，關于人類的顛覆性問題就會出現(xiàn)，甚至到時候，不是人類制定法律規(guī)制它，而是它制定法律規(guī)制人類，這并不是天方夜譚?！?/p>

　　類似地，《華東政法大學學報》主編馬長山教授也強調(diào)了要對現(xiàn)有法學理論進行顛覆性創(chuàng)新來應對眼下的這場人工智能革命，他指出：“這個重建分為以下幾個方面：一是研究理念的轉向。我們傳統(tǒng)的研究理念是建立在以羅馬法學為基礎的法律體系，羅馬體系是以人和人、人和物的關系為重要基礎，但隨著生產(chǎn)關系的變化，當下的智能社會是以數(shù)據(jù)、信息、算法為基礎，這意味著整個生產(chǎn)管理和人們的生活方式都發(fā)生了巨大變化，沿用傳統(tǒng)的理念可能無法解決許多問題。二是知識譜系的更新。現(xiàn)代法律體系是建立在理性主義和個人主義的基礎之上，但現(xiàn)在社會發(fā)展的去中心化、扁平化趨勢使得原先的‘理性人假設’等基礎理論被顛覆。此外，如果將來機器人產(chǎn)生意識，我們還需重新考慮主客體關系。三是理論與邏輯的重建。我們現(xiàn)在處理一些網(wǎng)絡信息、人工智能的案件是完全套用原本物理空間的邏輯而進行，但存在許多問題，比如網(wǎng)絡賭博案件，很難找到合適的管轄范圍，因此必須重建適用于智能互聯(lián)網(wǎng)時代的新邏輯。”

　　由此可見，不論是弱人工智能時代，還是強人工智能時代，人工智能與大數(shù)據(jù)對法學和法律實踐所造成的變革都已是不爭的事實。法學研究回應人工智能時代提出的新課題，將會為司法實踐贏得主動權。未來已來，法律工作者們將手執(zhí)正義女神朱斯提提亞的長劍，用法治為人工智能的健康發(fā)展護航。

  新聞稿件歡迎直接聯(lián)系：QQ 34004818 微信公眾號：cpsjyzb

相關閱讀

• 筑牢人工智能安全防火墻
• 美軍補給無人機簡述
• 楊金才：低空經(jīng)濟萬億市場開啟，無
• 情緒識別，安檢的下一個風口？
• 無人裝備朝著主戰(zhàn)化加速演進
• 俄烏沖突中的反無人機作戰(zhàn)方式

0 條評論

• 還沒有人評論過，趕快搶沙發(fā)吧！