“行車不規(guī)范，親人兩行淚，”還要承擔(dān)相應(yīng)的法律責(zé)任。但，如果開(kāi)車的“人”是人工智能怎么辦？

今天下午上海代表團(tuán)議案會(huì)簽現(xiàn)場(chǎng)，全國(guó)人大代表、致公黨上海市委專職副主委邵志清表示，當(dāng)社會(huì)行為主體中出現(xiàn)“人工智能”這個(gè)新門類，應(yīng)該明確人工智能與自然人的行為劃分。當(dāng)人工智能“犯錯(cuò)”，智能機(jī)器人的使用者、制造者和機(jī)器人本身都要承擔(dān)相應(yīng)責(zé)任，但這些法律責(zé)任應(yīng)進(jìn)行嚴(yán)格的區(qū)分。

日前，新華社在全國(guó)兩會(huì)前夕推出全球首個(gè)人工智能合成女主播，引發(fā)網(wǎng)友熱議。但另一方面，此前浙江警方曾于2017年 9 月破獲全國(guó)首例運(yùn)用人工智能實(shí)施犯罪的案件。英國(guó)《金融時(shí)報(bào)》也曾于2015年7月報(bào)道了德國(guó)大眾公司的機(jī)器人“殺人事件”，一名工作人員被正在安裝的機(jī)器人突然抓起重重摔向金屬板而不治身亡。

邵志清表示，上述案件中，有的是機(jī)器通過(guò)自主學(xué)習(xí)提升識(shí)別能力從而幫助人實(shí)施犯罪，有的則是因機(jī)器完全自主的行為導(dǎo)致人員傷亡。“傳統(tǒng)刑法領(lǐng)域只有自然人才是刑法規(guī)制的主體，然而在人工智能應(yīng)用場(chǎng)景下，很多機(jī)器成為了主體。”邵志清表示，現(xiàn)有法律已經(jīng)難以規(guī)范此類問(wèn)題，需要對(duì)人工智能的應(yīng)用場(chǎng)景管理進(jìn)行立法。

對(duì)此他建議，人工智能應(yīng)用場(chǎng)景的管理應(yīng)重點(diǎn)圍繞倫理道德、資源獲取、主體認(rèn)定、行為認(rèn)定、責(zé)任劃分等方面進(jìn)行立法。其中，對(duì)于人們最關(guān)注的倫理道德方面，應(yīng)該明確禁止應(yīng)用人工智能技術(shù)實(shí)施違反人類倫理道德的行為，尤其在基因工程、生命科學(xué)、情感意識(shí)等方面，應(yīng)該通過(guò)法律為智能社會(huì)劃出倫理道德的邊界。

同時(shí)，應(yīng)立法明確禁止人工智能采集涉及個(gè)人隱私、商業(yè)秘密、國(guó)家機(jī)密的資料或信息、數(shù)據(jù)等，從源頭上遏制惡意使用人工智能的不法行為。

對(duì)于特別“聰明”，已經(jīng)具備自主學(xué)習(xí)、思考、行動(dòng)能力的機(jī)器人，應(yīng)該明確在特定的應(yīng)用場(chǎng)景和應(yīng)用前提下，機(jī)器人與自然人主體的行為哪些要區(qū)分認(rèn)定，哪些要共同認(rèn)定。

邵志清還特別建議，應(yīng)立法明確人工智能的責(zé)任劃分和處罰原則，一旦發(fā)生機(jī)器人侵害人類的事件，應(yīng)該讓智能機(jī)器人的使用者、制造者和機(jī)器人各自承擔(dān)的責(zé)任都有嚴(yán)格區(qū)分。