7月初，美國達拉斯警察局在處理一次針對警方的暴力事件中，用遠程控制方式讓一個排爆機器人炸死了犯罪嫌疑人。雖然此前機器人和無人機已在軍方獲得廣泛的應用，但在美國本土，執法部門用機器人殺人還尚屬首次。

　　此事一出就迅速引發了大量的關注和討論，諸如“機器人殺人”這樣充滿噱頭的字眼大量出現在新聞標題中。那么人們是否應該為此感到緊張和擔憂呢？

　　軍用無人機

　　戰爭一直以來都是推動技術前進的重要力量，在戰場上遙控殺戮自然不是什么新鮮事物。

　　早點的例子有英國在1346年克雷西戰役中引入的英格蘭長弓和第二次世界大戰期間，納粹德國研制的V-1和V-2火箭。

　　在14—15世紀的英法百年戰爭中，長弓是英國弓箭手的主戰武器。射程可達300米左右，具有一定的破甲能力，能在對陣時對敵方沖鋒的士兵和戰馬造成巨大傷害。納粹德國的V-1和V-2火箭在當時是一種極為先進的武器，可謂是現代彈道導彈的鼻祖。V-2火箭的最大速度可以達到4倍音速，幾乎無法防御。英國因火箭襲擊死亡1.16萬人，傷6.6萬人。

　　如今，遙控武器的使用更為普遍。“捕食者”和“收割者”這樣的無人機就是其中的代表，它們早已被用于傳統戰場。

　　與有人駕駛飛機相比，無人機更為高效，具有輕便靈活、滯空時間長、不易被發現的特點。此外，還能避免飛行員的死傷。美國白宮今年7月1日發布數據稱，2009年至2015年，美國在阿富汗、伊拉克和敘利亞3個戰區以外地區共發動473次襲擊，其中大部分是無人機襲擊。無人機已從美國情報機構的實驗項目發展成美國在海外高度依賴的空中打擊力量。目前，歐洲正在研制神經元無人機，隨著人工智能技術發展，無人機的自主作戰能力將越來越強。

　　但是，批評者認為，由于這種打擊手段缺乏風險，從根本上降低了使用致命武器的門檻，極易導致濫用。此外，近年來備受詬病的還有無人機造成平民傷亡等附帶損傷問題。

　　地面武裝機器人

　　除了天上飛的，還有地上跑的。如今，機器人同樣被部署到地面部隊。

　　韓國就用機器人哨兵來守備邊界。這些機器人配有熱感應、運動檢測裝置和機關槍與榴彈發射器。研發人員表示，其優點是不會疲倦，不會睡著，能隨時保持警戒。當感知到潛在的威脅后，它會立即通知指揮中心，在接到開火命令后進行射擊。

　　值得注意的是，其開火命令仍然由人類發出。這回到了“達拉斯事件”的關鍵點上——機器人仍然是在人類的控制之下。未來我們真正需要擔心的不是遙控武器而是那些能夠自主作戰的自動化武器，而這兩者經常被錯誤地混為一談。真正的自主機器人系統將不再需要人類發出的開火或引爆命令，這也是韓國武裝機器人未來發展的目標。下一步這些機器人可能會被教會如何辨別敵友，然后再自行開火。

　　未來學家設想一群預設了目標的將戰爭法和交戰規則編入程序的納米機器人進行戰斗的情景，美國海軍已經在用無人機集群進行這樣的嘗試。但目前的問題是這種機器人如何應對復雜局面和倫理困境，如在某種特定場景下是否開火，以及面臨可能出現的平民傷亡如何抉擇。這與目前自動駕駛汽車面臨的問題幾乎別無二致——是選擇撞上一群孩子，還是讓自己的乘客受傷。

　　這些擔憂在自動化領域也是一個老話題。此前爭議最大的是美國在冷戰期間設計的一種在遭到核打擊后第一時間進行反擊的計算機系統。

　　網絡安全隱憂

　　當自動化遇到互聯網后，這一問題會變得更為復雜。

　　同樣是在冷戰期間，美國制造了一臺被稱為半自動地面防空系統（Sage）的裝置。它可以被稱為最早由人工操作的實時控制計算機系統，借助聯網的計算機，它能接收各個雷達站傳來的信息，識別出入侵美國領空的蘇聯飛機。不久后，用于反擊的導彈系統也被接入其中。一位美國空軍上尉曾對此表示過擔憂，認為用計算機控制導彈發射非常危險。如果有人侵入這樣的計算機系統，將導彈瞄準美國的城市而非蘇聯的轟炸機那會怎樣？

　　這些來自自動化和遙控系統的問題，可以說是目前我們所面臨的網絡安全問題的始祖。然而，時至今日，遠程控制和全自動化系統的風險依然存在。

　　雖然軍事用途的無人機和機器人大都會通過特殊的加密通道進行控制。但任何黑客都會告訴你這句網絡安全領域的經典語錄——“沒有絕對安全的系統”。

　　如今，機器人已經開始接管汽車的方向盤，未來它們也將獲得武器的控制權。雖說，各種自動化武器已在戰爭中獲得了大量的應用，但本土安全和治安是一個完全不同的領域。

　　軍用機器人距離普通人的生活比較遙遠，而警用機器人就在你我的身邊。“警方如何劃定使用機器人的場合和界限？”“機器人是否會被濫用，增加過度執法的可能？”“達拉斯事件”后，類似的擔憂成為了現實的問題。

　　對于使用機器人來說，風險和利益如何平衡，遠程控制與全自動化孰優孰劣目前還不清楚。但可以確定的是，隨著新技術和新使用場景的出現，必須立即著手修正現有法規和政策，設定必要的界限，確保更為安全的使用機器人，為人類造福。