11月18日,網絡盛傳在深圳高交會上,一名叫小胖的機器人突發故障,撞向展臺玻璃,現場一人被劃傷。這不禁讓人想到去年,大眾汽車德國工廠一臺工業機器人,“出手”致一名技師喪生。
在好萊塢科幻電影《終結者》中,人類研制的高級計算機控制系統“天網”失控,機器人擁有自我意志后開始屠殺人類。據《世界機器人》統計,截至2013年全球機器人數量已超1000萬個。在即將到來的機器人時代,人類安全是否會受到威脅? 其實,就現有技術而言,我們并不能將傷人事件責任記到機器人頭上。上述傷人事件,都是機器人革命進程中的一部分。
然而,技術這把雙刃劍,在改變世界的同時,如何在該有的框框內被研發利用,卻是亙古不變的話題:寓言般的詛咒是否因人類恐慌過頭?在技術創新這條路上,牽涉的倫理哲學等問題,人類是否該停下來思考?11 月 18日,網絡盛傳深圳高交會上發生“全國首例機器人傷人事件”,名叫“小胖”的機器人突發故障,在沒有指令的情況下自行打砸展臺玻璃、砸傷路人,一位路人全身多處劃傷后被擔架抬走。
中國現首例機器人傷人事件
該文章稱,“小胖”機器人原為4歲-12歲兒童研發,主要用于教育目的。此后,機器人傷人事件引發熱議,“機器人原力覺醒”的猜測也在互聯上傳播。
18日下午,高交會組委會在其官網發布公告,稱事故是由于工作人員操作反了方向鍵所致。公告稱,11月17日13時50分左右,第十八屆高交會1號館1D32展位深圳展景世紀科技有限公司展臺發生意外事件。由于該展商工作人員操作不當,誤將“前進鍵”當成“后退鍵”,導致用于輔助展示投影技術的一臺機器人(又名“小胖”,北京進化者機器人科技有限公司生產)撞向展臺玻璃,玻璃倒地摔碎并劃傷一名現場觀眾,致其腳踝被劃破流血。
高交會官方還表示,經向展商和機器人生產企業了解,該款機器人于2015年11月23日在世界機器人大會上首次面世,目前已獲得國內相關安全認證。關于此次意外的詳細原因正在進一步核實中。對于網上種種猜測,“小胖”機器人的生產商表示,此次事件與機器人質量無關,“機器人原力覺醒”的猜測根本不成立。2015年,在德國大眾汽車公司的一家工廠,機器人“出手”殺死了一名工作人員。這名不幸身亡的工作人員是大眾的承包商,事發時該技術人員在安裝機器人,受機器人撞擊胸部,再被壓在鐵板上傷重而亡。
德國大眾工廠“機器人殺人”?
大眾集團發言人對此回應,這臺機器人并沒有出現技術故障,推斷事故是由人為錯誤導致。這名死者的工作和汽車制造無關,是安裝機器人和機器臂的專業人士。由于作出了違反安全規定的動作,他進入了安全籠進行機器臂安裝工作。
人工智能和自動化專家表示,這起事件應被理解為一起極為罕見的工業事故,而非來自未來機器人威脅的警告。這起事故是在技師裝配機器人的過程中發生的,機器人把技師擠到了一塊金屬板上。涉事的是一臺快速移動的第一代機器人,從設計上說,這種機器人是在籠子里工作的,遠離人類員工。由自動化裝備導致的致命事件可追溯至幾十年前,早在上世紀70年代就發生過自動化組裝生產線的事故。
歷史上的那些血淋淋的教訓
1979年1月25日,距離工業機器人發明公司unimation公司成立20后,年僅25歲的美國福特工廠裝配線工人,在福特鑄造廠被工業機器人手臂擊中身亡。這是迄今為止第一例有據可查的工業機器人殺死人類的案件。
1981年7月4日,日本川崎重工業公司明石工廠的一名修理工人,無意中觸動了機器人的啟動鈕,這個加工齒輪的機器人立即工作起來,把那個工人當成齒輪夾起,造成悲劇。
1982年5月,日本山梨縣閥門加工廠的一個工人,正在調整停工狀態的螺紋加工機器人時,機器人突然啟動,抱住工人旋轉起來,造成了悲劇。
面對機器人帶來的威脅,日本郵政和電信部門組織了研究小組,對此進行研究。專家認為,機器人發生事故的原因不外乎3種:硬件系統故障;軟件系統故障;電磁波的干擾。隨著現代科技的發展,專家們逐步找出了一些機器人失控的原因,因此,上世紀90年代以來機器人殺人事件已鮮有報道。作 為 20世紀自動化領域的重大成就,機器人目前已經和人類社會的生產、生活密不可分。根據《世界機器人》統計,截至2013年,全球機器人數量已超過1000萬個,其中工業機器人170萬個,服務機器人830萬個。
是人類恐懼過頭還是要停下來思考
特斯拉汽車公司首席執行官埃隆·馬斯克是對機器人安全性持質疑態度的代表人物。馬斯克曾向未來生命研究所捐贈1000萬美元,資助他們研究人工智能的安全性。該研究所的目的是確保人類對人工智能始終擁有控制權,確保機器人不會毀滅人類。
而謝菲爾德大學自主系統和機器人研究小組主管尚多爾·韋賴什教授指出,自上世紀70年代制造商開始裝配在籠中工作的機器人以來,這種致人死亡的事故極其罕見。第一起記錄在案的機器人致人死亡事件,發生在1979年的福特(Ford)美國工廠。自那以來,這類事件每年發生不到一起,在所有致人死亡的工業事故中只占極小的比例。機器人自動化很可能降低了工廠中的整體死亡率,原因是假如由人力來做機器人所做的工作,本會有更多的人在一系列工業事故中喪生。
聯合國呼吁暫停開發“殺人機器人”
2015年5月30日,聯合國“法外處決、即決處決或任意處決問題”特別報告員克里斯托夫·海因斯向人權理事會提交報告,建議人權理事會呼吁各國凍結“致命性自動機器人”(“殺人機器人”)技術的研發、生產和使用。“致命性自動機器人”是指在激活后無需人類干預即可自動選擇目標和采取行動的武器系統。目前已投入使用的“無人機”等技術仍然需要人類參與控制與決定,但“殺人機器人”則完全由電腦系統做出決定。然而也有支持者認為,由于能更大程度減少戰場上的信息不對稱情況、更加精確地針對目標,使用這種新技術可以減少傷亡。因此,海因斯并未在報告中提出立刻全面禁止這項技術的建議。他說,對待這項新技術有三種選擇:在現有各類規范下任由其發展和使用、嚴格禁止、針對它制定新的規范。在未經相關各方認真討論之前,得出結論還為時尚早。海因斯的報告說,現階段尚無“全自動”機器人投入使用,但相應技術已具備,或在不久的將來就會出現。(舜網-濟南時報)