一條人形機器人發瘋的視頻在網上火了,視頻中快遞盒子亂飛,場麵一度十分抓馬。
突然發瘋!人形格鬥冠軍機器人淩空回旋踢,架子都幹翻研究人員:希望是一場幻覺。
視頻中“發瘋”的機器人是今年機器人格鬥的美國冠軍DeREK(原型為宇樹機器人G1),而抱著頭的這位,是該機器人團隊REKrobot的CEO兼機器人格鬥手Cix。
看看他們在贏得比賽時意氣風發的樣子,估計也想象不到會發生這樣的事。
關於DeREK“發瘋”的技術原因,Cix是這樣解釋的:我們啟用了全身策略,但機器人的雙腳沒有接觸地麵。
簡單地說,被吊起來的人形機器人進入了“行走模式”,但沒有識別到腳下的路,才導致了這次失控。
不過,網友們關心的顯然是另一方麵:為什麽要離那麽近才能摁停止按鈕?它需要一個遠程無線的緊急製動!
更詳細的解釋網友們關心的遠程緊急製動其實是存在的——隻是不管用而已。
為什麽會不管用?Cix沒有說出原因,但詳細解釋了整個過程:
DeREK的最初政策設計上不該出現這種情況,文檔裏也寫明懸掛狀態下可運行。
問題在於最終狀態自動恢複成了行走模式。
通過網絡代碼強製終止未果,他們配發的無線電急停裝置現在需要5秒才能生效。
最後直到以太網電纜鬆脫,係統才真正停止。
而5秒,對於緊急製動來說,可是會要命的。
然而,雖然Cix自己沒找到原因,有網友對這件事情作出了深刻的思考,回答了以下幾個問題:
1、為什麽無法關機或移除電池?
電池從機器人身體的側麵安裝,位於機械臂後麵,在機器人失去控製時,靠近這個區域將極其危險。
並且,電池固定在身體上,關閉它需要按住電源按鈕兩秒鍾,即使從安全距離用棍子操作也難以實現。
此外,電池本身的BMS按鈕可能僅由一款通用微控製器驅動,其軟件設計僅滿足基礎功能需求,並非用於緊急停止(E-Stop)。它很可能缺乏嚴格的安全設計,容易導致以下問題:按鈕失靈、物理損壞或軟件故障,從而在緊急情況下無法切斷電池電源。
2、為什麽不能自己對抗機器人?
機器人的電機非常強勁。如果有所準備,或許能強行停住一個電機,但肯定沒法同時停住多個。每個電機的扭矩高達120至160牛米,比全速運轉的大功率3類電動自行車還要強。而且,越靠近電機軸心,扭矩越大。
一旦電機全力運轉時,肢體被夾在機身和機械臂的關節處,可能會造成極其嚴重的傷害——如果再加上慣性衝擊,這股力量足以切斷手指,甚至傷及骨頭。
3、為什麽不能通過其他方式切斷電源?
由於電機慣性和高製動力,在失控操作期間,電機可能會將電能反送到總線。
如果拔掉電源,或BMS上的充電保護觸發,由於電池無法吸收的過電壓,所有電機和計算機電源可能會永久損壞。希望為電池添加硬件切斷的用戶應該了解這一風險。
DeREK的緊急製動係統搭載了一台基於Rockchip RK3588 CPU的ARM
Linux電腦(未經過可靠性或實時性評估),並可選配NVIDIA
Jetson模塊。這些計算機由電池電源通過轉換器供電,且需要一定時間啟動。如果計算機係統斷電,將導致所有控製功能失效(具體行為取決於執行器在通信中斷時的預設策略)。
機器人的核心控製始終由Rockchip處理器和宇樹科技(Unitree)的閉源軟件掌控。在EDU版本中,用戶可以通過外部計算機或NVIDIA
Jetson向Rockchip係統發送自定義指令——該係統應該內置了 RS485 協議轉換器,用於與電機通信。
但用戶無法獲得Rockchip係統的root訪問權限或更改其上運行的軟件。
4、為什麽不能在計算機上實現緊急製動?
如果發生軟件故障,在計算機上實現的任何緊急停止程序可能會被無意中忽略。
從通信方式的角度來講,DeREK似乎通過配套遙控器使用Wi-Fi和/或藍牙進行控製。但必須指出,這兩種通信方式完全不適合用於安全關鍵控製係統——信號幹擾極易導致失控。
舉個簡單例子:筆記本電腦的USB 3.0接口都會因幹擾而影響2.4GHz無線鼠標的性能,更何況是複雜的機器人控製係統?
問題在於,急停(E-Stop)、進入阻尼模式以及退出開發者模式等關鍵操作,都需通過無線遙控器來完成。令人擔憂的是,當無線信號中斷時,係統將如何響應目前尚不明確。
5、為什麽不能編程,讓它斷開控製器時關閉?
若通信中斷觸發急停,機器人很可能會突然關機並隨機傾倒,考慮到其自重,這本身就是安全隱患。並且,在係統完全停止前,很可能存在一段失控時間窗口,期間機器人可能出現異常動作。
如果控製器斷開連接,操作者將失去對機器人的所有控製,包括啟用或禁用任何安全功能或錯誤代碼。
在開發者模式下,開發者需對發送給機器人的所有指令承擔全責,直至Rockchip係統收到退出開發者模式的指令。開發者必須自行建立網絡通信,最關鍵的是,必須製定通信中斷時的安全協議。
雖然不清楚本次事件中DeREK的具體設置,但據稱該協議不會因通信中斷而觸發停機。
6、為什麽不能通過軟件限製電機可用的力來降低這種風險?
簡單地說,機器人在正常運作時需要執行器提供全力輸出才能保持平衡。如果限製峰值力量輸出,機器人將喪失行走能力。
想想當你在艱難徒步中過度使用肌肉時的情形:隨著肌肉疲勞導致可用峰值力量下降,你可能會因失去平衡餘量而意外跌倒。下次運動時,不妨特別留意肌肉的受力狀態。
7、最後的建議
這位網友認為,一個良好的安全解決方案應該是多步驟的。
除去操作環境安全及個人安全方麵的建議,對機器人自身的安全係統設計,大致可分為以下幾點:
執行器和電池管理係統應至少符合PL(d) 或ASIL-D等級的安全標準,且執行器應具備帶外(OOB)硬件安全輸入;
商用網絡、計算機、線纜等不得用於安全關鍵係統;
即使是非正式項目,也應遵循安全開發流程,包括持續測試、故障模式分析和單點故障防護工作;
使用AI製動目前難以認證,因此重點應放在監控和緊急切斷係統上。
不過,該網友也表示,以上並非專業工程或安全建議,實際應用請谘詢認證專家。
該網友對機器人安全性的看法獲得了一致好評:
不是第一次“失控”機器人“發瘋”的現象也引起了不少網友的恐慌,以及一些科幻的猜想。
畢竟DeREK是個“格鬥機器人”,很難想象這種事情如果發生在一個更小的空間裏,會是個多讓人棘手的狀況。
畢竟,5秒的時間對緊急製動確實有些過長。
其實這並不是REXrobot第一次出狀況,在5月份的時候,還是Cix,就有機器人“突然”摔倒的問題。
有趣的是,在那個時候就有人問過機器人緊急製動的事情,Cix的回答和這次別無二致。
有網友建議Cix做一次詳細的事後分析,而不是借著這個視頻的東風馬上轉向融資——好像這件事本身就是為了炒作那樣。
對此,Cix語意不詳地回複:機器人格鬥。