我們的願望是和機器人成為兄弟，但是有沒有可能成為兄弟，主要在於我們跟他會不會演變為互相傷害的關係。

整理 |

陳睿雅

頭圖來源

｜視覺中國

從阿西莫夫提出機器人三定律已經過去70多年了。

現在，科技巨頭試水機器人的新聞也密集起來。比如8月裡，小米釋出了全尺寸人形仿生機器人“CyberOne”，別號“鐵蛋”。特斯拉宣佈將在今年9月30日推出人形機器人Optimus（擎天柱）原型機（馬斯克稱其為特斯拉今年“最重要的產品”）。騰訊釋出了一款能在梅花樁上旋轉踏步、單樁跳躍、雙輪站立的多模態四足機器人。

此外，Meta公司的聊天機器人Blender Bot 3語出驚人，稱公司為賺錢而剝削人，而扎克伯格卻滿不在乎；還打趣道，他有這麼多錢，卻總穿同樣的衣服……

8月19日，在2022世界機器人大會上，三位院士縱論了《未來機器人：目標、路徑和挑戰》這一宏大話題。整場對話由世界工程組織聯合會前任主席、中國電子學會副理事長龔克擔任主持，中國科學院院士、清華大學人工智慧研究院名譽院長張鈸，中國工程院院士、中科院瀋陽自動化研究所機器人技術國家工程研究中心主任王天然，中國科學院院士、中國科學院自動化研究所研究員喬紅擔任對話嘉賓。

機器人的發展目標是什麼？機器人和人工智慧的關係是什麼？機器人有倫理道德方面的問題嗎？研究機器人的人應該怎麼做？

以下為對話主要內容，有刪減：

談工作經歷：

我們做的機器人一般是笛卡爾座標的，

但人就是活生生的人

張鈸：

我從1978年開始在清華大學的人工智慧智慧控制教研組從事人工智慧的研究和教學。那個時候，機器人跟人工智慧還沒有完全分家。我們自然也會去做機器人的工作。

1980年到1982年，我到美國伊利諾伊香檳分校訪問，做的第一件事就跟機器人有關，是機器人運動規劃。1984年，我在IEEE發表的第一篇文章，也是關於機器人的運動規劃。

回國以後，1985年，我首先在清華大學建立了智慧機器人實驗室，那時候我主要從事視覺方面的工作。剛好實驗室成立不久，國家成立了863計劃，我參加了智慧機器人主題專家組，從1986年到1994年參加了三屆，主要負責人工智慧方面的工作。

1991年，我們跟國防科技大及其他一些大學聯合承擔了國家任務——移動機器人的研製任務。像我們大家現在非常熟悉的自動駕駛車，這個工作一直延續到今天，我們還繼續在做。我主要做的工作是智慧控制、視覺機器人規劃。

我只是在機器人領域裡做了人工智慧方面的工作，所以更加偏重於智慧機器人。

張鈸。來源：影片截圖

王天然：

我一直在中國科學院瀋陽自動化研究所工作。上世紀70年代，我在我們老所長蔣新松院士領導下，開展機器方面的工作。

我的主要工作是在工業機器人領域，後來我們把工業機器人控制系統變成產品、讓它產業化。在我們的共同努力下，我們建立了一家以工業機器人自研技術為主的企業，成為中國第一個上市的機器人公司。

中國科學院瀋陽自動化研究所有機器人學國家重點實驗室和機器人技術國家工程研究中心，我目前也是研究中心的主任。

王天然。來源：影片截圖

喬紅：

我自己最初是從事機器人偏機械的工作。我從西安交大畢業後就出國，2004年回國，察覺到模式識別非常熱，可以成為機器人的眼睛，所以我開始對模式識別感興趣。我們做的機器人一般是笛卡爾座標的。但是人就是這樣活生生的人。他們怎麼能夠成為朋友？後來我又對人的神經科學產生了興趣。

現在我是多模態人工智慧系統實驗室的主任，這是一間新成立的全國重點實驗室。我們想把人工智慧和機器人結合起來。

喬紅。來源：影片截圖

談機器人與人工智慧的分野：

機器人讓大家誤解成他是一個人，

人工智慧讓大家以為人工智慧是做智慧的

喬紅：

人工智慧和機器人智慧有關係，但是機器人有硬體。機器人有本體，它啟動之後本體一直在迴圈之中，而且行動目標不一樣。它的本體意味著軟硬體的充分結合，所以我認為人工智慧和機器人是有交叉的。本體做不到的時候，人工智慧和控制可以幫助硬體部分去實現目標。

王天然：

不好說將來的機器人究竟什麼樣。因為有人已經提出分散式工業機器人。誰規定機器人胳膊都得連在一起？你要能分開，那就厲害了。所以將來會五花八門。

如果今天真的有人造肌肉可以代替鋼鐵機械臂，那麼過去人們搞的動力學、運動學都要重寫了。這將會是顛覆性的。

張鈸：

從現在的情況來看，機器人跟人工智慧是完全獨立的兩個領域。這兩個領域或者學科的目標是完全不同的。

人工智慧的目標是什麼？是用機器來模仿人類的智慧行為，追求的是機器的行為跟人類的行為越相似越好，追求的是所謂的similarity（相似）。

但模擬人類的智慧行為只是機器人的手段之一。它的目標是協助人類完成某種任務，這個任務原來是由人來完成的。它追求的目標是functionality（實用）。

機器人的研究內容大致可概括成三大方面：

第一，執行機構。機器人要在物理世界裡去完成一定任務，它必須得有執行機構。執行機構可以是仿人、仿動物，也可以不仿。

從目前具體情況來看，很多機器人是建立在電機跟齒輪傳動結構的基礎上。

人工智慧不一定要做執行機構。

第二，能源。對移動機器人來講，要完成一定任務，高效的能源是一個關鍵問題，而人工智慧不研究能源的問題。

第三是個“大口袋”問題，我們把它叫做智慧控制。包括控制、人工智慧、感測器、環境感知。機器人的第三個問題才跟人工智慧有些重疊，這個重疊體現在智慧機器人的一部分工作上。

總結來講，機器人不是人，是機器。

機器人這個名字讓大家誤解成他是一個人。人工智慧這個名字也不好，讓大家以為人工智慧是做智慧的。

但其實我們現在對智慧的瞭解非常非常少，我們沒法去做智慧，我們只能模仿智慧的行為——智慧的外部表現。所以請大家要注意這兩個區別。至於它的前途，我認為會是多種多樣的。

在機器人和人工智慧裡也有這方面的爭論——通用的人工智慧要不要弄？這件事的必要性和可能性都有可以爭論的地方。有必要去做個機器來代替人嗎？我們人還不夠嗎？如果我們需要人的話，我們自己多生一些人不就完了，非得造一個跟人完全一樣的人？所以我認為必要性本身不是很大。

談機器人與人類的關係：

我們和機器人有沒有可能成為兄弟，

主要在於我們會不會演變為互相傷害的關係

王天然：

有人說將來機器人統治人類了、很危險了，我認為這個東西是過於科幻。如果人造機器的話，它就不可能達到這個目標。

現在還有一種說法，造出機器人就是為了取代人。我認為，機器人可以在某些環境下代替人做艱苦的勞動，但他的目的不是要跟人爭奪同樣的崗位。

將機器人說成取代人，這是故意把人和機器的矛盾挑起來。其實不是這樣的。

人和機器到底應該是什麼關係是很重要的一件事情。將來最好的辦法是他要能替你服務，最好是夥伴關係，最好是他宛如同類。

喬紅：

我們原來做了一個科技部的重點專案，這個專案裡當時有機器人智慧發育的題目。發育這個詞，我覺得有點超前，但是是指南里面寫到的。我們還是期望人和機能夠更近一點。

我覺得咱們國家現在的科研確實特別的寬容。有的機器人研究是從功能倒推問題的——我需要這個功能，我要怎麼辦？

還有一種研究給了我們胡思亂想的機會。例如，人有這個特點，它的機理是什麼、能不能複製到機器上。

我們當時是這樣定義機器人的智慧發育的，發育就是指，第一它可以自主學習，第二是越來越複雜，第三是lifelong永遠地學習。

這三個要求實際上挺難做到。我認為，機器人和人之間特別大的一個區別是，人有意識、有情感、有自己目標，但機器人沒有目標，也沒有真實的情緒。

人有杏仁核和前額葉，導致人有理性和感性。這個部分要不要複製也是一個問題，目前並沒有在機器人裡產生真正的複製。

王天然：

機器人現在可以手把手地施教。現在有人會租機器來使用。工業機器人、協作機器人現在仍然有一定的侷限，但是它的發展目標是將來跟人的關係像師徒關係一樣，我跟著師傅學，然後幫著師傅幹活，人是師傅，它是徒弟。

還有一種像現在醫療上的外骨骼機器人，可以幫人解決殘疾，可以助力。但是人身上揹著一個鋼鐵的東西還是相當不舒服的，也不能很好地協調。未來最好是能實現，人怎麼想，機器人都知道；機器人要怎麼做，人也都能知道。

所以我給機器人定的發展目標是宛如手足，將來最好是能宛如同類。

張鈸：

master，slave，或者我們大家是brothers。我們的願望是（和機器人）成為兄弟，但是有沒有可能成為兄弟，主要在於我們跟他的關係會不會演變為互相傷害的關係。

這是現在人工智慧治理提出來的問題。目前我們大家越來越認識到這個可能性是存在的。

當初包括阿西莫夫、霍金他們提出來這個觀點時

，認為這個問題在機器身上，如果機器發展到有意識，它的智慧超過我們，我們就失去了對它的控制。因此人類對這樣的機器人要加以限制、治理。

但隨著人工智慧發展起來以後，大家發現這個問題不完全是這樣。

當機器人智慧很低的時候，我們就處在危險的狀態了。為什麼？我們處於不可控的狀態。比如說，現在用深度學習的方法來做一些事情，這個人工智慧演算法是非常危險、非常不魯棒（注：是在異常和危險情況下系統生存的能力）、沒有可靠性保障的。如果我們運用了人工智慧的演算法，它必然會帶來對人類的傷害，所以它已經變成了一個現實問題。

所以我們提出來的第三代人工智慧，就是要解決第二代人工智慧演算法不安全、不可靠、不可信、不可控的問題。

今天法國科學家、Verimag實驗室創辦人兼退休高階CNRS研究員、2007年圖靈獎獲得者Joseph Sifakis也講到這個問題。他最後提出來的模型，是加上端對端的學習。實際上大家一樣認識到，純粹靠資料驅動的方法，必然是不魯棒的，必然是不可解釋的，必然是不可靠的。這個是必然性。

怎麼來解決這樣問題？唯一的可能性就加上知識。Joseph Sifakis說加上模型。

第一代人工智慧主要方法是知識驅動。第二代人工智慧最主要的方法是資料驅動。這兩個辦法都有片面性，必須把兩個方法加起來，機器才有可能發展出來，成為可靠的、安全的、可信的人工智慧，進而發展出可信的智慧機器人。

談機器人的倫理與道德：

外界關心的是機器人的倫理問題，

還是機器人設計者所掌握倫理的問題？

喬紅：

倫理在機器人領域的確討論得比較早。

我自己的想法是，機器人成為我們主人這件事，肯定是不應該允許的。因為機器人當時的定義就是說不能傷害人類。所以我覺得建立法律還是很重要的。

對一個人的約束有兩種。高階的是說你要有道德，所以你要有文化；低端的是說你如果幹這件事，你該受罰了。

對於機器人，我們把它作為一個個體，我們可以很近，但是親兄弟也要明算賬。所以應該對它進行道德上的約束、法律約束。概念上，你又把它框在籠子裡了。我們可以很近，但是我們得算清楚。

道德的約束我覺得比較難。比如說，車往前開會撞到誰，不往前開又會撞誰，對吧？對人尚且也有難度。但是我認為還是應該儘量對機器人提前約束，這樣機器人發展到後面會是相對安全和健康的。

龔克：

我理解自動駕駛汽車，也是行走的機器人。

我到好多實驗室參觀他們的自動駕駛，我做過一些小嚐試，在自動駕駛汽車行駛過程中，我曾經嘗試了一下人工踩油門、要加速去撞前面的目標。最早三年前，有的實驗室的自動駕駛汽車它就不動了，有的實驗室的車就撞上去了。

這兩年我做過試驗，幾乎所有實驗室的車都停下了。我想，這就是把一定的倫理植入到機器人的控制裡面去了，甚至能防止人類殺手開著車去撞人。

張鈸：

倫理的問題，現在變得非常重要。大家對機器人的認識有兩個階段，第一個階段是阿西莫夫認為，機器人如果智慧超過我們，或者有意識以後，我們如何讓機器人能夠按照倫理的準則來行為？

第二個階段，人類如何按照倫理的原則來設計和使用機器人？

其實這個問題非常不簡單。為什麼引起全世界的關注？這裡遇到三大難題，第一個難題是標準和法規的問題。什麼是道德，什麼是不道德？這個本身就有非常大的爭議。比如大家常常舉這個例子，剎車失靈了，前面可能撞上5個人，你如果打舵的話，就會撞上另外1個人，你究竟打不打舵？

第二個問題，對機器來講，假設道德規範有了，你不能撞人，那麼他是不是一定不撞人？這就涉及到機器人的行為可控不可控。

你得給機器人一定的靈活性，他才能有創造性，他才能自主解決問題。（但）我們給他靈活性，給他創造性，給他自主性，必然要付出代價。

第三，對人類來講，我們要求每個人在設計、使用機器人的時候，都要遵守倫理的原則。（但）有的人根本不遵守。

其實每一項技術、每一種機器都有不可預測性。非常明顯的例子，深度學習，用模式識別來做，它的識別率提高非常多，但沒有預計到這種辦法實際上魯棒性非常差，引起很大的安全問題，是人家沒預計到的。每一個工作，即使你定了很嚴格的規律，很多東西你是預測不到的。

由於這三個困難，實際上造成人工智慧或者智慧機器人的治理會有非常大的困難。

王天然：

我想問張老師一個問題。您認為，外界關心的是機器人的倫理問題，還是關心設計機器人的人所掌握倫理的問題？

張鈸：

實際上現在最主要關心兩個方面，一方面你是不是會濫用或誤用機器人，特別現在濫用人工智慧非常嚴重，機器人將來肯定會被濫用，為什麼？比如作戰機器人、殺人機器人就是一種濫用。

另外，你在設計的過程中間要做好評估和預測，不能隨隨便便定一個規劃。學術界更多是討論機器人的問題，因為比較吸引人，大家（看得）比較長遠一點。但是在我們看起來，我們基本算工程師，我們工程師是看眼前的。

王天然：

機器人的感知、推理、行為，這些都在發展，不一定都是用人工智慧的技術，有可能是用其他方法。其他方法仍然也會有倫理問題。你用了人工智慧技術，有可能產生新的倫理問題。

倫理問題是人工智慧技術帶來的，還是機器人本身帶來的？我有點想推脫責任（笑）。

張鈸：

（我認為）主要是我們（帶來的）。

寄語年輕工作者

機器人是eater，

啥技術都吃

年輕人應具備宏觀力、執行力和開放度

張鈸：

因為這個是世界機器人大會，所以我認為我們剛才談的那些問題都可以透過全世界團結起來，共同來發展，合作創新，能夠讓機器人健康發展，造福全人類。治理的問題有很多難題，但是從技術上，很多人提出有三方面的工作可以來解決治理問題。一方面的工作，要研究新的分析工具，主要是形式邏輯加上倫理推理或者倫理的分析。

第二方面，在那些道德與不道德很難做出定義的地方，我們可以給出樣本。對那些沒法定義的問題，可以透過標註資料來學習。

最後一個是模擬模擬。像無人車就是這樣，你要大量的做實驗，讓他跑。透過實驗、透過模擬來發現他的問題，逐步解決。

王天然：

上世紀末，2000年以前，我們工作的重點都在工業機器人的精度，可靠性、控制多少軸，怎麼用的好、靈巧性。相關的技術不斷支援下，機器人的前途將非常燦爛。因此有人說，現在是機器人發展的黃金時代，各個學科的融合又會在機器人身上充分體現。

我記得當年好像有一個義大利學者就管機器人叫eater，它是啥的技術都吃。所以我想其實機器人研究需要全世界各地的人，包括我們中國青年，抓住這樣的機會，去發現、創造出新的東西來。

喬紅：

我也講三個很抽象的點。第一句話，我覺得年輕的學者首先還是要保持宏觀力。這個宏觀力就是寬容度，社會對你的需要，他人對你的期望，不同領域不同的聲音，這還是需要的。如果沒有這種flexibility，你就不能夠接觸社會對你的期望、社會對你的支援。

第二個部分還是要自強自立，就是執行力。怎麼把這件事情一步一步的堅定地執行下去，需要邏輯力、執行力和堅定的意志。

一個是宏觀的Flexiblility，一個是強硬的執行力。

第三個我覺得很重要是開放度。很多的年輕的學者本身很強，但是他不能夠接納其他的人進入他的小領域。這個就造成了他不能夠學習和成長。所以我就送給大家這三個詞，就是宏觀力、執行力和開放度。