“當基于人工智能(néng)的機器人能(néng)夠真正感受到自我意識時，人工智能(néng)的安全和道(dào)德挑戰會更加複雜。屆時，他們應該像人一樣對(duì)待嗎？”
9月18日，2018世界人工智能(néng)大會安全高端對(duì)話在上海舉行，峰橋集團公司總裁陳實在發(fā)表對(duì)人工智能(néng)安全倫理規範的幾點思考時問道(dào)。
2018世界人工智能(néng)大會安全高端對(duì)話現場
陳實曾任通用汽車（中國(guó)）有限公司副總裁及通用汽車（中國(guó)）北京分部總經(jīng)理、微軟公司副總裁及大中華區法律及公司事(shì)務部總經(jīng)理，今年年初卸任了在微軟的職務， 從事(shì)咨詢工作。會後(hòu)，他接受了澎湃新聞（www.thepaper.cn）的專訪。
人工智能(néng)距離人的智慧還(hái)有很遠
在演講中，陳實談到，現下流行的人工智能(néng)技術主要基于數據驅動的優化方法來解決特定的具體問題，而不是一般問題。
“我們都(dōu)對(duì)AI在國(guó)際象棋和圍棋等遊戲中擊敗人類印象深刻。然而，遊戲隻代表一類智力活動，其中遊戲的規則是确定的，獲勝目标也是明确定義的。但在現實世界中，規則并不總是很明确确定，目标也可以不斷變化。”
他告訴澎湃新聞，人工智能(néng)在遊戲領域可以做到很“聰明”，但這(zhè)是一種(zhǒng)狹隘的“聰明”，“如果把這(zhè)種(zhǒng)智慧想象成(chéng)爲能(néng)做任何事(shì)情的話，我覺得誇大了。”
“機器可以玩遊戲，可以玩得比人好(hǎo)，但是目前沒(méi)有哪一款受人歡迎的遊戲是機器設計的。機器可以參加高考，并且考得很好(hǎo)，因爲不管是數學(xué)題還(hái)是化學(xué)題，都(dōu)有嚴格的規則和正确答案，但是有沒(méi)有高考題目是機器出的？”
他認爲，人之所以聰明，是因爲不僅見多識廣，而且能(néng)夠融會貫通，不僅能(néng)學(xué)習知識，還(hái)能(néng)夠進(jìn)行抽象、總結，應用到其他的領域。這(zhè)種(zhǒng)常人具有的智慧在機器上談何容易？
圖靈獎獲得者Raj Reddy在17日在世界人工智能(néng)大會主論壇的發(fā)言中表達了對(duì)人工智能(néng)的積極看法。面(miàn)對(duì)AI，他看到的是積極和繁榮景象，縱觀過(guò)去幾百年的曆史，戰争來源于每個人都(dōu)想獲取别人的資源，而當人工智能(néng)賦予全人類富足的資源，戰争自然消弭于無形。
陳實對(duì)此表示贊同，“有很多人對(duì)AI的發(fā)展都(dōu)有點擔憂，但我認爲AI就是一個十分有用的工具，用的好(hǎo)的話可以造福于人類的。”
他指出，人工智能(néng)不是萬能(néng)的，但它确實讓每個行業發(fā)生了改變，每個行業都(dōu)要數字轉型，都(dōu)要利用人工智能(néng)來提高效率、擴大服務功能(néng)，人工智能(néng)已經(jīng)帶來了一場革命。
對(duì)人工智能(néng)可能(néng)産生的安全道(dào)德問題還(hái)沒(méi)有好(hǎo)的答案
由于人工智能(néng)存在的局限性，随之産生的安全和道(dào)德問題需要人們關注。
陳實在演講中談到，機器學(xué)習的結果會受到訓練數據質量和算法假設的影響，許多機器學(xué)習方法沒(méi)有成(chéng)熟的自我糾錯機制。
譬如，誰應對(duì)以下錯誤負責：基于人工智能(néng)的投資損失；基于人工智能(néng)的信用評估中出現貸款拒絕；基于AI的醫療診斷系統發(fā)生了醫療事(shì)故？
此外，算法建模的偏見和數據收集中的差錯可能(néng)導緻決策偏見，不穩定和易受操縱。這(zhè)一點在數字營銷、政治選舉等事(shì)例中已經(jīng)時有發(fā)生。
在道(dào)德層面(miàn)，人工智能(néng)開(kāi)發(fā)團隊面(miàn)臨的考驗更大。
可能(néng)産生的問題例如，人工智能(néng)可以大規模提高效率和生産力，但可能(néng)隻會使少數人受益；人工智能(néng)可以操縱人類行爲，例如遊戲成(chéng)瘾、投票偏見、媒體炒作：人可能(néng)無法閱讀/查看想要讀到的客觀内容，而閱讀到别人希望他閱讀的内容。
人工智能(néng)開(kāi)發(fā)人員可能(néng)會將(jiāng)他/她的意識形态、道(dào)德信仰、道(dào)德規範注入到算法中，這(zhè)些算法在社會上可能(néng)無法被接受或認定是道(dào)德合理的。
接下來的問題是，如果一個機器人有像人類一樣的感覺和意識，它是否具有像人類一樣的機器人權利？
“我們對(duì)這(zhè)些問題沒(méi)有答案，至少是好(hǎo)的答案。這(zhè)就是我們今天在這(zhè)裡(lǐ)讨論人工智能(néng)安全和道(dào)德的原因。”他說道(dào)。
傳統車企和軟件互聯網企業應合作研制自動駕駛汽車
對(duì)于時下熱點，陳實也與澎湃新聞分享了他的看法。
兼有在通用汽車和微軟公司的工作經(jīng)曆，陳實認爲，傳統車企和軟件互聯網企業在研發(fā)制造自動駕駛汽車上，各有各的優勢，最好(hǎo)兩(liǎng)方面(miàn)合作。“完全搞互聯網的，不一定能(néng)夠做出一輛汽車，完全搞汽車的，也未必能(néng)做出自動駕駛的車。”
他認爲，人工智能(néng)不會像AR、VR或者區塊鏈一樣隻是一個風口，AR、VR、區塊鏈隻是技術的某些應用，但人工智能(néng)的實用範圍更加廣大，應用無處不在。
“現在人工智能(néng)的智能(néng)化程度越來越高，機器人裝了傳感器，能(néng)夠感知環境，從而表現得更加智慧，應用更加廣泛；在語音識别方面(miàn)，它能(néng)夠聽懂人的話，然後(hòu)進(jìn)行翻譯。從感知到語言，機器人就可以獲得知識，有了知識以後(hòu)未來或許就能(néng)産生創造力。”他對(duì)此表示樂觀。
對(duì)于人工智能(néng)進(jìn)一步的發(fā)展，陳實提出應該加強跨學(xué)科合作。
“其實人工智能(néng)涉及的學(xué)科很多，如果是計算機科學(xué)、物理學(xué)、生物學(xué)、哲學(xué)、心理學(xué)、大腦科學(xué)等學(xué)科能(néng)夠在一起(qǐ)的話，我覺得可以研究出一些更具有一般智慧的廣泛應用。”他說。
{{comment.zanNum}}
{{comment.caiNum}}
