艾利斯的鎖鏈樂隊

中國工程院院士方濱興:內生安全問題可能成為人工智能“死穴”

字号+ 作者:清水白菜網 来源:張琍敏 2019-10-17 11:25:04 我要评论(0)

原標題:中國工程院院士方濱興:內生安全問題可能成為人工智能“死穴”從主動駕駛到智能家居,近兩年,人工智能技術和應用發展迅速,科幻電影中曾經描繪的“人機共存”時代,似乎離人類越來越近。然而,人工智能足夠

原標題:中國工程院院士方濱興:內生安全問題可能成為人工智能“死穴”

  從主動駕駛到智能家居,近兩年,人工智能技術和應用發展迅速,科幻電影中曾經描繪的“人機共存”時代,似乎離人類越來越近。然而,人工智能足夠安全嗎?4月20日,在2019西湖論劍·網絡安全大會上,中國工程院院士倪光南、鄔江興、方濱興和楊小牛,表達了他們對人工智能潛在風險的思考和隱憂。

中國工程院院士共話網絡安全。

25年前的本年,中國全功能接入國際互聯網,就此拉開中國互聯網的發展序幕,全社會的經濟、文化、生活方式迎來深刻變革。

中國工程院院士鄔江興仍然記得當年的場景。他說,大家感到“歡新鼓舞”,各行各業都在倡導“互聯網+”。但在發展伊始,網絡安全問題沒有得到足夠重視,導致了現在的非常多遺留問題。

2014年,中共中心總書記習近平在中心網絡安全和信息化領導小組第一次會議上強調,網絡安全和信息化是一體之兩翼、驅動之雙輪,必須統一謀劃、統一擺設、統一推進、統一實施。做好網絡安全和信息化工作,要處理好安全和發展的關係,做到協調一致、齊頭並進,以安全保發展、以發展促安全,努力建久安之勢、成長治之業。

鄔江興深以為然。但他也坦言,同步安全和發展,對於全人類而言都是挑戰。如今,人工智能應用正像互聯網一樣進入日常生活,各行各業須及早考慮人工智能的安全問題,否則就會重走當年的老路。“不管是什麽問題都會有副作用,必須在發展的初期來解決。”他說。

中國工程院院士楊小牛,也有類似擔憂:“人工智能會不會又像互聯網一樣,剛最先不考慮它自身的安全,最後發現存在各種各樣的問題,麵臨相當大的風險?”他認為,將來,如何讓算法更加安全、可靠,是一個突出問題。

中國工程院院士方濱興提出,人工智能的內生安全問題,可能成為其“死穴”。例如,一個被貼上幾張小廣告的停車標誌牌,人看到標誌牌會覺得毫無差別,但算法識別就會出現錯誤。

方濱興介紹,這樣的錯誤,與人工智能的內生原理有關。人工智能靠大量的數據和神經網絡學習,人能夠看到人工智能的處理結果,但神經網絡中還有非常多人看不到的隱含層。因此,幾個小廣告,甚至是像素點的改變,都會導致人工智能處理錯誤。

“現在要關注網絡安全的新挑戰”,中國工程院院士倪光南說,新技術帶來了許多傳統安全領域沒有的新問題、新現象,必須予以重視。以主動駕駛汽車為例,假如黑客通過網絡攻擊獲得了控製權,主動駕駛汽車就會變得非常危險。

采寫:南都記者馮群星 蔣琳

作者:馮群星 蔣琳

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • RNG頻繁與娛樂圈互動遭真愛粉吐槽,沒有粉絲RNG就是聯賽墊底!

    RNG頻繁與娛樂圈互動遭真愛粉吐槽,沒有粉絲RNG就是聯賽墊底!

    2019-10-17 15:26

  • 高考報考:這些大學都是985、211,而且錄取分數低,簡直就是撿漏的好選擇

    高考報考:這些大學都是985、211,而且錄取分數低,簡直就是撿漏的好選擇

    2019-10-17 15:20

  • 笑星和他的朋友們:無所不包的科普動畫,寓教於樂的百科全書

    笑星和他的朋友們:無所不包的科普動畫,寓教於樂的百科全書

    2019-10-17 14:11

  • 25萬蘇軍參加大片拍攝,踩著炸點進入片場:900噸炸藥造百億票房

    25萬蘇軍參加大片拍攝,踩著炸點進入片場:900噸炸藥造百億票房

    2019-10-17 13:53

网友点评