上海天驥勞務服務有限公司歡迎您!咨詢熱線:021-65193395    021-55670502

龙族幻想职业视频:龙族幻想几月公测

求職登錄 企業登錄 求職注冊 企業注冊

龙族幻想几月公测 www.mnkmb.icu

當前位置:

首頁

>>

新聞動態

>>

法規文件

聯系方式CONTACT  US

公司名稱:

上海天驥勞務服務有限公司

聯系電話:

021-65193395

微信公眾號:

[email protected]

聯系地址:

上海市楊浦區臨青路188號A12樓3樓

如果AI作惡 一定是人在作惡

作者:        發布日期:2018-11-12        點擊量:636

  一群裝有炸藥的無人機飛向人群,開始殺戮;一架無人機攔下一個行人,無人機上攜帶的手機里傳出威脅指令,脅迫路人把身上的錢包放到無人機上掛著的袋子里……雖然這是拍攝的假想視頻,但通過AI作惡已經不是科幻小說的情節。

  “AI作惡,是世界末日還是杞人憂天?”成為今年中國計算機大會(CNCC2018)中的一個討論議題,也是中國計算機學會青年計算機科技論壇 (CCF YOCSEF)的一個活動。這個論壇于近日在杭州舉行。

  主持人、哈爾濱工業大學長聘教授鄔向前提前搜集了一些AI有可能“作惡”的跡象:谷歌、亞馬遜、微軟分別與美國軍方、警方和移民局合作,研究人工智能在軍事、警用和移民方面的用途;韓國科學技術院也與軍方合作設立實驗室,研究人工智能武器?!罷廡┭芯坎喚鲅現厙址噶巳巳?、自由和隱私,還對人類的安全產生了威脅,是對人類作惡,從而遭到人工智能研究人員的強烈抵制?!彼銜?,這也一定程度印證了霍金、馬斯克和比爾·蓋茨等提出的人工智能威脅論,即人工智能會危害并最終毀滅人類。

  在此之前,包括南京大學周志華教授在內的全球20多個國家、50多名高校頂尖AI學者集體簽名抵制韓國科學技術研究院(KAIST)研發出基于AI的導彈、潛艇和四軸飛行器。

  其實,任何技術都是一把雙刃劍。那么AI作惡是世界末日還是杞人憂天?為了避免人工智能作惡,是否應該停止相關技術的研究?從立法角度如何看待和防止AI作惡?

  360集團技術總裁、首席安全官譚曉生認為人性決定了AI的善與惡。AI的善與惡,本質上依然是發明和發展AI的人的善與惡。事情總有兩面,當我們享受AI帶給我們的便捷、便利的時候,也要承擔AI所帶來的風險:AI的算法可能存在缺陷、AI的代碼實現可能會存在缺陷、AI所承載的硬件計算載體可能存在缺陷,更不要說AI已經被網絡黑產和軍方所采用,如同若干次技術革命時所面臨的挑戰一樣。

  他強調“物競天擇,適者生存”:“我們應該擁抱變化,積極適應AI的快速發展?!?

  北京大學法學院教授、互聯網法律中心主任張平教授從法律角度分享了自己對AI作惡的認識。她認為“AI作惡的實質是人類在作惡”。張平教授在發言中談道,AI的本質是人類的工具,而法律對人類利用工具作惡的規制主要是從技術、產品以及人機混合體(新生命)三個方面進行。

  她分析,從現有法律看,AI作惡可分為“大惡”與“小惡”?!按蠖瘛筆譴锏攪巳死轡薹刂頻畝ゼ蹲鞫?,例如“反人類罪”,按照現行人類法律對于反人類行為當必除之;“小惡”的基本特征是將AI作為人類的工具用來作惡,包括大數據的濫用等。

  張平提出,要想制止AI作惡,應當從人類開始。不過,她認為真正令人恐懼的是作惡的“人機混合體”。一些具有強大功能的“人機混合體”將更多享受地球以及宇宙的資源,而其他自然人將處于弱勢,從而成為“被作惡對象”。

  那么在AI研發的規制上只可能從善良的角度盡可能做道德約束,但絕無法阻止人類中的“惡人”行為。大惡只能由人類命運決定,就像核武器一樣,全人類惡之。張平教授還給出了AI應當遵循的基本原則,即有益目的原則、安全性原則、價值歸屬原則和非顛覆原則等。

  參會者在討論中闡述了各自的觀點。現在有很多利用AI作惡的現象,比如人工智能武器、大數據濫用、隱私侵犯等;AI本身是一種工具,有脆弱性,即容易被不法分子利用;無論是多先進的技術,總會首先應用于作戰,這是不可避免的。

  在防止AI作惡方面,專家學者們也給出了自己的意見。不過,大家認為防止AI作惡的難度很大,因為AI的發展太過于迅速,進化很快,并且其有分散性和低門檻的特點,很難防止。

  因此,應該設立倫理委員會,對AI的研究進行審查,可以考慮設立AI的研究禁區,從危害性和應用領域對AI進行分級,防止別有用心的人控制AI。(中國青年報·中青在線記者 李新玲)

來源:中國青年報
編輯:尹文卓