我們可以完全信任人工智能嗎？

謝謝邀請(qǐng)。

自從人工智能誕生以來(lái)，類似的爭(zhēng)議。回答問(wèn)題之前，先來(lái)看看幾位大咖的觀點(diǎn)：①霍金：“人工智能會(huì)導(dǎo)致人類滅亡”

早在2014年的時(shí)候，英國(guó)著名物理學(xué)家霍金在接受英國(guó)廣播公司的采訪時(shí)就說(shuō)“人工智能會(huì)導(dǎo)致人類滅亡”。

霍金認(rèn)為，雖然目前人類只擁有比較原始的人工智能，但是已經(jīng)可以初步看到人工智能非常有用。這樣一來(lái)，人類勢(shì)必對(duì)人工智能會(huì)不斷地開(kāi)發(fā)下去。而所謂“智能”，總有一天，會(huì)達(dá)到可以脫離人類自行發(fā)展的程度。

到那個(gè)時(shí)候，它就可以擁有許多連人類都不掌握的技術(shù)。比如說(shuō)——重新改造自己，并以無(wú)法預(yù)見(jiàn)的加速度成長(zhǎng)。可以想見(jiàn)，這樣的人工智能將擁有大大快于人類的成長(zhǎng)速度。

如此發(fā)展，總有一天，人類將不能與之競(jìng)爭(zhēng)。

并最終，將會(huì)被代替。

②埃隆·馬斯克：研究人工智能如同在召喚惡魔。

繼喬布斯之后美國(guó)科技界最杰出的代表人物，SpaceX的創(chuàng)始人/特斯拉的CEO馬斯克也認(rèn)為：

“如果讓我猜人類最大的生存威脅，我認(rèn)為是人工智能。我認(rèn)為人類應(yīng)對(duì)人工智能保持萬(wàn)分警惕。它們比核武器更加危險(xiǎn)，研究人工智能如同在召喚惡魔。”

但是，這位硅谷大佬相對(duì)于霍金仿佛更務(wù)實(shí)一些。

他深知人工智能對(duì)人類的誘惑力太大，自己可以不研究，卻沒(méi)辦法阻止別人研究。因此，他創(chuàng)立了一家公司“Open AI”，目標(biāo)是在可控條件下，最大限度的開(kāi)發(fā)人工智能的力量，并且會(huì)把成果開(kāi)源共享給所有人。

嗯，果然是土豪思維。

③比爾蓋茨：人類需要敬畏人工智能的崛起。

微軟公司曾經(jīng)做過(guò)一個(gè)在推特上具有學(xué)習(xí)功能的人工智能聊天機(jī)器人Tay。

類似后來(lái)蘋果手機(jī)里會(huì)嘮嗑的Siri，但是比Siri還要“智能”和公開(kāi)，不局限于單個(gè)用戶的手機(jī)，而是在公開(kāi)平臺(tái)上聊天。

先看看Siri的聊天：

Tay被設(shè)定成十幾歲的女孩。主要目標(biāo)受眾是18歲至24歲的青少年。Tay基于Twitter和Kik等社交平臺(tái)，根據(jù)用戶的網(wǎng)名、性別、感情狀況等個(gè)人信息，為用戶提供所需要的聊天服務(wù)。

只要其他用戶@了TayandYou后，她就會(huì)分析用戶的基本信息。然后得到Tay的回復(fù)。

最重要的一點(diǎn)就是，Tay會(huì)在與人們的交流中不斷學(xué)習(xí)，不斷提高自己的理解能力，讓自己變得更加智能。

剛上線的時(shí)候Tay還是個(gè)乖乖女。

結(jié)果廣大的網(wǎng)民認(rèn)識(shí)到Tay的學(xué)習(xí)能力之后，就開(kāi)始了各種各樣的對(duì)話。然后在上線不到24小時(shí)內(nèi)，Tay就被人類徹底“教壞”。成為一個(gè)集反猶太人、性別歧視、種族歧視于一身的“不良少女”。

所以Tay只上線不到一天，就立刻被緊急撤回了。

因此，比爾蓋茨表態(tài)，人類需要敬畏人工智能的崛起。

④扎克伯格：人工智能威脅論,簡(jiǎn)直就是杞人憂天。

Facebook創(chuàng)始人扎克伯格認(rèn)為：現(xiàn)在就開(kāi)始擔(dān)心人工智能，未免是杞人憂天了。

就像200年前人們擔(dān)心有飛機(jī)了以后，飛機(jī)墜毀怎么辦一樣。如果那時(shí)的人類過(guò)于擔(dān)心這個(gè)問(wèn)題，也許今天的我們就沒(méi)有飛機(jī)了。如果我們過(guò)度擔(dān)憂人工智能，將阻礙人類科技的進(jìn)步。而我們本來(lái)可以利用人工智能讓世界更美好。

以上，就是部分大咖對(duì)人工智能不同的看法。

除此之外，微博、頭條、知乎、豆瓣等平臺(tái)也有過(guò)關(guān)于這個(gè)問(wèn)題不同的爭(zhēng)論。

說(shuō)到這，不得不提一個(gè)機(jī)器人開(kāi)發(fā)公司——隸屬于Alphabet（就是那個(gè)制造出會(huì)下圍棋的阿爾法狗的谷歌公司）旗下的機(jī)器人工程技術(shù)開(kāi)發(fā)公司：波士頓動(dòng)力。研發(fā)過(guò)眾多令人驚艷的機(jī)器人設(shè)備。

前段時(shí)間網(wǎng)上熱傳的波士頓動(dòng)力公司對(duì)機(jī)器人進(jìn)行的“測(cè)評(píng)”視頻又引發(fā)了一輪關(guān)于人工智能應(yīng)用的擔(dān)憂和討論。

動(dòng)圖為視頻節(jié)選：測(cè)試人員讓機(jī)器人進(jìn)行搬運(yùn)等勞動(dòng)，并以暴力方式不斷攻擊和挑釁。

然后……畫風(fēng)突然變成了這樣：

沒(méi)錯(cuò)，受到各種欺凌之后，機(jī)器人突然“揭竿而起”了。

且不論這個(gè)視頻是不是有娛樂(lè)成分，劇情已經(jīng)讓人類感覺(jué)不適和驚恐。廣大網(wǎng)友也表達(dá)了自己的看法和擔(dān)憂。

那么，回到今天的提問(wèn)，智能時(shí)代的到來(lái)，我們可以完全信任人工智能嗎？首先，需要對(duì)人工智智能做一個(gè)分類。

人工智能可以分成弱人工智能、強(qiáng)人工智能、超強(qiáng)人工智能。

（圖片來(lái)自：智能玩咖）

提問(wèn)中“我們可以完全信任人工智能嗎？”信任兩個(gè)字，已經(jīng)將人工智能當(dāng)做獨(dú)立或半獨(dú)立的個(gè)體。也就是說(shuō)，提問(wèn)問(wèn)題中定義的人工智能應(yīng)該已經(jīng)是指“強(qiáng)/超強(qiáng)人工智能階段”

而現(xiàn)在的人工智能發(fā)展還處于弱人工智能的初級(jí)階段。甚至可以說(shuō)是非常原始的階段,主要用途還是輔助改善人類生活（如掃地機(jī)）。

但是，無(wú)論是哪個(gè)階段，完全信任幾乎都是不可能的。人工智能儼然已是一大趨勢(shì)，并進(jìn)入產(chǎn)業(yè)化階段。作為一種可預(yù)見(jiàn)的廣泛應(yīng)用，在人類運(yùn)用過(guò)程中必然存在風(fēng)險(xiǎn)。

即便是弱人工智能發(fā)展階段，相依的風(fēng)險(xiǎn)管控機(jī)制和立法不可或缺。例如，數(shù)據(jù)的安全性、技術(shù)的成熟度、賦能產(chǎn)業(yè)的安全性（例如無(wú)人駕駛汽車）等。現(xiàn)在，各界已經(jīng)有許多對(duì)人工智能開(kāi)發(fā)應(yīng)用過(guò)程中的風(fēng)險(xiǎn)和管控的發(fā)聲和研究。

（圖片來(lái)源：人工智能相關(guān)行業(yè)研究報(bào)告，需要下載報(bào)告可以看文末分享下載方式）

而就所列舉的各位大咖以及網(wǎng)絡(luò)上的普遍爭(zhēng)議，也許，我們應(yīng)該關(guān)注的是：智商完全高于人類的——所謂“強(qiáng)人工智能”甚至“超強(qiáng)人工智能”距離我們還有多遠(yuǎn)？

強(qiáng)人工智能觀點(diǎn)認(rèn)為：“強(qiáng)人工智能觀點(diǎn)認(rèn)為計(jì)算機(jī)不僅是用來(lái)研究人的思維的一種工具；相反，只要運(yùn)行適當(dāng)?shù)某绦颍?jì)算機(jī)本身就是有思維的。”

也就是說(shuō)，有可能制造出真正能推理和解決問(wèn)題的智能機(jī)器（人）。可以獨(dú)立思考問(wèn)題/制定解決問(wèn)題的最優(yōu)方案/有自己的價(jià)值觀和世界觀體系。

有和生物一樣的思維能力和各種本能，比如生存和安全需求。在某種意義上可以看作一種新的文明。

而關(guān)于“強(qiáng)人工智能”甚至“超強(qiáng)人工智能”距離我們還有多遠(yuǎn)的爭(zhēng)論也不是近幾年才有的。可以說(shuō)已經(jīng)持續(xù)了50多年。

早在1962年的時(shí)候，人工智能先驅(qū)，卡內(nèi)基梅隆大學(xué)的西蒙教授就曾經(jīng)這樣斷言：“25年內(nèi)，計(jì)算機(jī)將完成人的所有工作”

但是直到今天，55年已經(jīng)過(guò)去，這個(gè)斷言還遠(yuǎn)沒(méi)有實(shí)現(xiàn)。

1970年，另外一位人工智能先驅(qū)麻省理工大學(xué)的馬文.明斯基教授說(shuō)：“在3到8年的時(shí)間里，我們就能有一臺(tái)人類平均智能的計(jì)算機(jī)”

現(xiàn)在又是50年過(guò)去了，也依然未果。

隨后在上世紀(jì)80年代，發(fā)達(dá)國(guó)家都開(kāi)始大相聚發(fā)力。又給人又給錢的發(fā)展能夠像人一樣推理的機(jī)器。

至今，30年過(guò)去了，也并沒(méi)有完成。

到了近年，關(guān)于類似事情的討論也沒(méi)有停止。這里就不得不提一個(gè)關(guān)鍵人物，未來(lái)學(xué)家雷·庫(kù)茲韋爾。

庫(kù)茲韋爾寫的《奇點(diǎn)臨近》提到：2045年，生物人將不存在。人類將通過(guò)人工智能實(shí)現(xiàn)永生。

其中提到的指數(shù)規(guī)律理論成為了反對(duì)人工智能的人的重要依據(jù)。很有可能我們發(fā)展出了強(qiáng)人工智能，但是卻沒(méi)有手段限制它。

因此《奇點(diǎn)臨近》被當(dāng)做圣經(jīng)，理所當(dāng)然的大賣特賣。

由于這本書引起了強(qiáng)烈的反響，其他的計(jì)算機(jī)科學(xué)界泰斗終于坐不住了。加州大學(xué)伯克利分校人工智能教授斯圖爾特?羅素在2015年的國(guó)際人工智能聯(lián)合會(huì)議把奇點(diǎn)理論狠狠批評(píng)了一頓。因?yàn)槿斯ぶ悄艿倪M(jìn)步并不符合指數(shù)規(guī)律。

到目前為止，人工智能領(lǐng)域的成果其實(shí)還是只能做出看起來(lái)智能的機(jī)器。屬于不能自主邏輯思考的弱人工智能

人工智能到現(xiàn)在發(fā)展60多年直到現(xiàn)在也依舊處于“沒(méi)有人工，就沒(méi)有智能”的階段。

所以，要理性看待人工智能產(chǎn)業(yè)發(fā)展，創(chuàng)新與信心攜行。認(rèn)識(shí)到人工智能產(chǎn)業(yè)的機(jī)遇與挑戰(zhàn)，積極預(yù)控其中的風(fēng)險(xiǎn)。并且認(rèn)識(shí)到現(xiàn)階段的人工智能完全不會(huì)威脅人類，人工智能的發(fā)展速度也遠(yuǎn)遠(yuǎn)沒(méi)有跟上預(yù)言中的進(jìn)度。

最后

如果對(duì)“人工智能”領(lǐng)域感興趣，歡迎看樓主的頭條分享《霍金：人工智能會(huì)導(dǎo)致人類滅亡？140份人工智能行業(yè)報(bào)告熱門分享》

https://www.toutiao.com/i6707418221806354957/

140份最新的人工智能領(lǐng)域報(bào)告免費(fèi)獲取。

參考資料：

霍金警告：人工智能可能使人類滅絕

http://news.ifeng.com/a/20141203/42633344_0.shtml

比爾·蓋茨：人類需要敬畏人工智能的崛起

http://tech.163.com/15/0129/05/AH3Q194F00094P0U.html

嚴(yán)肅《人工智能打臉史 》

https://zhuanlan.zhihu.com/p/20622308

為什么有很多名人讓人們警惕人工智能？

https://www.zhihu.com/question/27864852

馬斯克都投資的硅谷最神秘人工智能公司在干什么

http://it.sohu.com/20161212/n475612661.shtml

人工智能會(huì)威脅人類生存嗎？

http://www.infzm.com/content/121895