您的位置:首頁 >財(cái)經(jīng) >

天天快報(bào)!周鴻祎:ChatGPT可能兩三年內(nèi)就會產(chǎn)生自我意識威脅人類

2023-02-23 13:38:07    來源:揚(yáng)子晚報(bào)

“從知識來說,它像一個(gè)博士生,學(xué)識廣博但還不會活學(xué)活用;從情商來說,它像一個(gè)油滑的中年人,說什么都滴水不漏,絕不得罪用戶。但是,它實(shí)際上真正的能力像一個(gè)小孩子,需要進(jìn)行問題和答案的訓(xùn)練來學(xué)習(xí)技能。再聰明的孩子都要通過訓(xùn)練才能解答沒學(xué)過的奧數(shù)題?!?/p>


(資料圖片)

360創(chuàng)始人周鴻祎 澎湃新聞?dòng)浾叻都褋?攝

2月23日,360創(chuàng)始人周鴻祎在接受澎湃新聞等媒體采訪時(shí),再次提到大熱的聊天機(jī)器人ChatGPT,并分享了他心中ChatGPT的“三重人格”。

ChatGPT熱潮正席卷全球。這款由“美國AI夢工廠”O(jiān)penAI制作的AI聊天機(jī)器人軟件,只用了兩個(gè)月時(shí)間,月活躍用戶達(dá)到1億,是史上月活用戶增長最快的消費(fèi)者應(yīng)用。

此前,周鴻祎曾經(jīng)多次在公開場合談到他對ChatGPT的觀察。在他看來,ChatGPT已經(jīng)擁有或接近擁有了人類智慧,并正處于通往“通用人工智能”的臨界點(diǎn)?!拔覀冋J(rèn)為它是一個(gè)通用人工智能的奇點(diǎn),而通用人工智能也還有一個(gè)隱含的拐點(diǎn),它可能是一個(gè)強(qiáng)人工智能?!?/p>

ChatGPT具有類人特征:有編故事的能力

在采訪現(xiàn)場,周鴻祎完全不掩飾他對ChatGPT的興奮。

在他看來,ChatGPT是一種生產(chǎn)力強(qiáng)大的再造工具,而不僅僅是賦能特定行業(yè)?!斑^去說大數(shù)據(jù)像‘石油’一樣,但大數(shù)據(jù)不能直接用,ChatGPT像一個(gè)發(fā)電廠,燒了石油,把石油灌進(jìn)去之后就可以產(chǎn)生電力,用云服務(wù)的方式把它接入到千家萬戶、千行百業(yè),它對整個(gè)產(chǎn)業(yè)都會發(fā)生巨大的影響。所以,這直接決定未來下一個(gè)十年中國和其他國家的科技產(chǎn)業(yè)差距:是形成落后還是迎頭趕上?!?/p>

ChatGPT將通過上千億的系統(tǒng)參數(shù),實(shí)現(xiàn)原先設(shè)計(jì)者預(yù)想不到的能力?!斑@就像從猿到人的過程中肯定有一個(gè)臨界點(diǎn),當(dāng)大腦的神經(jīng)網(wǎng)絡(luò)鏈接數(shù)目、腦細(xì)胞數(shù)目等多到一定程度時(shí),人的智力和動(dòng)物相比就產(chǎn)生了質(zhì)的飛躍。”

周鴻祎表示,ChatGPT和其他人工智能最大的區(qū)別、也是其類人特征是,原來的人工智能并沒有實(shí)現(xiàn)對知識全部的理解和編碼,本質(zhì)都是按照關(guān)鍵字匹配已有的回答,但ChatGPT沒有“固定答案”:“我當(dāng)時(shí)問了它一個(gè)問題,趙匡胤為什么招安了宋江,殺掉了岳飛,這個(gè)無厘頭的問題,它也煞有介事地回答了一遍,能夠自己‘編’故事,這才是它的真正智能所在?!?/p>

“ChatGPT可能在2-3年內(nèi)就會產(chǎn)生自我意識威脅人類?!痹诓稍L現(xiàn)場,周鴻祎“語出驚人”。他提到,任何行業(yè)的APP、軟件、網(wǎng)站、應(yīng)用,如果加持上GPT的能力,都值得重塑一遍?!安灰阉?dāng)成一個(gè)媒體工具、搜索引擎、聊天機(jī)器人,這都有點(diǎn)把它看的太小兒科了。”

他表示,ChatGPT和傳統(tǒng)人工智能的訓(xùn)練不一樣,需要經(jīng)過多維度的訓(xùn)練。首先是囫圇吞棗、不求甚解的讀上幾百萬本書,獲得人類知識,但是依然不具備解決問題的能力。其次需要專業(yè)的人工智能訓(xùn)練師去培養(yǎng)它回答問題的能力,其中也催生出大量的新就業(yè)機(jī)會。

最大的安全問題是產(chǎn)生自我意識后是否能被控制

作為網(wǎng)絡(luò)安全問題的專家,周鴻祎也分享了他心中的ChatGPT的安全問題。

在他看來,ChatGPT的安全性從技術(shù)問題變成社會倫理問題。ChatGPT掌握了很多編程和網(wǎng)絡(luò)安全漏洞的知識,可以成為網(wǎng)絡(luò)犯罪的有力工具。有許多黑客演示了利用ChaGPT寫釣魚郵件和攻擊代碼,所以從某種角度而言ChatGPT也成為了黑客的“幫手”。

“國內(nèi)的互聯(lián)網(wǎng)公司普遍太講究實(shí)用主義,都是把人工智能和自己的業(yè)務(wù)緊密結(jié)合,但沒想到ChatGPT的更多可能性,360目前還在追蹤和鉆研這些技術(shù),希望能迎頭趕上?!敝茗櫟t表示,360正在探索“以其人之矛攻其人之盾”,用ChatGPT扮演“正義助手”的角色,建立對攻擊自動(dòng)監(jiān)測、發(fā)現(xiàn)的知識庫,用人工智能進(jìn)行網(wǎng)絡(luò)安全數(shù)據(jù)的自動(dòng)化處理。

“目前ChatGPT最大的安全問題就是產(chǎn)生自我意識后是否能被控制?!敝茗櫟t表示,假如放開限制,讓ChatGPT盡情在網(wǎng)頁中學(xué)習(xí),可能會導(dǎo)致它產(chǎn)生對物理世界更強(qiáng)的控制能力,未來在發(fā)展上會產(chǎn)生更多不安全性,也有可能被人誘導(dǎo)干出“糊涂事”,而是否能控制強(qiáng)人工智能,正是ChatGPT是否徹底融入人類生活的“邊界點(diǎn)”。

至于外界關(guān)注的ChatGPT是否可能造成普通人失業(yè)?在周鴻祎看來,短期內(nèi)不會,“目前它的定位還是人類工具,這也是它的創(chuàng)造力所在。目前它的自我意識還沒有出現(xiàn),所以需要發(fā)揮自己的想象力和創(chuàng)造力?!?/p>

他也對中國開發(fā)出屬于自己的ChatGPT充滿期待。在他看來,中國在人工智能領(lǐng)域與微軟、谷歌的差距并沒有想象中的大。在ChatGPT領(lǐng)域,中國具有很大優(yōu)勢,有希望在2-3年內(nèi)達(dá)到世界領(lǐng)先水平,應(yīng)該對ChatGPT技術(shù)探索給予充分支持。

具體而言,周鴻祎表示,中國的互聯(lián)網(wǎng)公司在數(shù)量與算力有一定的優(yōu)勢,同時(shí)也有較強(qiáng)的科研和高校儲備力量,必須將科研機(jī)構(gòu)、學(xué)校、科學(xué)家等學(xué)術(shù)圈人士,和產(chǎn)業(yè)、工程、產(chǎn)品結(jié)合起來,充分調(diào)動(dòng)和統(tǒng)籌資源。

工程師紅利是中國的一大優(yōu)勢,但也面臨不利條件,就是缺乏開源的傳統(tǒng)。在ChatGPT研發(fā)中,用了許多開源模型,沒有此前的開源就沒有在巨人肩膀上的積累,每個(gè)公司都要從黑暗中摸索,這對國家整個(gè)產(chǎn)業(yè)發(fā)展速度是不利的,“這么牛的技術(shù),也確實(shí)不應(yīng)該被壟斷在一兩家公司手里?!?/p>

周鴻祎認(rèn)為,解決原創(chuàng)問題需要科研機(jī)構(gòu)的努力,而科研機(jī)構(gòu)也需要和產(chǎn)業(yè)公司的合作,OpenAI與微軟的合作創(chuàng)造了一個(gè)產(chǎn)業(yè)公司和創(chuàng)業(yè)公司的合作范例,“我認(rèn)為國家還是應(yīng)該充分的支持ChatGPT產(chǎn)業(yè)發(fā)展,開源、合作、交流、打造生態(tài)?!?/p>

他希望國內(nèi)有更多企業(yè)參與AI生態(tài)的構(gòu)建,并形成公開的市場競爭,這樣才有進(jìn)步?!癈hatGPT讓很多行業(yè)應(yīng)用就插上人工智能的翅膀?!敝茗櫟t表示,“光是ChatGPT煽動(dòng)不了一場產(chǎn)業(yè)革命,但是如果將來各行各業(yè)都被人工智能賦能,就會帶來巨大的改變?!?/p>

此前2月9日下午,周鴻祎在與搜狐張朝陽的對話中表示,雖然ChatGPT現(xiàn)在還不完美,但要看到它無限的潛力,未來會有非常多的場景,不僅僅是輔助搜索引擎搜索答案。“這就是為什么所有公司都爭先恐后地都要搭上這班車,如果搭不上就有可能被淘汰。”

“我覺得ChatGPT真的不是一個(gè)工具,它對人類自然語言的充分理解,可能代表著人類在人工智能歷史上開始一場真正的革命?!闭劶癈hatGPT的誕生,周鴻祎表示,ChatGPT是通過一個(gè)上千億參數(shù)的大語言模型,相當(dāng)于把網(wǎng)絡(luò)上很多人類的知識都進(jìn)行了理解和訓(xùn)練,模擬了人腦對知識的儲存,使得回答問題完全像一個(gè)成熟、油滑的人,而不是機(jī)械地給出搜索答案。

關(guān)鍵詞:

相關(guān)閱讀