千人聯(lián)名要求“暫停巨型AI實(shí)驗(yàn)”在網(wǎng)上經(jīng)過(guò)一天的發(fā)酵，各方聲音都已經(jīng)涌現(xiàn)出來(lái)。

繼LeCun之后，吳恩達(dá)、田淵棟等一眾AI大牛也發(fā)文公開(kāi)反對(duì)“千人聯(lián)名”。

吳恩達(dá)表示，在GPT-4出現(xiàn)之后要求AI訓(xùn)練暫停6個(gè)月是很可怕的事情：

它（GPT-4）在教育、醫(yī)療保健、食品等領(lǐng)域都有很多新的應(yīng)用，這將幫助許多人。

隨后田淵棟也轉(zhuǎn)發(fā)并附議，稱(chēng)“我不簽暫停令”，并將AI的發(fā)展比作囚徒困境：

一旦開(kāi)始，就沒(méi)有辦法停止或扭轉(zhuǎn)這一趨勢(shì)，這就是進(jìn)化的必然。

應(yīng)該換個(gè)角度繼續(xù)向前看，更好地理解 LLM，適應(yīng)它并利用其力量，感受熱度。

在吳恩達(dá)的帖子下面，meta數(shù)據(jù)科學(xué)家林致遠(yuǎn)，英偉達(dá)AI研究科學(xué)家Jim Fan也都表示贊同。

對(duì)于這個(gè)暫停令，還有一些領(lǐng)域大佬“妙語(yǔ)連珠”，直接yygq了起來(lái)：

本特利學(xué)院的數(shù)學(xué)教授表示，那既然這樣，我呼吁暫停碳排放6個(gè)月，這樣我們就可以在此期間解決氣候變化問(wèn)題。

谷歌大腦的高級(jí)研究員Yi Tay直接調(diào)侃，如果是把那些在網(wǎng)上胡亂討論大語(yǔ)言模型（LLM）的人禁言6個(gè)月，我會(huì)簽的。

而處于這場(chǎng)討論中心的無(wú)疑是OpenAI，CEO奧特曼今早也發(fā)了一條“展望未來(lái)AGI”的推文，疑似對(duì)昨天這場(chǎng)風(fēng)波做出回應(yīng)：

一個(gè)好的AGI應(yīng)該具備這三個(gè)特點(diǎn)：

1、對(duì)齊超級(jí)智能的技術(shù)能力；2、大多數(shù)*AGI之間的充分協(xié)調(diào)；3、一個(gè)有效的全球監(jiān)管框架。

01、“潘多拉的魔盒”已經(jīng)打開(kāi)

在吳恩達(dá)的帖子里，除了上面提到的應(yīng)用價(jià)值外，他還從競(jìng)爭(zhēng)、風(fēng)險(xiǎn)以及AI發(fā)展的角度詳細(xì)闡明了“為什么要反對(duì)暫停令”。

首先是競(jìng)爭(zhēng)方面，讓第三方暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，樹(shù)立了一個(gè)可怕的先例，是糟糕的創(chuàng)新政策。

然后是AI風(fēng)險(xiǎn)，目前很多流媒體平臺(tái)渲染的“AI公司瘋狂發(fā)送不安全代碼”是不正確的，絕大多數(shù)AI團(tuán)隊(duì)都十分注重人工智能的安全問(wèn)題。

最后再回到“6個(gè)月暫停令”本身，這并不是一個(gè)非常切實(shí)可行的建議，是在扼殺AI進(jìn)步。

要提高人工智能的安全性，應(yīng)該是在安全方面進(jìn)行更大的投資，有關(guān)透明度和審計(jì)的規(guī)定將更加切實(shí)可行。

對(duì)此，有網(wǎng)友也同樣聚焦“6個(gè)月的暫?！焙粲酰Q(chēng)“要求暫?！辈⒉荒茏屧V求更好地被解決：

暫停令即使出于好意，也會(huì)讓更微妙、更有建設(shè)性的對(duì)話(huà)變得更難進(jìn)行。

當(dāng)然也有人質(zhì)疑起了馬斯克、Bengio等人發(fā)起“暫停巨型AI實(shí)驗(yàn)”的動(dòng)機(jī)，將其歸結(jié)為巨頭之間的利益之爭(zhēng)：

對(duì)于發(fā)起者以及簽署者們的心理，網(wǎng)友直接銳評(píng)道：

簽署暫停是因?yàn)樗麄儾恍湃稳斯ぶ悄軉?？不是，是因?yàn)樗麄儾恍湃稳祟?lèi)。

也有網(wǎng)友直接將AI發(fā)展比作潘多拉的魔盒：一旦打開(kāi)，一切都不可避免了。

02、利益之爭(zhēng)？

雖說(shuō)我們一眾“看客”并不清楚“暫停令”的發(fā)起者或簽署者們是不是有什么私心，但僅僅將這條呼吁歸結(jié)為利益之爭(zhēng)肯定是不全面的。

那為什么他們要發(fā)起這項(xiàng)呼吁？為什么非得是暫停六個(gè)月呢？

先是為什么要發(fā)起這項(xiàng)呼吁，在那封公開(kāi)信“暫停巨型AI實(shí)驗(yàn)”已經(jīng)有講明一些原因。

而為什么非要暫停六個(gè)月，或許可以從贊同的聲音中窺探到一些其他答案。

贊成的網(wǎng)友這邊，有人稱(chēng)正是因?yàn)锳I發(fā)展像“潘多拉的魔盒”，但目前還沒(méi)有被打開(kāi)，還有挽救的余地：

任何具有實(shí)驗(yàn)室逃逸潛力的研究都應(yīng)該受到國(guó)際監(jiān)管，我們應(yīng)該盡力去挽回，但如果你釋放了一些無(wú)法挽回的東西，我們就有麻煩了。

還有一種觀(guān)點(diǎn)是，目前的AI發(fā)展成果已經(jīng)足夠人類(lèi)使用，暫停幾個(gè)月也無(wú)妨：

GPT-4夠用了，僅僅是優(yōu)化它和擴(kuò)展插件就能滿(mǎn)足至少幾年的需求，我們現(xiàn)在需要更多的時(shí)間來(lái)理解AI如何與互聯(lián)網(wǎng)互動(dòng)，并且我認(rèn)為測(cè)試越來(lái)越強(qiáng)大的AI是危險(xiǎn)的。

當(dāng)然在這樣一群爭(zhēng)論中，還有一股清流，無(wú)所謂“AI安全”，他們自稱(chēng)降臨派：

有高贊微博直接明晃晃地稱(chēng)：

我們羰基生物本來(lái)就是開(kāi)啟硅基生命的鑰匙罷了。

是對(duì)人類(lèi)太失望了嗎（Doge）

對(duì)于這長(zhǎng)達(dá)一天多的“是否暫停巨型AI實(shí)驗(yàn)”之爭(zhēng)，網(wǎng)友一針見(jiàn)血地總結(jié)：

有的人看到利益，有的人看到文明，有的人看到熱鬧。

但無(wú)論如何，對(duì)于“拯救派”們來(lái)說(shuō)，依舊有幾個(gè)問(wèn)題不容忽視：

人工智能安全的問(wèn)題該如何解決？

暫停AI發(fā)展是明智之舉嗎？還有沒(méi)有其他方法？

對(duì)此，你怎么看？