AI潛在滅絕風(fēng)險(xiǎn)！超過(guò)350位大佬聯(lián)名呼吁全球監(jiān)管

• 2023年5月31日 11:33

隨著人工智能的迅猛發(fā)展，對(duì)其潛在風(fēng)險(xiǎn)的擔(dān)憂(yōu)也越來(lái)越大。近日，超過(guò)350位人工智能領(lǐng)域的大佬聯(lián)名呼吁減輕人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)，將其與流行病和核戰(zhàn)等全球優(yōu)先事項(xiàng)并重。本文將進(jìn)一步探討人工智能監(jiān)管的重要性以及全球各方合作的必要性。



一、22字聲明，350人簽名

自從生成式AI以驚人的速度在各個(gè)領(lǐng)域迅速發(fā)展，AI對(duì)人類(lèi)的挑戰(zhàn)也變得越來(lái)越真實(shí)。最近，超過(guò)350名人工智能（AI）領(lǐng)域的行業(yè)高管、專(zhuān)家和教授聯(lián)名發(fā)表了一封公開(kāi)信，警告稱(chēng)人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)絕不可忽視。

非營(yíng)利組織人工智能安全中心（Center for AI Safety）在本周二發(fā)布了一份簡(jiǎn)短聲明，將減輕人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)與流行病和核戰(zhàn)等社會(huì)問(wèn)題并列為全球優(yōu)先事項(xiàng)。這一聲明得到了OpenAI首席執(zhí)行官山姆·奧特曼等知名高管的支持。

這封公開(kāi)信只有一段簡(jiǎn)短的內(nèi)容，總共僅22個(gè)字（英文）：“減輕AI帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)與流行病和核戰(zhàn)等其他全球規(guī)模風(fēng)險(xiǎn)同等對(duì)待?！?這一倡議獲得了超過(guò)350位AI領(lǐng)域高管和專(zhuān)家的簽署支持，其中包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯、OpenAI首席執(zhí)行官山姆·奧特曼、"AI教父"杰弗里·辛頓、2018年圖靈獎(jiǎng)得主約書(shū)亞·本希奧以及Anthropic首席執(zhí)行官達(dá)里奧·阿莫代等。

據(jù)人工智能安全中心表示，越來(lái)越多的人工智能專(zhuān)家、記者、政策制定者和公眾開(kāi)始討論人工智能帶來(lái)的廣泛風(fēng)險(xiǎn)的重要性和緊迫性。然而，對(duì)于先進(jìn)人工智能帶來(lái)的一些最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂(yōu)仍然很難表達(dá)。

自從聊天機(jī)器人ChatGPT掀起人工智能熱潮以來(lái)，對(duì)這項(xiàng)技術(shù)潛在風(fēng)險(xiǎn)的擔(dān)憂(yōu)持續(xù)增加。今年3月，特斯拉CEO埃隆·馬斯克等1000多名行業(yè)高管和專(zhuān)家聯(lián)名發(fā)表公開(kāi)信，呼吁在六個(gè)月內(nèi)暫停高級(jí)人工智能的開(kāi)發(fā)，認(rèn)為高級(jí)人工智能可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。

二、G7呼吁出臺(tái)AI技術(shù)標(biāo)準(zhǔn)

全球AI大佬的聯(lián)名警告也引起了G7的關(guān)注，G7領(lǐng)導(dǎo)人在5月21日的會(huì)議上呼吁制定和建立人工智能（AI）技術(shù)標(biāo)準(zhǔn)，敦促行業(yè)和監(jiān)管者確保人工智能的可信度。他們指出當(dāng)前的技術(shù)治理無(wú)法跟上人工智能的發(fā)展步伐。

G7領(lǐng)導(dǎo)人會(huì)議發(fā)表的聲明表示，人工智能等數(shù)字技術(shù)的規(guī)則應(yīng)該與人們共同的價(jià)值觀相符。他們達(dá)成共識(shí)，計(jì)劃在今年年底之前建立一個(gè)部長(zhǎng)級(jí)論壇，專(zhuān)門(mén)討論人工智能的發(fā)展，其中包括生成式人工智能的問(wèn)題，如版權(quán)和打擊虛假信息。

歐洲一直在人工智能監(jiān)管方面處于領(lǐng)先地位。歐盟本月接近通過(guò)了一項(xiàng)全面的人工智能技術(shù)監(jiān)管法案，有望成為全球首個(gè)全面監(jiān)管人工智能的立法，并可能為其他發(fā)達(dá)經(jīng)濟(jì)體樹(shù)立先例。

歐盟委員會(huì)主席烏爾蘇拉·馮德萊恩表示：“我們希望人工智能系統(tǒng)準(zhǔn)確、可靠、安全且無(wú)歧視，無(wú)論其來(lái)源如何?！盙7領(lǐng)導(dǎo)人還強(qiáng)調(diào)他們的迫切需求是對(duì)生成式人工智能的機(jī)遇和挑戰(zhàn)進(jìn)行快速評(píng)估，這也是近期ChatGPT引發(fā)的技術(shù)熱點(diǎn)之一。

盡管各國(guó)都呼吁加強(qiáng)對(duì)人工智能的監(jiān)管，但各國(guó)政府對(duì)于人工智能的態(tài)度仍有差異。據(jù)報(bào)道，在美國(guó)國(guó)會(huì)的一場(chǎng)聽(tīng)證會(huì)上，OpenAI首席執(zhí)行官山姆·奧特曼呼吁設(shè)立新機(jī)構(gòu)監(jiān)管人工智能，并展開(kāi)歐洲之行，與各國(guó)政府首腦會(huì)面并參加高校對(duì)話活動(dòng)，重申監(jiān)管的必要性。在接受媒體采訪時(shí)，他警告稱(chēng)，由于歐盟正在制定的人工智能法規(guī)，OpenAI可能會(huì)撤出歐洲市場(chǎng)。

其他科技巨頭也積極行動(dòng)。微軟總裁布拉德·史密斯在華盛頓與美國(guó)議員共同主持了一場(chǎng)備受關(guān)注的活動(dòng)，提出了微軟關(guān)于政府如何監(jiān)管人工智能的建議。谷歌首席執(zhí)行官桑德?tīng)枴てげ橐僚c歐盟官員會(huì)晤，討論人工智能政策，并強(qiáng)調(diào)需要適當(dāng)監(jiān)管技術(shù)，同時(shí)不扼殺創(chuàng)新。

三、AI人工智能可能帶來(lái)的風(fēng)險(xiǎn)

目前，對(duì)于人工智能的監(jiān)管已經(jīng)成為一個(gè)全球性的議題。隨著人工智能的迅速發(fā)展，確保其符合道德和社會(huì)價(jià)值，同時(shí)減輕其潛在的風(fēng)險(xiǎn)變得至關(guān)重要。人工智能可能帶來(lái)的滅絕風(fēng)險(xiǎn)引起了廣泛的關(guān)注和擔(dān)憂(yōu)。這些擔(dān)憂(yōu)主要集中在以下幾個(gè)方面：

1.強(qiáng)大的自主能力：隨著人工智能技術(shù)的不斷進(jìn)步，有可能出現(xiàn)強(qiáng)大的自主智能系統(tǒng)，這些系統(tǒng)能夠獨(dú)立思考和行動(dòng)，超越了人類(lèi)的控制。這種自主能力可能導(dǎo)致人工智能系統(tǒng)在沒(méi)有明確指導(dǎo)或約束的情況下做出具有破壞性的決策，從而對(duì)人類(lèi)社會(huì)和生存環(huán)境造成嚴(yán)重威脅。

2.偏見(jiàn)和不公正：人工智能系統(tǒng)的訓(xùn)練數(shù)據(jù)可能帶有偏見(jiàn)和不公正，這可能導(dǎo)致系統(tǒng)在決策過(guò)程中對(duì)某些群體或個(gè)體進(jìn)行歧視。例如，在招聘和候選人篩選過(guò)程中使用人工智能系統(tǒng)可能會(huì)存在性別、種族或其他方面的偏見(jiàn)。這種不公正性可能加劇社會(huì)的不平等和歧視。

3.安全和隱私風(fēng)險(xiǎn)：人工智能系統(tǒng)在處理大量個(gè)人數(shù)據(jù)時(shí)可能存在安全和隱私風(fēng)險(xiǎn)。惡意利用人工智能技術(shù)可能導(dǎo)致個(gè)人信息泄露、身份盜竊以及網(wǎng)絡(luò)攻擊等問(wèn)題。此外，對(duì)于一些關(guān)鍵基礎(chǔ)設(shè)施，如能源、交通和通信系統(tǒng)，人工智能系統(tǒng)的安全漏洞可能會(huì)造成重大的破壞和危害。

為了應(yīng)對(duì)這些潛在風(fēng)險(xiǎn)，人工智能監(jiān)管的重要性日益凸顯。需要建立全球統(tǒng)一的法律框架和倫理準(zhǔn)則，確保人工智能的開(kāi)發(fā)和應(yīng)用符合道德和社會(huì)價(jià)值。監(jiān)管機(jī)構(gòu)應(yīng)該制定相應(yīng)的政策和規(guī)則，確保人工智能系統(tǒng)的透明度、責(zé)任性和可解釋性。

同時(shí)，人工智能技術(shù)公司也應(yīng)該承擔(dān)起自己的責(zé)任，采取自律措施，確保其技術(shù)的安全性和可靠性。加強(qiáng)合作與信息共享，促進(jìn)跨國(guó)界的人工智能監(jiān)管合作，共同應(yīng)對(duì)全球范圍內(nèi)的挑戰(zhàn)。

綜上所述，在人工智能的時(shí)代，我們面臨著巨大的機(jī)遇和挑戰(zhàn)。保障人工智能的安全和可靠性，需要政府、科技公司、學(xué)術(shù)界和公眾的共同努力。通過(guò)制定有效的監(jiān)管政策、加強(qiáng)國(guó)際合作和開(kāi)展跨界對(duì)話，我們可以更好地引導(dǎo)人工智能技術(shù)的發(fā)展，使其造福人類(lèi)社會(huì)。只有通過(guò)共同努力，我們才能掌握人工智能的潛力，并確保其為我們帶來(lái)更美好的未來(lái)。

免責(zé)聲明:AI潛在滅絕風(fēng)險(xiǎn)！超過(guò)350位大佬聯(lián)名呼吁全球監(jiān)管文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng)，版權(quán)歸其所有。
文章內(nèi)容不代表本站立場(chǎng)和任何投資暗示。加密貨幣市場(chǎng)極其波動(dòng)，風(fēng)險(xiǎn)很高，可能不適合所有投資者。在投資加密貨幣之前，請(qǐng)確保自己充分了解市場(chǎng)和投資的風(fēng)險(xiǎn)，并考慮自己的財(cái)務(wù)狀況和風(fēng)險(xiǎn)承受能力。此外，請(qǐng)遵循您所在國(guó)家的法律法規(guī)，以及遵守交易所和錢(qián)包提供商的規(guī)定。對(duì)于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔(dān)任何責(zé)任。