6月9日-10日，AI內(nèi)行頂級盛會“北京智源大會”在北京舉辦。智源大會是智源研究院主辦的年度國際性人工智能高端專業(yè)交流活動，業(yè)界學(xué)界共200余位人工智能頂尖專家到場。 ChatGPT讓公眾直觀領(lǐng)受到AI的力量，它展現(xiàn)出強(qiáng)大的翻譯、理解、推理能力，在多項考試中超過人類平均水平，在帶來AGI（通用人工智能，像人一樣思考、從事多種用途的人工智能）曙光的同時，也帶來大家對AI侵犯隱私、導(dǎo)致失業(yè)，甚至取代人類等問題的擔(dān)憂。
一、超級AI所帶來的近憂和遠(yuǎn)慮
近憂1：侵犯個人隱私
目前來說，人工智能至少可通過三種方式侵犯隱私，即非法監(jiān)控、非法侵入個人空間或住宅以及非法干擾個人行為。
1.非法監(jiān)控
監(jiān)控不僅包括對物理空間的監(jiān)控，也包括對虛擬空間的監(jiān)控。虛擬空間是指網(wǎng)絡(luò)空間，它獨立于物理空間而存在。盡管非法監(jiān)控與非法侵入個人空間或住宅存在交叉，但不論是對物理空間還是對網(wǎng)絡(luò)空間的監(jiān)控，非法監(jiān)控所涉及的隱私領(lǐng)域主要是信息隱私，而非法侵入個人空間或住宅主要涉及空間隱私。在非法監(jiān)控中，對物理空間或網(wǎng)絡(luò)空間的侵入只是手段，終極目的在于獲取未公開的個人信息。
2.非法侵入個人空間或住宅
這里所指的個人空間僅限于實體空間，并不包括網(wǎng)絡(luò)空間。傳統(tǒng)的侵入個人空間或住宅的方法比較有限，如監(jiān)視、竊聽、刺探、秘密進(jìn)入等，這些方法都需要人力來完成。然而，人工智能可以通過侵入住宅內(nèi)的監(jiān)控攝像頭、通訊網(wǎng)絡(luò)設(shè)備、智能家居系統(tǒng)等方式侵?jǐn)_個人空間或住宅，且不留下任何外部物跡。
3. 非法干擾個人行為
眾所周知，互聯(lián)網(wǎng)上存在大量的實名或未實名的用戶數(shù)據(jù)，人工智能通過一定的技術(shù)手段對用戶數(shù)據(jù)進(jìn)行收集與分析，可以準(zhǔn)確分析出用戶的興趣愛好、行為蹤跡等信息，并進(jìn)行信息推薦，而這些信息用戶并未主動提供，顯而易見，用戶是根本不愿意這些信息被其他主體知曉，這勢必侵犯個人隱私。
近憂2：造成失業(yè)與壟斷
從失業(yè)的角度來說，主要是因為超級人工智能的出現(xiàn)造成了勞動力的供大于求。人工智能的普及必然取代社會中原有的部分勞動力，且由于人工智能的低成本、高效率等突出特性，更易受到用人單位的青睞，造成以出賣勞動力為主的社會底層居民喪失勞動和就業(yè)機(jī)會，極大壓縮其生存的空間，使其成為社會中的不穩(wěn)定因素，進(jìn)而引發(fā)不同群體間的對立和沖突。從形成行業(yè)壟斷的角度來看，在市場中，資本與技術(shù)結(jié)合共謀實施行業(yè)壟斷是時常發(fā)生的情形，由于掌握先進(jìn)技術(shù)，部分企業(yè)可以借此獲得壟斷或支配地位，肆意打壓中小企業(yè)或歧視性地對待合作商家而謀取巨額利益，進(jìn)而嚴(yán)重破壞市場公平公正的競爭秩序。
遠(yuǎn)慮：存在毀滅性風(fēng)險
總部位于舊金山的人工智能安全非營利組織（CAIS），一直在為“如何降低人工智能（AI）的社會規(guī)模風(fēng)險”而努力。5月30日，該機(jī)構(gòu)發(fā)布了一份《AI風(fēng)險聲明》，呼吁全世界應(yīng)該像控制大流行病和核戰(zhàn)爭那樣，降低AI帶給人類滅頂之災(zāi)的風(fēng)險，并且把優(yōu)先級調(diào)到最高。在ChatGPT走紅全球之后，75歲的辛頓從谷歌辭職，便拉響AI的警報，更自由地討論AI給人類帶來的風(fēng)險。當(dāng)時，他出席美國麻省理工大學(xué)（MIT）的一場論壇時表示：“如果AI模型比人類聰明得多，它將善于操縱人類，你都不會意識到發(fā)生了什么?！痹谧顗那闆r下，“人類只是智能進(jìn)化的一個過場”，在生物智能進(jìn)化出數(shù)字智能后，數(shù)字智能將吸收人類創(chuàng)造的一切，并開始直接接觸世界。當(dāng)AI變得比人類更聰明時，就有可能會導(dǎo)致人類面臨生存威脅。
二、強(qiáng)化對超級人工智能監(jiān)管的必要性分析
細(xì)化法律法規(guī)，監(jiān)管技術(shù)齊驅(qū)
盡管新一代AI技術(shù)提出了諸多挑戰(zhàn)，具有較大的監(jiān)管難度，但是我們卻不能聽之任之和置之不理。如果任由ChatGPT等新一代AI技術(shù)如脫韁的野馬一樣橫沖直撞，那么就可能出現(xiàn)難以挽回的損失甚至是災(zāi)難性后果。只有未雨綢繆地對新一代AI技術(shù)的發(fā)展趨勢和應(yīng)用前景進(jìn)行研判和分析，提前做好監(jiān)管準(zhǔn)備，才能避免“兵來將擋水來土掩”式的被動響應(yīng)。當(dāng)我們建立和完善一攬子的新一代AI技術(shù)監(jiān)管制度體系后，監(jiān)管創(chuàng)新便能跟上技術(shù)進(jìn)步的步伐，避免監(jiān)管被技術(shù)甩在后面。否則，監(jiān)管技術(shù)的落后將直接決定技術(shù)監(jiān)管的失敗，也必然會導(dǎo)致新一代AI技術(shù)的失控和無序發(fā)展。
新一代AI技術(shù)具有很強(qiáng)的不確定性，使政府監(jiān)管難以下手。首先，新一代AI技術(shù)的高度不確定性意味著一般的政府部門難以預(yù)判其風(fēng)險，政府部門的監(jiān)管往往是針對既有問題而展開的，而新興技術(shù)提出的監(jiān)管挑戰(zhàn)則可能不在其監(jiān)管框架之內(nèi)。在這種監(jiān)管機(jī)制存在局限的情況下，政府部門對新興技術(shù)的監(jiān)管經(jīng)常陷入被動響應(yīng)的尷尬局面。其次，當(dāng)新一代AI技術(shù)應(yīng)用于各個領(lǐng)域時，它會成為新的操作系統(tǒng)、數(shù)字基礎(chǔ)設(shè)施或技術(shù)平臺，使其同相關(guān)業(yè)務(wù)難以切割。這使政府部門的監(jiān)管不得不通盤考慮技術(shù)應(yīng)用的廣泛性和深入性，而不能采取一技一策的方式進(jìn)行監(jiān)管。而在這種情況下，由專門部門去細(xì)化相關(guān)的責(zé)任顯得尤為必要。
加強(qiáng)國際合作，共度AI深秋
在全球化時代，由于人工智能技術(shù)呈現(xiàn)出跨國家、跨文化和跨領(lǐng)域特點，應(yīng)對人工智能技術(shù)挑戰(zhàn)并非完全取決于個別的國家日，因此加強(qiáng)國際間的相互合作也就成為人工智能監(jiān)管的必然趨勢。這種國際間的相互合作應(yīng)該主要表現(xiàn)為兩方面:一方面是主權(quán)國家之間的相互協(xié)調(diào)，以美國為主的部分西方國家以所謂的“意識形態(tài)”“共同價值觀”為合作紐帶，以應(yīng)對中國在人工智能領(lǐng)域不斷提升的影響，確保其在該領(lǐng)域的領(lǐng)導(dǎo)地位。如美國不僅計劃與歐盟在跨大西洋合作方面積極展開關(guān)于人工智能技術(shù)發(fā)展、規(guī)制的討論與合作，還在與韓國來往時多次強(qiáng)調(diào)希望促進(jìn)韓美兩國在人工智能等新興技術(shù)方面的合作。另一方面是產(chǎn)業(yè)界、學(xué)術(shù)界等形成的行業(yè)宣言，如在首屆全球數(shù)字經(jīng)濟(jì)大會人工智能產(chǎn)業(yè)治理論壇上發(fā)布的《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》，便是企業(yè)與學(xué)術(shù)機(jī)構(gòu)在共同商討下形成的倡議性文件。
三、加強(qiáng)國際合作具體規(guī)范設(shè)想
AGI擁有徹底改造文明的能力，因此，有意義的國際合作非常必要。作為地球上的一員，我們需要投資AGI安全、謹(jǐn)慎協(xié)調(diào)才能實現(xiàn)并享受這個未來。作為一項全球性的技術(shù)，輕率合作帶來的后果，將影響所有人。因此，在國際合作中，這三個關(guān)鍵領(lǐng)域最為重要。
建立國際規(guī)范，注重過程包容
我國應(yīng)注重運用在人工智能相關(guān)領(lǐng)域的技術(shù)優(yōu)勢，積極參與人工智能技術(shù)相關(guān)國際標(biāo)準(zhǔn)的制定工作，包括規(guī)范術(shù)語、技術(shù)框架、產(chǎn)品服務(wù)等，逐步實現(xiàn)我國在人工智能技術(shù)標(biāo)準(zhǔn)方面的國際化。同時，鑒于人工智能國際標(biāo)準(zhǔn)在國際上具有一定敏感性，在標(biāo)準(zhǔn)化立項和推進(jìn)過程中要秉承積極協(xié)商、靈活應(yīng)對、推進(jìn)共識的工作策略，保障國際標(biāo)準(zhǔn)工作的順利推進(jìn)。在推動共同國際規(guī)范和標(biāo)準(zhǔn)建立的過程中，應(yīng)從相互依存、命運與共的“共同體”意識出發(fā)，同時注意各國之間的差異性，在制定規(guī)制的過程中，留下一定變通的空間。
加強(qiáng)人才互通，建立交流機(jī)制
千里之行，始于足下。我認(rèn)為，最有建設(shè)性的第一步，是國際科學(xué)界、技術(shù)界展開合作。我們應(yīng)該在AGI安全領(lǐng)域，推動建立增加透明度和知識共享的機(jī)制。發(fā)現(xiàn)緊急情況的研究人員應(yīng)該為了共同的利益，共享新進(jìn)展。另外，我們也應(yīng)仔細(xì)考慮，如何在尊重和保護(hù)知識產(chǎn)權(quán)的同時鼓勵這種做法。更廣泛地說，我們應(yīng)該推動、引導(dǎo)AI對齊和安全研究。
同時，我國應(yīng)緊密跟蹤研究國內(nèi)外人工智能安全標(biāo)準(zhǔn)化工作動態(tài)和發(fā)展趨勢，把握人工智能安全領(lǐng)域國際標(biāo)準(zhǔn)研究態(tài)勢和重點方向。建立人工智能重點難點標(biāo)準(zhǔn)合作交流機(jī)制，借鑒各國在國際標(biāo)準(zhǔn)組織中的工作經(jīng)驗，參考形成我國人工智能安全國際標(biāo)準(zhǔn)化工作推進(jìn)策略。充分吸收國外人工智能安全領(lǐng)域標(biāo)準(zhǔn)研究成果，借助國際力量豐富和推進(jìn)我國人工智能安全標(biāo)準(zhǔn)制定，保持國家/行業(yè)標(biāo)準(zhǔn)與國際標(biāo)準(zhǔn)之間的協(xié)調(diào)一致，提高我國標(biāo)準(zhǔn)的先進(jìn)性、規(guī)范性，確保人工智能安全標(biāo)準(zhǔn)能夠及時滿足人工智能安全保障和新興技術(shù)產(chǎn)業(yè)發(fā)展的需求。借助于雙邊或多邊的合作契機(jī)，邀請人工智能相關(guān)領(lǐng)域?qū)＜业轿覈_展交流研究，不斷向世界輸出人類命運共同體的合作理念和價值，搭建校企之間、科研院所之間等廣泛的交流合作機(jī)制，推動構(gòu)建人工智能國際監(jiān)管的合作框架，為人工智能監(jiān)管貢獻(xiàn)中國方案，發(fā)出中國聲音。
