您所在的位置: 首頁(yè) >
新聞資訊 >
技術(shù)前沿 >
人工智能安全風(fēng)險(xiǎn)的內(nèi)外根由與治理路徑
一、導(dǎo) 言
黨的十九屆四中全會(huì)明確提出“建立健全運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進(jìn)行行政管理的制度規(guī)則。推進(jìn)數(shù)字政府建設(shè),加強(qiáng)數(shù)據(jù)有序共享,依法保護(hù)個(gè)人信息”。人工智能作為一項(xiàng)新技術(shù),既可賦能安全,又會(huì)伴生安全問(wèn)題。英國(guó)技術(shù)哲學(xué)家大衛(wèi)?科林格里奇在其《技術(shù)的社會(huì)控制》一書(shū)中闡述的“科林格里奇困境”,一項(xiàng)技術(shù)的社會(huì)后果不能在技術(shù)生命的早期被預(yù)料到,然而當(dāng)不希望看到的后果被發(fā)現(xiàn)以后,技術(shù)往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)的一部分,此時(shí)想要控制它將會(huì)十分困難。人工智能的安全問(wèn)題伴生效應(yīng)也會(huì)表現(xiàn)在兩個(gè)方面:一是新技術(shù)的脆弱性導(dǎo)致系統(tǒng)自身出現(xiàn)問(wèn)題,無(wú)法達(dá)到預(yù)設(shè)的功能目標(biāo),稱(chēng)之為新技術(shù)的“內(nèi)生安全”;另一個(gè)是新技術(shù)脆弱性并沒(méi)有給系統(tǒng)自身運(yùn)行帶來(lái)風(fēng)險(xiǎn),但其脆弱性卻被利用引發(fā)其他領(lǐng)域安全問(wèn)題,這稱(chēng)之為“衍生安全”。綜上所述,人工智能技術(shù)具有安全賦能與安全伴生兩個(gè)效應(yīng)。其中,安全賦能效應(yīng)是指人工智能技術(shù)系統(tǒng)足夠強(qiáng)大,可以提升安全領(lǐng)域的防御能力,也可以被應(yīng)用于安全攻擊;安全伴生效應(yīng)是指人工智能技術(shù)存在問(wèn)題或其可控性方面存在脆弱性,前者可以導(dǎo)致人工智能系統(tǒng)的運(yùn)行出現(xiàn)問(wèn)題,后者可以導(dǎo)致人工智能系統(tǒng)危及到其他領(lǐng)域的安全。本質(zhì)上說(shuō),賦能攻擊與衍生安全的外顯行為都是人工智能系統(tǒng)會(huì)危及到其他領(lǐng)域的安全,差別僅僅是內(nèi)因的不同:賦能攻擊是攻擊者利用人工智能技術(shù)的強(qiáng)大特性來(lái)主動(dòng)提升破壞性效果;衍生安全是由于人工智能技術(shù)的脆弱性被利用,或者人工智能系統(tǒng)在可控性方面的脆弱性導(dǎo)致自身“意外”地形成破壞性效果,或者自主地形成破壞性效果,從而影響到其他領(lǐng)域的安全狀況。
二、人工智能安全風(fēng)險(xiǎn)產(chǎn)生的內(nèi)外根由
人工智能安全風(fēng)險(xiǎn)分為內(nèi)生與衍生兩種。內(nèi)生安全是指人工智能技術(shù)存在問(wèn)題或其可控性方面存在脆弱性,導(dǎo)致系統(tǒng)運(yùn)行出現(xiàn)問(wèn)題,無(wú)法達(dá)到預(yù)設(shè)的功能目標(biāo);衍生安全是指人工智能技術(shù)的脆弱性被利用,導(dǎo)致其危及到其他領(lǐng)域的安全。
(一)人工智能的內(nèi)生安全
人工智能內(nèi)生安全指的是人工智能系統(tǒng)自身存在脆弱性。部分原因是因?yàn)樾录夹g(shù)自身不成熟,存在著一些安全漏洞,包含人工智能框架、數(shù)據(jù)、算法、模型任一環(huán)節(jié)都能給系統(tǒng)帶來(lái)脆弱性,但這些漏洞通常會(huì)被發(fā)現(xiàn)并且可被改進(jìn);還有一種情況是新技術(shù)存在著天然的缺陷,使得某些客觀存在的問(wèn)題無(wú)法通過(guò)改進(jìn)的方法來(lái)解決,此時(shí)只能采取其他手段加以防護(hù)。例如,在框架組件方面,難以保證框架和組件實(shí)現(xiàn)的正確性和透明性是人工智能的內(nèi)生安全問(wèn)題??蚣苁情_(kāi)發(fā)人工智能系統(tǒng)的基礎(chǔ)環(huán)境,相當(dāng)于人們熟悉的Visual C++的SDK庫(kù)或Python的基礎(chǔ)依賴(lài)庫(kù),重要性不言而喻。當(dāng)前,國(guó)際上已經(jīng)推出了大量的開(kāi)源人工智能框架和組件,并得到了廣泛使用。然而,由于這些框架和組件未經(jīng)充分安全評(píng)測(cè),可能存在漏洞甚至后門(mén)等風(fēng)險(xiǎn)。一旦基于不安全框架構(gòu)造的人工智能系統(tǒng)被應(yīng)用于關(guān)乎國(guó)計(jì)民生的重要領(lǐng)域,這種因?yàn)椤盎A(chǔ)環(huán)境不可靠”而帶來(lái)的潛在風(fēng)險(xiǎn)就更加值得關(guān)注。此外,就云計(jì)算環(huán)境而言,由于云服務(wù)商擁有云資源,該資源僅僅是提供給云的租戶(hù)使用而已,使得計(jì)算資源的使用者與擁有者分開(kāi),導(dǎo)致可信根的擁有者與需要保障安全的使用者不再是同一個(gè)對(duì)象,從而使可信根的模式在云計(jì)算平臺(tái)上不再適用。同樣,量子的塌陷效應(yīng)使之難以用于通信,因?yàn)橐坏┏霈F(xiàn)監(jiān)聽(tīng),通信就被中止,致使通信的可靠性成為量子通信系統(tǒng)的軟肋,使其大大降低了用量子通信系統(tǒng)構(gòu)建傳輸通道的可行性。事實(shí)上,這種情況一直伴生在各種技術(shù)中。例如,對(duì)抗樣本就是一種利用算法缺陷實(shí)施攻擊的技術(shù),自動(dòng)駕駛汽車(chē)的許多安全事故也可歸結(jié)為由于算法不成熟而導(dǎo)致的。由于互聯(lián)網(wǎng)上的系統(tǒng)必須通過(guò)開(kāi)放端口來(lái)提供服務(wù),而開(kāi)放端口本質(zhì)上就相當(dāng)于引入了一個(gè)攻擊面,從而形成了脆弱性,這就是互聯(lián)網(wǎng)服務(wù)的內(nèi)生安全問(wèn)題。
(二)人工智能的衍生安全
衍生安全其本質(zhì)就是新技術(shù)自身的一些缺陷或脆弱性,并不會(huì)影響新技術(shù)自身的運(yùn)行,但卻會(huì)被攻擊者利用而危害到其他的領(lǐng)域。例如既然人工智能模型是一個(gè)可復(fù)制、可修改的實(shí)體文件,就存在被盜取和被植入后門(mén)的安全風(fēng)險(xiǎn),從而導(dǎo)致其他領(lǐng)域的安全問(wèn)題。再如,物聯(lián)網(wǎng)的傳感部件具有信息輻射的特點(diǎn),這并不影響物聯(lián)網(wǎng)的正常運(yùn)行,卻使得信息泄露成為新的風(fēng)險(xiǎn);社交網(wǎng)絡(luò)不支持強(qiáng)制實(shí)名制時(shí)并不影響社交網(wǎng)絡(luò)的正常運(yùn)轉(zhuǎn),但卻有可能被利用而助力了謠言的傳播,從而無(wú)助于抑制負(fù)面行為,導(dǎo)致群體性事件的發(fā)生;近場(chǎng)通信在幫助人們便捷通信的時(shí)候,沒(méi)有設(shè)置強(qiáng)制性通信握手環(huán)節(jié)以確認(rèn)通信的發(fā)起是否自愿,盡管這并不影響NFC的正常使用,但不法分子卻有可能利用這個(gè)缺失的環(huán)節(jié)來(lái)近距離盜刷用戶(hù)的手機(jī)錢(qián)包等。
如上所述,衍生安全絕大多數(shù)情況下指的是新技術(shù)的脆弱性被攻擊者所利用,從而引發(fā)其他領(lǐng)域的安全問(wèn)題。人工智能技術(shù)當(dāng)然也存在著同樣的情況。近幾年,智能設(shè)備安全事故頻發(fā):2018年3月優(yōu)步(Uber)的自動(dòng)駕駛汽車(chē)在美國(guó)亞利桑那州坦佩市撞死一名在人行道外過(guò)馬路的婦女。因?yàn)槿斯ぶ悄艿闹悄芑卸ㄐ枰叨纫蕾?lài)輸入數(shù)據(jù),自動(dòng)駕駛的前提是要對(duì)環(huán)境參數(shù)進(jìn)行正確的感知,一旦感知出現(xiàn)錯(cuò)誤,如沒(méi)有感知到對(duì)面的障礙物,其決策就是錯(cuò)誤的。因此,這種依賴(lài)輸入的現(xiàn)象可以被視為人工智能系統(tǒng)的一種脆弱性。這種脆弱性并不影響人工智能系統(tǒng)自身的運(yùn)行,但攻擊者可以利用這一點(diǎn),如干擾自動(dòng)駕駛汽車(chē)的雷達(dá)等傳感設(shè)備,從而達(dá)到讓自動(dòng)駕駛汽車(chē)肇事的目的。
此外,人工智能技術(shù)還是一個(gè)十分少見(jiàn)的特例。這是因?yàn)槿斯ぶ悄艿拇嗳跣圆灰欢ǘ急还粽咚茫且砸环N“事故”的形式形成了對(duì)人類(lèi)的直接威脅。人們經(jīng)??吹降哪切皺C(jī)器人傷人”“自動(dòng)駕駛出事故”的現(xiàn)象,本質(zhì)上都是人工智能脆弱性所帶來(lái)的問(wèn)題,這時(shí)即便沒(méi)有被攻擊者有意利用,但由于“人工智能行為體”在運(yùn)行狀態(tài)下往往具有可傷害人類(lèi)的“動(dòng)能”,所以其自身就可以“自主”傷人。更有甚者,由于“人工智能行為體”具有自主學(xué)習(xí)能力,使得其可能在自我進(jìn)化的過(guò)程中脫離人類(lèi)控制,進(jìn)而危及人類(lèi)安全。而且,人工智能行為體系統(tǒng)功能越強(qiáng)大,其帶來(lái)的威脅往往也會(huì)越大。由此可見(jiàn),凡是具備自我進(jìn)化能力的系統(tǒng),都可能在不被他人主動(dòng)利用其脆弱性的前提下引發(fā)安全問(wèn)題,而人工智能技術(shù)的特殊性就在于其可成為打開(kāi)“自我進(jìn)化之門(mén)的鑰匙”。因此,確保人工智能技術(shù)發(fā)展過(guò)程“安全可控”無(wú)疑是至關(guān)重要的。
三、人工智能安全風(fēng)險(xiǎn)的應(yīng)對(duì)策略
技術(shù)是把雙刃劍,我們要發(fā)揮主觀能動(dòng)性激發(fā)人工智能帶來(lái)的積極影響。針對(duì)人工智能技術(shù)的控制困境和安全風(fēng)險(xiǎn),必須重視準(zhǔn)入制度和標(biāo)準(zhǔn)規(guī)范建設(shè),確保公眾知情權(quán),呼吁社會(huì)各界共同努力,提升高精尖人才自主培養(yǎng)質(zhì)量。
(一)宏觀:應(yīng)對(duì)策略的理論考量——利益相關(guān)者理論
1984年著名管理學(xué)者弗里曼在他的著作《戰(zhàn)略管理:利益相關(guān)者分析》里,第一次把利益相關(guān)者分析引進(jìn)管理學(xué)中,并將利益相關(guān)者定義為“任何能影響組織目標(biāo)的實(shí)現(xiàn)或受這種實(shí)現(xiàn)影響的團(tuán)體和個(gè)人?!彼雇R則定義利益相關(guān)者為“受組織活動(dòng)的影響并且有能力影響組織活動(dòng)的人?!崩嫦嚓P(guān)者理論的核心觀點(diǎn)在于,組織應(yīng)當(dāng)綜合平衡各個(gè)利益相關(guān)的利益要求,而不僅專(zhuān)注于財(cái)富的積累。不能一味強(qiáng)調(diào)財(cái)務(wù)業(yè)績(jī),還應(yīng)該關(guān)注其本身的社會(huì)效益。管理者應(yīng)當(dāng)了解并尊重所有與組織行為和結(jié)果密切相關(guān)的個(gè)體,盡量滿足他們的需求。根據(jù)利益相關(guān)者理論,將各利益相關(guān)者納入組織決策,既是一種倫理要求,也是一種戰(zhàn)略資源,而這兩點(diǎn)都有助于提升組織的競(jìng)爭(zhēng)優(yōu)勢(shì)。利益相關(guān)者是指影響組織行為及組織目標(biāo)的實(shí)現(xiàn),或是受到組織目標(biāo)實(shí)現(xiàn)及其過(guò)程影響的個(gè)體和群體。根據(jù)這種解釋寬泛的定義,任何個(gè)體和群體都可以稱(chēng)為人工智能安全風(fēng)險(xiǎn)治理的利益相關(guān)者。
宏觀上,一方面要繪制人工智能安全風(fēng)險(xiǎn)利益相關(guān)者圖。人工智能安全風(fēng)險(xiǎn)利益相關(guān)者圖清晰地描繪誰(shuí)是利益相關(guān)者集團(tuán),在采取新的風(fēng)險(xiǎn)防控戰(zhàn)略時(shí),代表哪個(gè)集團(tuán)的利益,他們是否可能阻礙變革,他們的力量如何,應(yīng)該怎樣對(duì)待他們。繪制時(shí)首先確定所有利益相關(guān)者,標(biāo)出他們之間的重要關(guān)系,然后分析這張圖表所顯示的風(fēng)險(xiǎn)與機(jī)會(huì),識(shí)別任何可能的變化對(duì)這張圖的影響,以便為此做好準(zhǔn)備。另一方面,隨著利益相關(guān)者理論不斷深入,要區(qū)分出人工智能安全風(fēng)險(xiǎn)防控的主要利益相關(guān)者和次要利益相關(guān)者,平衡各方利益相關(guān)者的取向,從不同的利益相關(guān)者的角度評(píng)價(jià)治理績(jī)效。研究也應(yīng)聚焦于利益相關(guān)者的整體角度,展開(kāi)諸如對(duì)利益相關(guān)者及其需求的了解、利益相關(guān)者與治理主體的互動(dòng)、以及涉及利益相關(guān)者需求的決策等問(wèn)題的探討。對(duì)利益相關(guān)者的了解包括認(rèn)清主要的利益相關(guān)者,并優(yōu)先考慮他們的需求。另外,治理主體應(yīng)當(dāng)重點(diǎn)關(guān)注那些掌握權(quán)力、具有合法性、有緊迫需求或者兼有以上特性的利益相關(guān)者。
(二)微觀:人工智能安全風(fēng)險(xiǎn)應(yīng)對(duì)策略的主體行動(dòng)
1.重視準(zhǔn)入制度和標(biāo)準(zhǔn)規(guī)范建設(shè),搶占智能安全控制權(quán)。人工智能作為高精尖技術(shù),無(wú)疑是國(guó)家創(chuàng)新能力和核心競(jìng)爭(zhēng)力的重要體現(xiàn),通過(guò)積極參與人工智能行為規(guī)范、倫理準(zhǔn)則的研究與制訂,積極爭(zhēng)取人工智能安全治理的主導(dǎo)權(quán)和話語(yǔ)權(quán)。一方面,國(guó)家應(yīng)設(shè)置市場(chǎng)準(zhǔn)入制度,強(qiáng)制要求人工智能必須按照標(biāo)準(zhǔn)規(guī)范預(yù)留接口以支持“保險(xiǎn)箍”的接入,否則不允許入境或進(jìn)入市場(chǎng)銷(xiāo)售。準(zhǔn)入制度主要針對(duì)的是人工智能設(shè)備制造商及零件制造商,判斷其是否支持“保險(xiǎn)箍”的接入也需要從多個(gè)角度判斷。為了加速“保險(xiǎn)箍”發(fā)展,應(yīng)該優(yōu)先為具有破壞能力的機(jī)器人設(shè)置準(zhǔn)入制度并強(qiáng)制執(zhí)行。例如,可以制定相應(yīng)法律,要求具有破壞能力的機(jī)器人必須安裝有“保險(xiǎn)箍”這類(lèi)的制約系統(tǒng),就如同汽車(chē)必須設(shè)有剎車(chē)系統(tǒng)一樣,并且這一要求應(yīng)該成為市場(chǎng)準(zhǔn)入前提,以便保護(hù)人類(lèi)不受機(jī)器人的潛在威脅。另一方面,比準(zhǔn)入制度更重要且實(shí)施難度更大的是制定與“保險(xiǎn)箍”相關(guān)的標(biāo)準(zhǔn)規(guī)范。如果沒(méi)有統(tǒng)一的標(biāo)準(zhǔn)規(guī)范,人工智能設(shè)備制造商就不知道應(yīng)該預(yù)留何種接口、如何對(duì)“保險(xiǎn)箍”認(rèn)證、內(nèi)置算法如何接受干預(yù)、采用何種協(xié)議來(lái)通信、傳感器采集的數(shù)據(jù)如何共享、能源如何按需供給等,“保險(xiǎn)箍”自然也就無(wú)法集成。在全球、全國(guó)、行業(yè)范圍內(nèi)制定標(biāo)準(zhǔn)規(guī)范是“保險(xiǎn)箍”可以存在和發(fā)揮作用的基本前提,需要各國(guó)秉持開(kāi)放共贏的精神,通過(guò)在國(guó)際范圍內(nèi)建立人工智能規(guī)范和標(biāo)準(zhǔn),避免技術(shù)和政策不兼容導(dǎo)致的安全風(fēng)險(xiǎn),積極推動(dòng)各國(guó)人工智能安全發(fā)展。
2.確保公眾知情權(quán),多元工程主體共同努力實(shí)現(xiàn)人工智能安全可控。實(shí)現(xiàn)人工智能安全可控需要多元工程主體共同貢獻(xiàn)自己的力量。從政府決策者角度,制定人工智能安全可用的頂層方案至關(guān)重要,從政策、法律法規(guī)層面可以推進(jìn)人工智能安全發(fā)展,限制人工智能惡意利用等;從企業(yè)角度,遵守人工智能安全的相關(guān)標(biāo)準(zhǔn)和規(guī)范研發(fā)智能系統(tǒng),保障人工智能系統(tǒng)的安全可用;從科研院所角度,大力研究保障人工智能安全的基礎(chǔ)理論,突破智能算法設(shè)計(jì)、數(shù)據(jù)評(píng)估、安全測(cè)評(píng)等關(guān)鍵技術(shù);從社會(huì)輿論角度,加大人工智能安全的宣傳力度,讓社會(huì)大眾樹(shù)立正確的人工智能技術(shù)安全應(yīng)用意識(shí),并時(shí)刻提防人工智能帶來(lái)的安全隱患。與此同時(shí),由于人工智能技術(shù)的應(yīng)用涉及不同文化對(duì)信息保護(hù)、公平正義、民主治理以及社會(huì)發(fā)展趨勢(shì)等方面的理解,所以必須要加強(qiáng)科技界、產(chǎn)業(yè)界、政策研究界的通力合作。作為和每一個(gè)自然人密切相關(guān)的技術(shù),公眾對(duì)于人工智能的發(fā)展及安全方面的信息、知識(shí)的獲取,不但是其融入社會(huì)生活的一個(gè)充分條件,也是維護(hù)自身合法權(quán)益的必然要求。因此,每位社會(huì)公民都應(yīng)當(dāng)能夠及時(shí)獲取相關(guān)信息,對(duì)人工智能技術(shù)的發(fā)展、應(yīng)用與推廣享有充分的知情權(quán),保證其知曉因人工智能技術(shù)進(jìn)步而產(chǎn)生的社會(huì)經(jīng)濟(jì)利益以及可能衍生的安全風(fēng)險(xiǎn)。
3.提升高精尖人才自主培養(yǎng)質(zhì)量,提高我國(guó)創(chuàng)新力和競(jìng)爭(zhēng)力。創(chuàng)新驅(qū)動(dòng)實(shí)質(zhì)上是人才驅(qū)動(dòng),高精尖人才自主培養(yǎng)質(zhì)量關(guān)系著國(guó)際競(jìng)爭(zhēng)主動(dòng)權(quán)掌握和社會(huì)主義現(xiàn)代化強(qiáng)國(guó)建設(shè)。當(dāng)前,根據(jù)人工智能技術(shù)發(fā)展態(tài)勢(shì),聚焦國(guó)家重大戰(zhàn)略需求,動(dòng)態(tài)調(diào)整優(yōu)化高等教育學(xué)科設(shè)置,有的放矢培養(yǎng)國(guó)家戰(zhàn)略人才和急需緊缺人才,提升教育對(duì)高質(zhì)量發(fā)展的支撐力、貢獻(xiàn)力至關(guān)重要。智能新技術(shù)人才自主培養(yǎng)是一種重要的策略,對(duì)于國(guó)家、企業(yè)和社會(huì)組織來(lái)說(shuō),能夠更好地適應(yīng)快速發(fā)展的技術(shù)環(huán)境,提高自身的競(jìng)爭(zhēng)力和創(chuàng)新能力。在智能新技術(shù)人才自主培養(yǎng)的過(guò)程中,我們需要采取以下措施:首先,建立培訓(xùn)計(jì)劃,制定詳細(xì)的培訓(xùn)計(jì)劃,包括培訓(xùn)目標(biāo)、培訓(xùn)內(nèi)容、培訓(xùn)時(shí)間、培訓(xùn)方式等,以確保培訓(xùn)的針對(duì)性和有效性;其次,建立學(xué)習(xí)平臺(tái),通過(guò)建立在線學(xué)習(xí)平臺(tái),提供相關(guān)的學(xué)習(xí)資源和實(shí)踐機(jī)會(huì),以幫助人才更好地掌握智能新技術(shù)知識(shí)和技能;再次,重視招聘、選拔和實(shí)踐,需要注重對(duì)人才在智能新技術(shù)領(lǐng)域的技能和經(jīng)驗(yàn)的考察,以確保招聘到的人才能夠適應(yīng)市場(chǎng)和應(yīng)用需求,同時(shí)注重實(shí)踐和積累項(xiàng)目經(jīng)驗(yàn),為人才培養(yǎng)提供實(shí)踐和項(xiàng)目經(jīng)驗(yàn)的機(jī)會(huì),以幫助他們更好地掌握智能新技術(shù)知識(shí)和技能,并將所學(xué)知識(shí)應(yīng)用到實(shí)際工作中;最后,必須建立激勵(lì)和獎(jiǎng)勵(lì)機(jī)制,鼓勵(lì)員工主動(dòng)學(xué)習(xí)和掌握智能新技術(shù)知識(shí)和技能,并對(duì)他們的學(xué)習(xí)成果和貢獻(xiàn)進(jìn)行獎(jiǎng)勵(lì)。通過(guò)以上措施更好地實(shí)現(xiàn)智能新技術(shù)人才自主培養(yǎng)的目標(biāo),增強(qiáng)我國(guó)人工智能領(lǐng)域的競(jìng)爭(zhēng)力和創(chuàng)新能力。
四、啟 示
人工智能技術(shù)會(huì)在國(guó)家安全、網(wǎng)絡(luò)安全、社會(huì)生活各方面帶來(lái)挑戰(zhàn)和沖擊,將利益相關(guān)者理論作為人工智能安全治理的理論基礎(chǔ),關(guān)注狹義的和廣義的利益相關(guān)者戰(zhàn)略,從不同的利益相關(guān)者的角度評(píng)價(jià)治理績(jī)效和提出應(yīng)對(duì)策略。誠(chéng)然,人工智能的發(fā)展會(huì)帶來(lái)各種風(fēng)險(xiǎn),其他風(fēng)險(xiǎn)問(wèn)題依然需要重視和研究,我們主要基于人工智能技術(shù)引致安全風(fēng)險(xiǎn)提出了相應(yīng)解決對(duì)策,期望對(duì)人工智能研究的長(zhǎng)遠(yuǎn)性發(fā)展有所貢獻(xiàn),提高技術(shù)治理成效。(文 | 北京林業(yè)大學(xué)紀(jì)委辦 李嘉豪)
來(lái)源:中國(guó)社會(huì)科學(xué)網(wǎng)