安全認(rèn)知，日見(jiàn)清晰；安全研究，路阻且長(zhǎng)；安全行業(yè)，大有可為；緊跟創(chuàng)新，保障發(fā)展……”在近日舉行的第十二屆互聯(lián)網(wǎng)安全大會(huì)上，中國(guó)工程院院士吳世忠的一番總結(jié)，折射了AI（人工智能）時(shí)代安全大模型行業(yè)的發(fā)展現(xiàn)狀。
一直以來(lái)，技術(shù)發(fā)展伴生的安全挑戰(zhàn)、迭代防護(hù)，貫穿著行業(yè)發(fā)展，也備受各界關(guān)注。當(dāng)天，多位兩院院士，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)、中國(guó)信通院、世界互聯(lián)網(wǎng)大會(huì)等機(jī)構(gòu)組織負(fù)責(zé)人，以及華為、360、微軟等國(guó)內(nèi)外企業(yè)代表齊聚，圍繞“打造安全大模型”主題，分享來(lái)自政產(chǎn)學(xué)研用領(lǐng)域的各方觀點(diǎn)。
從“百模大戰(zhàn)”到探尋更多應(yīng)用場(chǎng)景
在過(guò)去的兩年里，隨著ChatGPT在全球范圍內(nèi)爆紅，AI大模型熱潮在國(guó)內(nèi)急速升溫，多家互聯(lián)網(wǎng)巨頭紛紛加速布局大模型應(yīng)用。記者從會(huì)上了解到，截至目前，我國(guó)已完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型達(dá)180多個(gè)，注冊(cè)用戶數(shù)已突破5.64億。
“AI以激進(jìn)式的科技創(chuàng)新，全面推進(jìn)新一輪科技革命和生活賦能。”吳世忠介紹，以顛覆式的應(yīng)用創(chuàng)新，全面推進(jìn)新一輪的大國(guó)博弈和社會(huì)變革。特別是基礎(chǔ)模型的突破，展示出強(qiáng)大的新質(zhì)生產(chǎn)力，激發(fā)出科技、經(jīng)濟(jì)、社會(huì)和國(guó)家管理全方位的深刻變化。
中國(guó)科學(xué)院院士、清華大學(xué)計(jì)算機(jī)系教授張鈸也深有感觸，大模型的出現(xiàn)標(biāo)志著AI發(fā)展進(jìn)入新階段，具備了強(qiáng)大的語(yǔ)言生成能力、人機(jī)自然交互能力、遷移（舉一反三）能力。“最近一年里，我國(guó)在基礎(chǔ)模型研發(fā)、自然語(yǔ)言處理、多模態(tài)生成等領(lǐng)域取得了顯著進(jìn)展，為千行百業(yè)的智能化轉(zhuǎn)型提供了堅(jiān)實(shí)支撐”。
“我們已初步構(gòu)建了較為全面的AI技術(shù)產(chǎn)業(yè)體系，建成了2500多個(gè)數(shù)字化車(chē)間和智能工廠，經(jīng)過(guò)AI改造研發(fā)周期平均縮短20％，生產(chǎn)效率提升35％……”中國(guó)信息通信研究院副院長(zhǎng)魏亮分享了這樣一組數(shù)據(jù)。他分析認(rèn)為，大模型技術(shù)發(fā)展帶來(lái)高質(zhì)量算力基礎(chǔ)設(shè)施和數(shù)據(jù)集語(yǔ)料庫(kù)的大量需求，我們要加快推進(jìn)大模型基礎(chǔ)設(shè)施化，促進(jìn)行業(yè)應(yīng)用和中小企業(yè)普惠使用，不斷創(chuàng)新應(yīng)用生態(tài)、推動(dòng)縱深發(fā)展。
從曾經(jīng)的“百模大戰(zhàn)”，到持續(xù)賦能千行百業(yè)，再到如今發(fā)力探尋具體應(yīng)用場(chǎng)景。“2024年應(yīng)該是場(chǎng)景之年，要結(jié)合業(yè)務(wù)找‘明星場(chǎng)景’，然后根據(jù)場(chǎng)景設(shè)計(jì)功能，對(duì)大模型進(jìn)行專項(xiàng)訓(xùn)練。” 360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為，我們不能追求全能，通過(guò)一個(gè)大模型解決所有問(wèn)題，應(yīng)該讓專業(yè)大模型解決專業(yè)問(wèn)題，找到垂直場(chǎng)景和細(xì)分切口，并且由多個(gè)專業(yè)模型組合起來(lái)，這樣很多問(wèn)題就可以迎刃而解。
中國(guó)工程院院士鄔賀銓也提到“協(xié)作”的重要性。他認(rèn)為，需要協(xié)作開(kāi)發(fā)行業(yè)大模型。這些基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán)，需要應(yīng)對(duì)包括強(qiáng)大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法等諸多挑戰(zhàn)，這就需要大模型提供方與垂直行業(yè)緊密合作。
技術(shù)向善，也能“向惡”
“ChatGPT問(wèn)世不到一年，有關(guān)人工智能的風(fēng)險(xiǎn)預(yù)警，就在科學(xué)創(chuàng)新的前沿陣地率先觸發(fā)。它是典型的兩用性技術(shù)和雙刃劍特性，人們擔(dān)心技術(shù)發(fā)展失控、道理倫理失范、網(wǎng)絡(luò)安全失守。”吳世忠談到這樣一組觀察體會(huì)——近年來(lái)，OpenAI、Meta、DeepMind等國(guó)外行業(yè)巨頭相繼加大安全技術(shù)和監(jiān)管措施的投入，國(guó)內(nèi)的百度、阿里、華為、科大訊飛、360、智譜等，也在安全研究上布局投資。這說(shuō)明，國(guó)內(nèi)外主流廠商逐漸認(rèn)識(shí)到安全研究的重要性，大模型能力增長(zhǎng)需要安全研究快速跟進(jìn)已成為業(yè)界共識(shí)。
“AI浪潮勢(shì)不可當(dāng)。它既是一次工業(yè)革命，又是對(duì)安全行業(yè)的一次機(jī)會(huì)。”周鴻祎認(rèn)為，在大模型重塑所有行業(yè)、產(chǎn)品時(shí)，更多的思考應(yīng)該是能不能利用AI實(shí)現(xiàn)安全技術(shù)突破、能不能助力降本增效。以前的“百模大戰(zhàn)”解決了大模型從無(wú)到有、從0到1的發(fā)展過(guò)程，如今我們不要再“卷”模型了 ，要重點(diǎn)關(guān)注應(yīng)用層面，其中一個(gè)重要場(chǎng)景就是“安全”。
在業(yè)界看來(lái)，當(dāng)前AI的發(fā)展在基礎(chǔ)理論和具體應(yīng)用上存在諸多不足。“生成式AI存在‘幻覺(jué)’缺陷，它會(huì)‘胡說(shuō)八道’，很多情況下還并不知道自己說(shuō)錯(cuò)了。它和機(jī)器產(chǎn)生的錯(cuò)誤不一樣，后者往往我們可以控制，但前者是本身的錯(cuò)誤，是一定會(huì)發(fā)生且不可控的。這是我們開(kāi)發(fā)應(yīng)用中需要重點(diǎn)考慮的問(wèn)題。”張鈸這樣說(shuō)。
“AI既有向善的一面，也有向惡的一面。”中國(guó)工程院院士、國(guó)家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任鄔江興認(rèn)為，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)存在嚴(yán)重失衡。AI應(yīng)用系統(tǒng)網(wǎng)絡(luò)內(nèi)生安全的共性問(wèn)題，在于計(jì)算機(jī)帶來(lái)了“娘胎的基因缺陷”，如果不能杜絕軟硬件代碼設(shè)計(jì)中的脆弱性，就無(wú)法杜絕網(wǎng)絡(luò)問(wèn)題。
鄔江興還提到，內(nèi)生安全的個(gè)性問(wèn)題是當(dāng)前AI推廣應(yīng)用中的最大障礙，存在著“三大問(wèn)題”：一是不可解釋性，指通過(guò)訓(xùn)練擬合階段的一些工作原理我們并不明確；二是不可判識(shí)性，指訓(xùn)練AI的大數(shù)據(jù)質(zhì)量高低，直接影響大模型判斷結(jié)果；三是不可推論性，指AI目前對(duì)沒(méi)有經(jīng)歷過(guò)的未知事物無(wú)法理解和判斷。