生成式人工智能技術(shù)驚人的發(fā)展速度加劇了人們對(duì)網(wǎng)絡(luò)安全的擔(dān)憂。近來(lái)，ChatGPT引發(fā)的風(fēng)波不斷。意大利因數(shù)據(jù)安全問(wèn)題成為首個(gè)宣布禁用ChatGPT的國(guó)家。緊接著，德國(guó)表示可能會(huì)追隨意大利的腳步。加拿大也在對(duì)OpenAI展開調(diào)查。蘋果、三星、SK海力士等越來(lái)越多的企業(yè)也開始禁用ChatGPT。7月6日，在2023工業(yè)安全大會(huì)上，多位專家表示，要警惕GPT技術(shù)在工業(yè)領(lǐng)域帶來(lái)的安全風(fēng)險(xiǎn)。
工業(yè)控制網(wǎng)絡(luò)是事關(guān)國(guó)計(jì)民生的關(guān)鍵信息基礎(chǔ)設(shè)施。隨著工業(yè)基礎(chǔ)設(shè)施逐漸走向數(shù)字化、網(wǎng)絡(luò)化、智能化，工控安全面臨前所未有的挑戰(zhàn)。中國(guó)工程院院士鄔江興表示，以ChatGPT為代表的AI算法模型存在不可解釋性、不可判識(shí)性和不可推論性，這讓AI應(yīng)用系統(tǒng)內(nèi)生安全共性問(wèn)題浮出水面�，F(xiàn)階段，人類科技能力尚不能徹查復(fù)雜系統(tǒng)漏洞后門問(wèn)題，AI應(yīng)用系統(tǒng)算法模型安全與網(wǎng)絡(luò)安全問(wèn)題相互交織且難以分而治之。因此，AI應(yīng)用系統(tǒng)以及相關(guān)數(shù)字基礎(chǔ)設(shè)施極易成為網(wǎng)絡(luò)攻擊的高價(jià)值目標(biāo)，造成社會(huì)性災(zāi)難。
隨著技術(shù)的發(fā)展，網(wǎng)絡(luò)攻擊手段也在不斷演變和更新。機(jī)械工業(yè)儀器儀表綜合技術(shù)經(jīng)濟(jì)研究所所長(zhǎng)歐陽(yáng)勁松表示，人工智能技術(shù)的深度應(yīng)用會(huì)讓危險(xiǎn)源、威脅變得更加難以辨識(shí)，網(wǎng)絡(luò)物理攻擊路徑愈發(fā)難以預(yù)測(cè)，功能安全措施與信息安全措施也會(huì)越來(lái)越難協(xié)調(diào)。
北京天地和興科技有限公司副總裁伍澤廣也指出，隨著新技術(shù)的迅猛發(fā)展，安全范圍越來(lái)越廣，安全邊界逐步“上浮”和“下沉”。以GPT為代表的生成式人工智能技術(shù)將大幅降低黑客攻擊工控專有協(xié)議的技術(shù)門檻。OT（運(yùn)營(yíng)）環(huán)節(jié)的漏洞將會(huì)持續(xù)增加，工業(yè)企業(yè)數(shù)據(jù)資產(chǎn)面臨的安全風(fēng)險(xiǎn)也會(huì)越來(lái)越大。
“GPT類大模型技術(shù)在各行業(yè)的應(yīng)用生態(tài)快速形成，這對(duì)工業(yè)安全而言是一把‘雙刃劍’。”和利時(shí)信息安全研究院有限公司戰(zhàn)略規(guī)劃總監(jiān)李季表示，GPT技術(shù)將帶來(lái)包括隱私保護(hù)、資源消耗等問(wèn)題，也會(huì)進(jìn)一步加劇對(duì)抗性攻擊、自動(dòng)化攻擊、惡意利用等安全隱患。但同時(shí)這項(xiàng)新興技術(shù)也將為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來(lái)更多產(chǎn)業(yè)機(jī)遇。比如，網(wǎng)安大模型的應(yīng)用，就有助于安全從業(yè)者更好地理解和預(yù)測(cè)網(wǎng)絡(luò)安全威脅，開發(fā)出更加高效的安全工具和方案，提升網(wǎng)絡(luò)安全的智能化水平。
實(shí)際上，任何一項(xiàng)新技術(shù)的出現(xiàn)都將帶來(lái)安全風(fēng)險(xiǎn)，工業(yè)安全建設(shè)還是應(yīng)該從基礎(chǔ)設(shè)施出發(fā)。烽臺(tái)科技（北京）有限公司副總經(jīng)理、燈塔實(shí)驗(yàn)室技術(shù)負(fù)責(zé)人王啟蒙指出，工業(yè)場(chǎng)景基礎(chǔ)設(shè)施數(shù)字化能力整體偏弱，數(shù)字化改造有待改善。CT（通信）與OT（運(yùn)營(yíng)）需求對(duì)接不足，導(dǎo)致工業(yè)應(yīng)用端到端可靠性難以保障，芯片、模組、終端產(chǎn)品工業(yè)特性有待增強(qiáng)。
工業(yè)數(shù)據(jù)價(jià)值越高，安全風(fēng)險(xiǎn)往往越大。北京交通大學(xué)信息安全系主任、教授王偉指出，工業(yè)數(shù)據(jù)普遍存在訪問(wèn)控制權(quán)屬關(guān)系不清晰，易產(chǎn)生非法盜用、非法篡改等問(wèn)題，借助Web3.0，工業(yè)物聯(lián)網(wǎng)時(shí)代的工業(yè)數(shù)據(jù)可以變成可確權(quán)、可支配、可流通的內(nèi)容，并最終形成可靠、安全、合規(guī)的工業(yè)數(shù)據(jù)安全保障平臺(tái)。
王啟蒙建議，復(fù)雜環(huán)境下，應(yīng)針對(duì)工業(yè)網(wǎng)絡(luò)控制設(shè)備、業(yè)務(wù)服務(wù)器、工業(yè)主機(jī)、網(wǎng)絡(luò)設(shè)備、安全設(shè)備產(chǎn)生的標(biāo)識(shí)數(shù)、狀態(tài)數(shù)據(jù)、事件數(shù)據(jù)、運(yùn)維數(shù)據(jù)、實(shí)時(shí)數(shù)據(jù)等，根據(jù)內(nèi)置的工業(yè)分級(jí)分類知識(shí)庫(kù)對(duì)采集的數(shù)據(jù)進(jìn)行分級(jí)分類，并根據(jù)數(shù)據(jù)等級(jí)進(jìn)行對(duì)應(yīng)安全策略處理。
值得一提的是，網(wǎng)絡(luò)分析公司Similarweb統(tǒng)計(jì)的最新數(shù)據(jù)顯示，2023年前5個(gè)月，ChatGPT全球訪問(wèn)量環(huán)比增幅分別為131.6%、62.5%、55.8%、12.6%、2.8%，增長(zhǎng)幅度明顯下降；6月份ChatGPT的訪問(wèn)量環(huán)比下滑9.7%，為其推出以來(lái)首次。作為這輪生成式人工智能風(fēng)暴的中心點(diǎn)，ChatGPT的訪問(wèn)量持續(xù)下滑引發(fā)了人們對(duì)于人工智能泡沫的擔(dān)憂。
據(jù)不完全統(tǒng)計(jì)，國(guó)內(nèi)10億級(jí)參數(shù)規(guī)模以上的AI大模型已超80個(gè)。多位專家指出，國(guó)內(nèi)通用人工智能產(chǎn)業(yè)已出現(xiàn)過(guò)熱端倪，一旦技術(shù)無(wú)法有效落地、市場(chǎng)期待無(wú)法實(shí)現(xiàn)，“泡沫”就可能破裂。
