中國發(fā)展高層論壇熱議人工智能安全治理
在近日召開的中國發(fā)展高層論壇2026年年會期間，與會嘉賓圍繞人工智能產(chǎn)業(yè)化落地、風(fēng)險挑戰(zhàn)與治理路徑進(jìn)行了深入探討。業(yè)內(nèi)人士指出，人工智能的安全治理要通過技術(shù)架構(gòu)確保智能體的行為可驗(yàn)證、可干預(yù)、可追溯，同時要通過制度設(shè)計(jì)明確各方責(zé)任。
隨著人工智能從基礎(chǔ)大模型向行業(yè)大模型縱深拓展，與實(shí)體經(jīng)濟(jì)的結(jié)合度越來越高。天津市副市長翟立新在會上介紹，在AI+制造方面，聯(lián)想天津創(chuàng)新產(chǎn)業(yè)園創(chuàng)建了激勵模型+深度學(xué)習(xí)的混合架構(gòu)，排產(chǎn)時效從過去的兩個小時壓縮到10分鐘；在AI+醫(yī)療方面，天津醫(yī)科大學(xué)腫瘤醫(yī)院上線了“AI輔助審核系統(tǒng)”，檢驗(yàn)報告審核時間平均縮短30分鐘。
強(qiáng)腦科技創(chuàng)始人韓璧丞表示，腦機(jī)接口與人工智能的深度結(jié)合，正重新定義醫(yī)療與技術(shù)的邊界。強(qiáng)腦科技的仿生靈巧手已落地多家人形機(jī)器人企業(yè)，成為具身智能的核心部件，幫助機(jī)器人在工業(yè)制造、生活服務(wù)等場景完成精細(xì)操控。
“只有推動人工智能與各行各業(yè)深度融合，才能將技術(shù)勢能轉(zhuǎn)化為發(fā)展勢能?！眹覕?shù)據(jù)局局長劉烈宏說，中國作為全世界唯一擁有全部工業(yè)門類的國家，數(shù)據(jù)資源豐富、產(chǎn)業(yè)體系完備、市場空間巨大，實(shí)施“人工智能+”行動，就能讓人工智能技術(shù)真正扎進(jìn)產(chǎn)業(yè)土壤，深度賦能千行百業(yè)。
數(shù)據(jù)顯示，預(yù)計(jì)到“十五五”末，中國人工智能相關(guān)產(chǎn)業(yè)規(guī)模將突破10萬億元，邁向更廣闊的增長空間。
伴隨人工智能產(chǎn)業(yè)化進(jìn)程加速，其帶來的安全挑戰(zhàn)以及如何構(gòu)建與之匹配的安全治理體系備受關(guān)注。
螞蟻集團(tuán)首席執(zhí)行官韓歆毅表示，實(shí)現(xiàn)AI時代的共同繁榮，產(chǎn)業(yè)界要攜手應(yīng)對四重挑戰(zhàn)：底層的算力和能源消耗，再上一層是模型和數(shù)據(jù)的安全問題，應(yīng)用層則是如何確保AI能真正為人類帶來福祉，最后就是人的發(fā)展問題?！懊鎸@四大挑戰(zhàn)，產(chǎn)業(yè)界應(yīng)當(dāng)有所作為，探索系統(tǒng)性的解決方案?！?/p>
“安全必須貫穿于AI發(fā)展的始終，包括模型幻覺、隱私安全、倫理底線和人機(jī)關(guān)系等挑戰(zhàn)?！表n歆毅說。在應(yīng)對這些風(fēng)險過程中，企業(yè)是AI技術(shù)研發(fā)、產(chǎn)品化和運(yùn)營的直接主體，必須遵循“誰開發(fā)、誰負(fù)責(zé)”的原則；安全與倫理原則必須“內(nèi)置”，不能“后補(bǔ)”；不能因?yàn)槭袌龈偁幖ち叶潘砂踩?zé)任。
上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文表示，在技術(shù)創(chuàng)新中，一方面需在鼓勵創(chuàng)新與防范風(fēng)險間找到平衡點(diǎn)；另一方面，面對復(fù)雜的應(yīng)用場景，需持續(xù)構(gòu)建行業(yè)特定的評價與驗(yàn)證系統(tǒng)。上海人工智能實(shí)驗(yàn)室打造了人工智能安全驗(yàn)證體系“SafeWork”，融合了“Make AI Safe”與“Make Safe AI”兩條技術(shù)路線；“司南（OpenCompass）”評測體系，正成為引領(lǐng)技術(shù)突破與產(chǎn)品創(chuàng)新的“人工智能度量衡”。
清華大學(xué)蘇世民書院院長薛瀾表示，從技術(shù)的角度來講，安全可控是底線，要保證通過技術(shù)架構(gòu)確保智能體的行為可驗(yàn)證、可干預(yù)、可追溯。從監(jiān)管舉措來說，非常核心的要點(diǎn)就是權(quán)責(zé)清晰是基礎(chǔ)，要通過制度設(shè)計(jì)來明確各方責(zé)任，為創(chuàng)新提供明確的秩序軌道。明確用戶授權(quán)，要遏制平臺權(quán)限濫用，在這方面進(jìn)一步做更明確的規(guī)則。要建立包容審慎分級監(jiān)管的制度。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號