D-Think | 東遠科技-廣州東遠智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

兩會｜AI成熱詞代表委員建言安全監(jiān)管和人才培養(yǎng)要跟上

2025-3-6 07:55| 發(fā)布者: admin| 查看: 157| 評論: 0

摘要: 今年全國兩會，圍繞人工智能（AI）與產(chǎn)業(yè)融合等話題，多位人大代表和政協(xié)委員建言獻策。其中，建立健全AI在細分行業(yè)的使用標準，加快AI人才培養(yǎng)的討論聲量最大。人工智能日益突出的安全問題、造假問題等也被代表委員 ...

今年全國兩會，圍繞人工智能（AI）與產(chǎn)業(yè)融合等話題，多位人大代表和政協(xié)委員建言獻策。

其中，建立健全AI在細分行業(yè)的使用標準，加快AI人才培養(yǎng)的討論聲量最大。人工智能日益突出的安全問題、造假問題等也被代表委員高度關(guān)注。

明確人工智能落地標準

隨著DeepSeek爆火，從傳統(tǒng)行業(yè)到新興產(chǎn)業(yè)，都在加速推進AI融合。全國政協(xié)委員，全國工商聯(lián)副主席、奇安信科技集團董事長齊向東表示，人工智能是引領(lǐng)未來發(fā)展的顛覆性技術(shù)和前沿技術(shù)，也是注定要走進千家萬戶的關(guān)鍵共性技術(shù)。在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)。

全國政協(xié)委員、大灣區(qū)進出口商業(yè)總會會長林龍安指出，AI為跨境電商行業(yè)帶來了前所未有的機遇和變革。建議制定出臺專項政策，對技術(shù)創(chuàng)新、應(yīng)用開發(fā)、平臺建設(shè)和企業(yè)應(yīng)用等提供財政補貼、稅收優(yōu)惠和金融支持，推動傳統(tǒng)外貿(mào)企業(yè)數(shù)字化轉(zhuǎn)型。

傳統(tǒng)工業(yè)與人工智能融合過程中，也需要進一步完善AI數(shù)據(jù)要素以及細分行業(yè)的應(yīng)用標準與規(guī)范。

全國人大代表、中國電氣裝備科技創(chuàng)新部部長張帆提出，希望加快形成工業(yè)領(lǐng)域統(tǒng)一的AI數(shù)據(jù)格式規(guī)范和具體行業(yè)標準等，促使企業(yè)間對數(shù)據(jù)資產(chǎn)的交易基礎(chǔ)達成共識。

另外，全國人大代表、大連華銳重工集團股份有限公司副總設(shè)計師孫元華提出，冶金、港口、能源等重要裝備機械行業(yè)在數(shù)字化、網(wǎng)絡(luò)化、智能化方面發(fā)展快速，但由于各行業(yè)對裝備機械智能化的功能與特性擁有各自不同的理解和要求，多數(shù)裝備機械智能化的國家標準屬于空白階段。孫元華建議鼓勵對重要裝備機械行業(yè)的標準執(zhí)行制造商、用戶方給予財政優(yōu)惠，形成積極的標準推廣應(yīng)用氛圍，加快推動全國統(tǒng)一大市場建設(shè)，持續(xù)優(yōu)化新型標準體系、著重強化標準實施應(yīng)用，并向國際標準化組織ISO提出國際標準提案，擴大標準化國際影響力。

加速人工智能人才培養(yǎng)

人工智能產(chǎn)業(yè)已步入發(fā)展黃金期，但是行業(yè)面臨巨大人才短缺問題。據(jù)市場機構(gòu)預(yù)測，未來中國在人工智能領(lǐng)域的人才缺口預(yù)計將達到400萬。

針對AI領(lǐng)域人才短缺的問題，全國政協(xié)委員、恒銀科技董事長江浩然建議，加強人工智能教育培訓(xùn)，提升就業(yè)能力，優(yōu)化就業(yè)結(jié)構(gòu)。另外，江浩然建議支持企業(yè)大力探索與實踐人工智能場景，主動適應(yīng)并積極擁抱人工智能浪潮，還要重點推動人工智能在城市治理、公共服務(wù)等社會領(lǐng)域的廣泛應(yīng)用，創(chuàng)造更多高質(zhì)量就業(yè)機會；同時開發(fā)更多智能工具，使勞動者使用人工智能更加安全便捷，進一步拓展就業(yè)空間；創(chuàng)新人工智能認證管理，探索建立培訓(xùn)認證體系“一試雙證”，不斷規(guī)范就業(yè)標準。

校企融合也是培養(yǎng)AI人才的關(guān)鍵。

齊向東表示，需要打通企業(yè)和高校兩個“蓄才池”，給青年創(chuàng)新人才更多施展拳腳的機會。齊向東以DeepSeek舉例稱，DeepSeek團隊的核心成員多是來自清北、浙大等頂尖高校的應(yīng)屆生、博士生。齊向東建議加大力度推動校企融合，通過選取人工智能領(lǐng)域相關(guān)的骨干科技企業(yè)作為大學生就業(yè)實訓(xùn)基地、鼓勵校企開展聯(lián)合攻關(guān)等方式，給年輕人更多深入產(chǎn)業(yè)一線的機會，從而逐步化解我國面臨的AI“人才荒”。

除了“生源”培養(yǎng)，職業(yè)技術(shù)教師的創(chuàng)新培養(yǎng)也十分關(guān)鍵。

全國人大代表、天津職業(yè)技術(shù)師范大學副校長王勁松指出，人工智能時代，面向卓越工程人才和高素質(zhì)技術(shù)技能人才的培養(yǎng)，職業(yè)技術(shù)教育師資創(chuàng)新培養(yǎng)十分重要，他建議專門設(shè)計“人工智能+工程學科+教育”的人才培養(yǎng)方案，著重加強對師資力量的培養(yǎng)，從教師到學生、從理論課程到工程技術(shù)實踐，人工智能與工程學科專業(yè)結(jié)合，全面培育“新時代工匠之師”。

重視人工智能安全監(jiān)管

人工智能快速發(fā)展過程中，安全問題、虛假信息等問題也日漸突出。

齊向東說，人工智能發(fā)展面臨的安全問題大致可以分三類，分別是人工智能大模型自身的安全問題，利用人工智能開展網(wǎng)絡(luò)攻擊帶來的問題，以及通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。他提議，針對這些安全問題，要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。

“傳統(tǒng)網(wǎng)絡(luò)安全的解題方法解決不了人工智能的安全問題?！比珖f(xié)委員、360集團創(chuàng)始人周鴻祎表示，智能體的安全、知識數(shù)據(jù)的安全、客戶端的安全、基座模型的安全，構(gòu)成人工智能安全的新領(lǐng)域。他建議，應(yīng)由既懂安全又懂AI的企業(yè)牽頭，以模制模，通過打造安全大模型來解決大模型的應(yīng)用安全問題。

人工智能發(fā)展過程中，造假案件量“激增”。據(jù)統(tǒng)計，2023年AI深度偽造欺詐激增30倍，但目前業(yè)界對AI潛在風險的研究與重視程度仍遠遠不足。

圍繞關(guān)于加強AI深度偽造欺詐管理，全國人大代表、TCL集團創(chuàng)始人、董事長李東生在今年兩會上提出，要規(guī)范對于AI新興技術(shù)的不當利用，有必要要求深度合成服務(wù)提供商對人工智能生成的內(nèi)容進行強制標識，減少惡意濫用，并有助于厘清責任、對違法犯罪行為追責。具體建議包括加快人工智能深度合成內(nèi)容標識管理規(guī)章制度的出臺、明確對人工智能深度合成服務(wù)商未履行標識義務(wù)的懲罰制度、加強深度合成內(nèi)容標識技術(shù)標準和發(fā)布的管理、加強國際合作形成人工智能生成合成內(nèi)容的有效監(jiān)管等。

“網(wǎng)紅”企業(yè)家雷軍在今年建議中關(guān)注了“AI換臉擬聲”違法侵權(quán)。在他看來，AI深度合成技術(shù)所需素材有獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強等特點，給治理整治帶來較大挑戰(zhàn)。他建議，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎(chǔ)上進行務(wù)實治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對利用人工智能技術(shù)實施犯罪行為的刑事處罰力度。

人工智能行業(yè)發(fā)展離不開頂層制度設(shè)計。周鴻祎表示，當年“避風港原則”曾帶給互聯(lián)網(wǎng)巨大的產(chǎn)業(yè)發(fā)展機會，建議國家對大模型發(fā)展實行柔性監(jiān)管，更加包容審慎，這樣中國人工智能才能借助DeepSeek的機會實現(xiàn)更長遠的發(fā)展。

日前，科技部在政協(xié)提案答復(fù)函中指出，目前正在有序推進人工智能立法工作。科技部將以發(fā)展為目標導(dǎo)向，堅持包容審慎治理，完善倫理規(guī)范、安全與標準體系和治理規(guī)則，為生成式人工智能技術(shù)與產(chǎn)業(yè)健康有序發(fā)展提供更明確、更穩(wěn)定的規(guī)則導(dǎo)向。

責編：葉舒筠

校對：劉星瑩