| 3月4日，全國(guó)人大代表雷軍公布了其準(zhǔn)備的“2025兩會(huì)建議”。其中一條，是關(guān)于加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理。 隨著人工智能被廣泛應(yīng)用，隨之而來(lái)的安全問(wèn)題也愈發(fā)凸顯。記者收集了四大安全問(wèn)題——人工智能合成、人臉識(shí)別、尋醫(yī)問(wèn)藥、著作權(quán)，請(qǐng)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)（以下簡(jiǎn)稱(chēng)“專(zhuān)委會(huì)”）三位專(zhuān)家委員韓蒙、周楊、王曉梅解答。
拿著“AI診斷”尋醫(yī)問(wèn)藥？精準(zhǔn)判斷還得靠人 “患者拿著DeepSeek來(lái)看病，還質(zhì)疑我過(guò)度檢查……”越來(lái)越多的患者拿著AI給出的診斷，與醫(yī)生爭(zhēng)論。 “患者用DeepSeek尋醫(yī)問(wèn)藥，不能說(shuō)完全不對(duì)，但不能只依賴(lài)于它的判斷。” 杭州醫(yī)策科技有限公司創(chuàng)始人王曉梅告訴記者，目前像DeepSeek、ChatGPT都屬于人工智能的大語(yǔ)言模型產(chǎn)品，幫助人機(jī)實(shí)現(xiàn)語(yǔ)言和文字的交互。這類(lèi)產(chǎn)品可以觸達(dá)所有公共數(shù)據(jù)。在醫(yī)學(xué)方面，它們可以觸達(dá)公開(kāi)的醫(yī)典、論文等。然后，基于這些給患者一個(gè)回答。“這個(gè)回答是通識(shí)性的?！备鱾€(gè)專(zhuān)業(yè)領(lǐng)域還有高質(zhì)量私域數(shù)據(jù)，醫(yī)學(xué)上比如影像、病理、基因等，它觸達(dá)不到。 而且，醫(yī)學(xué)上有很多非語(yǔ)言、非文本的數(shù)據(jù)，比如每個(gè)人都很熟悉的醫(yī)學(xué)影像?！靶枰嗄B(tài)大模型，用文本、圖像、視頻、音頻等多模態(tài)信息聯(lián)合訓(xùn)練?！蓖鯐悦氛f(shuō)，患者去醫(yī)院看病，醫(yī)生會(huì)依據(jù)病情進(jìn)行相關(guān)檢查，得到血液、生化、影像、病理、基因等檢測(cè)報(bào)告（數(shù)據(jù)），再依據(jù)報(bào)告給出診療方案?！耙_(dá)到對(duì)疾病的精準(zhǔn)判斷，確保安全性和有效性，就需要有醫(yī)療器械注冊(cè)證加持的診療級(jí)人工智能產(chǎn)品?！?br> 近來(lái)，也有越來(lái)越多的醫(yī)院在應(yīng)用人工智能技術(shù)。醫(yī)策科技的病理人工智能輔助診斷系統(tǒng)就是診療級(jí)人工智能產(chǎn)品，在獲批當(dāng)?shù)厮幈O(jiān)局頒發(fā)的醫(yī)療器械注冊(cè)證后，已在國(guó)內(nèi)外多家醫(yī)療機(jī)構(gòu)部署應(yīng)用，輔助醫(yī)生判讀達(dá)幾百萬(wàn)例病理報(bào)告?！爸袊?guó)每百萬(wàn)人的病理醫(yī)生數(shù)量?jī)H為1.5人，AI在病理分析上的應(yīng)用，可以大大減輕病理醫(yī)生不足這個(gè)壓力?！?br> 用AI生成別人的臉和聲音？可以置入隱式標(biāo)識(shí) 最近，雷軍、劉曉慶、劉德華、張文宏等名人，紛紛被人工智能技術(shù)換臉擬聲合成視頻。這類(lèi)視頻以假亂真，很容易“欺騙”受眾。 北京市競(jìng)天公誠(chéng)律師事務(wù)所合伙人周楊告訴記者，這類(lèi)用AI合成的名人音視頻，會(huì)侵犯名人的肖像和聲譽(yù)，還存在散布虛假、不良信息的風(fēng)險(xiǎn)。 她舉例：“DeepSeek爆火之后，《黑神話(huà)：悟空》制作人馮驥發(fā)文盛贊。很快，一條DeepSeek創(chuàng)始人梁文峰的回應(yīng)，引發(fā)朋友圈廣泛轉(zhuǎn)載。最后，多個(gè)知名大V聲稱(chēng)梁文峰的回應(yīng)為AI偽造。” AIGC（人工智能生成內(nèi)容）與過(guò)去影響網(wǎng)絡(luò)空間安全的內(nèi)容一樣，都會(huì)出現(xiàn)虛假和不良信息，但更加難以甄別，更容易導(dǎo)致不良影響和后果。《互聯(lián)網(wǎng)信息服務(wù)管理辦法》明確規(guī)定了網(wǎng)絡(luò)發(fā)布信息“九不準(zhǔn)”?！毒W(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》還有“十一不得”。國(guó)家互聯(lián)網(wǎng)信息辦公室還發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，與全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)委員會(huì)發(fā)布的《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》強(qiáng)制性國(guó)家標(biāo)準(zhǔn)（征求意見(jiàn)稿）配套使用，要求對(duì)人工智能生成合成內(nèi)容進(jìn)行標(biāo)識(shí)，規(guī)范AIGC在網(wǎng)絡(luò)空間中的流通安全。 此外，還有合成普通人音視頻、對(duì)其親友實(shí)施詐騙的行為，未成年人和中老年尤其容易被針對(duì)。周楊表示，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《未成年人網(wǎng)絡(luò)保護(hù)辦法》均有關(guān)于弱勢(shì)群體的專(zhuān)門(mén)規(guī)定。 浙江大學(xué)研究員韓蒙表示，AI合成偽造和AI標(biāo)識(shí)，存在相互博弈的關(guān)系。在技術(shù)上，可以對(duì)AIGC進(jìn)行標(biāo)識(shí)?！皹?biāo)識(shí)有顯式的，比如現(xiàn)在大家在視頻網(wǎng)站上看到的水印。隨著技術(shù)升級(jí)，包括我們團(tuán)隊(duì)在內(nèi)，一些國(guó)內(nèi)團(tuán)隊(duì)也對(duì)隱式標(biāo)識(shí)展開(kāi)研究?！碑?dāng)利用AI生成作品時(shí)，隱式標(biāo)識(shí)會(huì)被藏在作品中，肉眼是看不見(jiàn)的。但通過(guò)檢測(cè)手段，標(biāo)識(shí)可以顯現(xiàn)。 戴著頭套騙過(guò)人臉識(shí)別？依賴(lài)場(chǎng)景分級(jí)應(yīng)對(duì) 網(wǎng)絡(luò)上有聲稱(chēng)“可以攻破人臉識(shí)別系統(tǒng)”的硅膠頭套售賣(mài)。 周楊介紹，利用硅膠頭套導(dǎo)致人臉識(shí)別系統(tǒng)識(shí)別通過(guò)，本質(zhì)上是一種對(duì)人臉識(shí)別技術(shù)及系統(tǒng)的攻擊行為，考驗(yàn)的是人臉識(shí)別技術(shù)和系統(tǒng)的安全性問(wèn)題。關(guān)于人臉識(shí)別技術(shù)的應(yīng)用安全，國(guó)家網(wǎng)信辦曾發(fā)布《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見(jiàn)稿）》，從應(yīng)用層安全、技術(shù)層安全、數(shù)據(jù)層安全等多個(gè)層面規(guī)定了人臉識(shí)別技術(shù)的提供方和應(yīng)用方應(yīng)當(dāng)承擔(dān)的相關(guān)責(zé)任。 “我們都希望人臉識(shí)別系統(tǒng)既輕松又精確，我們戴個(gè)帽子、口罩，換個(gè)發(fā)型，它都能把我們識(shí)別出來(lái)?！钡?，韓蒙介紹，AI模型在人臉識(shí)別泛化性和精準(zhǔn)性方面，一直像蹺蹺板，“不可能提供完美泛化性的同時(shí)，又提供完美精準(zhǔn)性。” 對(duì)此，在使用場(chǎng)景上進(jìn)行分級(jí)分類(lèi)是個(gè)相對(duì)不錯(cuò)的應(yīng)對(duì)方案。比如：上班打卡等場(chǎng)景，可以對(duì)精確性要求低一點(diǎn)；金融轉(zhuǎn)賬等高度安全需求場(chǎng)景，精確性要求必須高?！八?，現(xiàn)在有活體識(shí)別技術(shù)，讓你張張嘴、眨眨眼等?！?br> 央視曾用硅膠頭套做過(guò)測(cè)試，結(jié)果顯示頭部廠商的增強(qiáng)版人臉核實(shí)身份技術(shù)，能準(zhǔn)確識(shí)別和有效攔截攻擊。 用AI幫著自己搞“創(chuàng)作”？獨(dú)創(chuàng)才是作品靈魂 近日，武漢東湖新技術(shù)開(kāi)發(fā)區(qū)人民法院科學(xué)城法庭審結(jié)一起“AI生成圖被侵權(quán)”的著作權(quán)糾紛案。AIGC創(chuàng)作者王某，將盜用其圖片作品的某公司訴至法院。法院認(rèn)為該公司應(yīng)當(dāng)承擔(dān)停止侵權(quán)和賠償損失的侵權(quán)責(zé)任，賠償王某經(jīng)濟(jì)損失及合理開(kāi)支4000元。 “AIGC的出現(xiàn)模糊了創(chuàng)作的主體邊界?！背修k法官表示，AIGC是否構(gòu)成作品需要個(gè)案判斷，核心在于作者的智力投入是否達(dá)到獨(dú)創(chuàng)性標(biāo)準(zhǔn)，以及生成作品是否高度呈現(xiàn)了作者的獨(dú)創(chuàng)性表達(dá)。 周楊也認(rèn)為，如果創(chuàng)作者只是給AI提供幾個(gè)簡(jiǎn)單的關(guān)鍵詞，那很難認(rèn)定其有作品的著作權(quán)?！坝歇?dú)立的邏輯，不斷地創(chuàng)作、調(diào)整、篩選，有大量的個(gè)人特色和智力付出在作品里，才能具備產(chǎn)生著作權(quán)這一保護(hù)人類(lèi)智力創(chuàng)作權(quán)利的條件?！?br> 大學(xué)生利用AI來(lái)完成論文撰寫(xiě)，周楊認(rèn)為，把AI當(dāng)成一種先進(jìn)生產(chǎn)力工具無(wú)可厚非。但仍應(yīng)遵循法律法規(guī)的規(guī)定，不得輸出包含大量抄襲、改編等侵犯他人知識(shí)產(chǎn)權(quán)的作品，而應(yīng)當(dāng)加入自身的觀點(diǎn)、思考、創(chuàng)造力，形成真正有保護(hù)價(jià)值的論文。此外，AI模型在訓(xùn)練時(shí)，也應(yīng)當(dāng)考慮此類(lèi)倫理問(wèn)題，加強(qiáng)訓(xùn)練數(shù)據(jù)的管理和輸出物的標(biāo)識(shí)，在輸出物合法合規(guī)且合乎倫理道德方面進(jìn)行技術(shù)控制。 對(duì)于AI的管控，目前我國(guó)已經(jīng)從輸入端（訓(xùn)練數(shù)據(jù)），模型端（模型安全、倫理安全等）以及輸出端（生成物內(nèi)容安全）等方面進(jìn)行了部署，并制定了相關(guān)落地細(xì)則和標(biāo)準(zhǔn)。“AI本質(zhì)上是工具，怎么用、用來(lái)干什么，最終仍將取決于一個(gè)人自身的道德、目標(biāo)與決策?！?/strong> 觀點(diǎn)：像治理生態(tài)一樣治理AI 中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)成立于2023年10月，成員單位近100家，涵蓋國(guó)內(nèi)AI領(lǐng)域頭部產(chǎn)、學(xué)、研、用機(jī)構(gòu)，以及AI安全治理的200多位高級(jí)別專(zhuān)家。 作為專(zhuān)委會(huì)人工智能生態(tài)治理工作組組長(zhǎng)，韓蒙倡導(dǎo)將人工智能當(dāng)作一個(gè)生態(tài)系統(tǒng)來(lái)治理，“就像河道治理，為了讓它更健康地發(fā)展，疏而不是堵?！睂?duì)人工智能安全的關(guān)注，含義豐富，涉及模型本身（技術(shù)環(huán)節(jié)）、產(chǎn)品（DeepSeek等）、場(chǎng)景（學(xué)習(xí)、支付等）、產(chǎn)業(yè)（醫(yī)療、汽車(chē)等）?！罢麄€(gè)人工智能的生態(tài)聯(lián)動(dòng)在一起，需要不同的學(xué)界、產(chǎn)業(yè)界共同參與治理，確保人工智能按照規(guī)則和秩序，健康可持續(xù)發(fā)展?！?br> 來(lái)源：北京日?qǐng)?bào)客戶(hù)端 記者：孫毅 |
了解東遠(yuǎn)
東遠(yuǎn)簡(jiǎn)介 產(chǎn)品中心 技術(shù)方案 科研中心 聯(lián)系我們活動(dòng)及狀態(tài)
最新消息 新品推薦 招標(biāo)中心 線(xiàn)上直銷(xiāo) ChatGPT常見(jiàn)問(wèn)題
購(gòu)買(mǎi)渠道 項(xiàng)目合作 開(kāi)票資料 支付方式 法律聲明關(guān)注我們：東遠(yuǎn)物聯(lián)
抖音
微信咨詢(xún)
咨詢(xún)電話(huà)：
199-2833-9866D-Think | 廣州東遠(yuǎn)智能科技有限公司
地址：廣州市白云區(qū)北太路1633號(hào)廣州民營(yíng)科技園科創(chuàng)中心2棟16樓
電話(huà)：+86 020-87227952 Email：iot@D-Think.cn
Copyright ©2020 東遠(yuǎn)科技 粵ICP備2024254589號(hào)
免責(zé)申明：部分圖文表述來(lái)自于網(wǎng)絡(luò)，如有侵權(quán)請(qǐng)聯(lián)系作者刪除！
19款電子扎帶
電路板識(shí)別電子標(biāo)簽