近日，某知名醫(yī)學(xué)專家在網(wǎng)絡(luò)視頻中“被帶貨”，實(shí)則為AI（人工智能）合成視頻，引發(fā)公眾對(duì)AI造假風(fēng)險(xiǎn)的擔(dān)憂。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

生成式人工智能是當(dāng)前國(guó)內(nèi)外最熱門的AI技術(shù)形態(tài)，因其強(qiáng)大的內(nèi)容生產(chǎn)功能和強(qiáng)交互性而受到廣大用戶歡迎。作為一種顛覆性技術(shù)的新生事物，生成式人工智能在給經(jīng)濟(jì)社會(huì)發(fā)展帶來巨大利好和無限可能的同時(shí)，也在法律規(guī)范、倫理道德、社會(huì)安全、公共治理等方面帶來沖擊。一是由生成式人工智能技術(shù)本身的局限性和特點(diǎn)引發(fā)的內(nèi)生性風(fēng)險(xiǎn)。大模型使用的數(shù)據(jù)存在錯(cuò)誤、不完備性，且蘊(yùn)含人類本身的價(jià)值觀念，這就可能導(dǎo)致輸出的內(nèi)容存在錯(cuò)誤、偏見、歧視。而且，生成式人工智能訓(xùn)練依賴于大規(guī)模數(shù)據(jù)，容易造成對(duì)個(gè)人數(shù)據(jù)和公共數(shù)據(jù)的過度搜集，進(jìn)而引發(fā)侵權(quán)等問題。二是一些主體的非法和惡意使用引發(fā)的外生性風(fēng)險(xiǎn)。生成式人工智能可以成為制造、傳播虛假信息的工具，利用AI深度偽造會(huì)成為詐騙活動(dòng)的“新武器”。在大國(guó)博弈的背景下，生成式人工智能還可能被用作網(wǎng)絡(luò)攻擊的工具。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

重視和防范這些風(fēng)險(xiǎn)，必須加強(qiáng)生成式人工智能安全監(jiān)管，筑牢安全底線，推動(dòng)智能向善，為防范化解相關(guān)風(fēng)險(xiǎn)隱患、持續(xù)推動(dòng)產(chǎn)業(yè)發(fā)展與技術(shù)進(jìn)步提供保障。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

建立安全監(jiān)管制度，進(jìn)行全鏈條監(jiān)管。在生成式人工智能的準(zhǔn)備階段，建立數(shù)據(jù)搜集和使用的規(guī)范機(jī)制，避免數(shù)據(jù)安全風(fēng)險(xiǎn)。在訓(xùn)練階段，建立算法監(jiān)管標(biāo)準(zhǔn)，將法律規(guī)范的要求深度嵌入生成式人工智能的算法模型，消除算法偏見。在使用階段，規(guī)范AI生成內(nèi)容標(biāo)識(shí)，研究完善生成式人工智能領(lǐng)域知識(shí)產(chǎn)權(quán)保護(hù)相關(guān)法律法規(guī)，制定對(duì)生成式人工智能濫用和非法使用的精準(zhǔn)化、常態(tài)化監(jiān)管機(jī)制，避免侵權(quán)和擾亂社會(huì)秩序。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

促進(jìn)多元主體共同參與，形成監(jiān)管合力。政府部門加強(qiáng)頂層設(shè)計(jì)，前瞻研判生成式人工智能安全風(fēng)險(xiǎn)樣態(tài)，主動(dòng)識(shí)變應(yīng)變求變，完善制度保障，建立制度監(jiān)管體系。夯實(shí)生成式人工智能研發(fā)企業(yè)主體責(zé)任，增強(qiáng)企業(yè)的社會(huì)責(zé)任感，加強(qiáng)行業(yè)自律，制定行業(yè)標(biāo)準(zhǔn)，強(qiáng)化數(shù)據(jù)管理和保護(hù)，加強(qiáng)產(chǎn)品安全測(cè)試，提供易于理解的產(chǎn)品使用指南和隱私政策，制定應(yīng)對(duì)生成式人工智能產(chǎn)品安全事件的應(yīng)急預(yù)案和風(fēng)險(xiǎn)管理體制。增強(qiáng)生成式人工智能研發(fā)人員的法律和安全意識(shí)，開展AI相關(guān)法律法規(guī)培訓(xùn)和安全意識(shí)教育，制定研發(fā)人員行為準(zhǔn)則和指南。提高公眾AI素養(yǎng)，加強(qiáng)公眾智能安全風(fēng)險(xiǎn)意識(shí)教育，宣傳和普及AI相關(guān)法律法規(guī)，鼓勵(lì)公眾參與生成式人工智能監(jiān)管，建立投訴和舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和處理生成式人工智能安全風(fēng)險(xiǎn)問題。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

強(qiáng)化技術(shù)賦能，提高安全監(jiān)管水平。當(dāng)前我國(guó)生成式人工智能領(lǐng)域研發(fā)投入和大模型數(shù)量不斷增多，但大模型質(zhì)量仍然有待提高，因此需要加大研發(fā)投入，搶占技術(shù)高地，確保生成式人工智能系統(tǒng)的安全性和可靠性。AI也可以作為安全監(jiān)管的有效技術(shù)手段，如利用生成式人工智能進(jìn)行安全風(fēng)險(xiǎn)預(yù)警和監(jiān)測(cè)，進(jìn)行自動(dòng)化合規(guī)檢查，識(shí)別和過濾虛假信息，模擬安全風(fēng)險(xiǎn)事件，幫助制定應(yīng)急預(yù)案，分析政策的影響和效果，為政策制定者提供決策支持。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊

加強(qiáng)國(guó)際合作，推動(dòng)形成國(guó)際安全監(jiān)管共識(shí)。生成式人工智能治理已經(jīng)成為一項(xiàng)全球性科技議題，要加強(qiáng)國(guó)際合作，建立多邊對(duì)話平臺(tái)研究交流生成式人工智能安全監(jiān)管問題，促進(jìn)各國(guó)安全人才交流和合作，積極吸收各國(guó)關(guān)于AI安全監(jiān)管經(jīng)驗(yàn)，參與生成式人工智能治理與監(jiān)管國(guó)際規(guī)則制定，以人類命運(yùn)共同體理念推動(dòng)形成生成式人工智能安全監(jiān)管共識(shí)，共同應(yīng)對(duì)它帶來的全球性安全挑戰(zhàn)，推動(dòng)相關(guān)技術(shù)為全人類發(fā)展服務(wù)。4bd知多少教育網(wǎng)-記錄每日最新科研教育資訊