人工智能技術(shù)是一把雙刃劍,在為我們提供便利的同時,帶來諸多風險。比如前段時間各方熱議的AI換臉術(shù),在自我娛樂、娛樂大眾的同時,不可避免地引發(fā)諸如用戶個人隱私的泄露、侵權(quán)、虛假謠言的擴散等法律風險。
如今,官方正式出手。國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局近日聯(lián)合印發(fā)《網(wǎng)絡音視頻信息服務管理規(guī)定》(以下簡稱《規(guī)定》),要求利用新技術(shù)新應用制作、發(fā)布、傳播非真實音視頻信息的,應當以顯著方式予以標識;網(wǎng)絡音視頻信息服務提供者發(fā)現(xiàn)使用者利用基于深度學習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的,應當及時采取相應的辟謠措施。
“新興技術(shù)一旦在網(wǎng)絡上被違法運用,極有可能造成社會秩序紊亂,甚至危害國家安全。這就要求對網(wǎng)絡音視頻行業(yè)加強監(jiān)管。”北京師范大學互聯(lián)網(wǎng)發(fā)展研究院院長助理、中國互聯(lián)網(wǎng)協(xié)會研究中心秘書長吳沈括教授告訴《法制日報》記者,《規(guī)定》不僅加大對違法行為的打擊力度,制約網(wǎng)絡水軍等擾亂網(wǎng)絡秩序的行為,而且有利于進一步保護公民、法人以及其他組織的合法權(quán)益,維護社會秩序和公共利益?!兑?guī)定》的出臺,意味著AI深度換臉術(shù)等新技術(shù)新運用迎來強監(jiān)管。
風險不斷疊加亟需規(guī)范
當前,網(wǎng)絡音視頻信息行業(yè)發(fā)展迅速,用戶規(guī)模不斷壯大。數(shù)據(jù)顯示,我國網(wǎng)絡音樂用戶規(guī)模已達6.08億,網(wǎng)絡視頻用戶規(guī)模已達7.59億。隨之而來的是,相關(guān)風險在不斷疊加。
今年年初,一個“朱茵變楊冪”的視頻在bilibili(視頻彈幕網(wǎng)站)上火了,視頻中《射雕英雄傳》中扮演的“黃蓉”角色被替換為楊冪。視頻被傳至微博后引起軒然大波,侵權(quán)、安全等爭議聲接踵而至。
“隨著‘深度偽造’等新技術(shù)新應用在網(wǎng)絡音視頻領(lǐng)域的運用,傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風險隱患在不斷增大。”國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人坦言,這些風險進一步集聚、放大,很可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動。
“亟需出臺有針對性的管理規(guī)定。”國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人說,亟需明確網(wǎng)絡音視頻信息服務提供者及其技術(shù)支持的主體的信息內(nèi)容安全管理責任,規(guī)范網(wǎng)絡音視頻信息服務提供者關(guān)于利用深度學習、虛擬現(xiàn)實等新技術(shù)新應用的管理要求,為網(wǎng)絡音視頻信息服務及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)。
在吳沈括看來,盡管監(jiān)管部門近幾年來已出臺了相關(guān)文件,但由于網(wǎng)絡音視頻行業(yè)內(nèi)容、用戶等數(shù)量龐大,違法現(xiàn)象層出不窮。為此,國家網(wǎng)信辦、文化和旅游部、國家廣電總局三部門聯(lián)合制定《規(guī)定》,明確了管理機制,規(guī)范了新技術(shù)的使用,對將有關(guān)技術(shù)用于違法用途的行為起到了一定的阻止作用,有利于維護網(wǎng)絡音視頻行業(yè)的健康秩序。
辟謠機制阻斷謠言傳播
吳沈括注意到,《規(guī)定》對新技術(shù)新應用安全給予高度關(guān)注,對基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應用制作、發(fā)布、傳播音視頻信息進行了明確規(guī)定。
吳沈括分析指出,這是由于此前規(guī)范機制的缺乏,虛假、違法信息在網(wǎng)絡平臺上傳播,難以得到有效的遏制,謠言的迅速傳播以及影響范圍廣的特點,對公民和社會秩序都造成了嚴重危害。
對此,《規(guī)定》不僅明確安全評估要求,網(wǎng)絡音視頻信息服務提供者基于新技術(shù)新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務,或者調(diào)整增設相關(guān)功能的,應當按照國家有關(guān)規(guī)定開展安全評估。而且明確標識要求和新聞信息管理要求,網(wǎng)絡音視頻信息服務提供者和網(wǎng)絡音視頻信息服務使用者利用新技術(shù)新應用制作、發(fā)布、傳播非真實音視頻信息的,應當以顯著方式予以標識,不得利用新技術(shù)新應用制作、發(fā)布、傳播虛假新聞信息。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人介紹說,《規(guī)定》還明確違法違規(guī)信息管理要求,網(wǎng)絡音視頻信息服務提供者應當部署應用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)。
此外,《規(guī)定》還強調(diào),網(wǎng)絡音視頻信息服務提供者應當部署應用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù),發(fā)現(xiàn)音視頻信息服務使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的,應當依法依約停止傳輸該信息,采取消除等處置措施;網(wǎng)絡音視頻信息服務提供者應當建立健全辟謠機制,發(fā)現(xiàn)網(wǎng)絡音視頻信息服務使用者利用基于深度學習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的,應當及時采取相應的辟謠措施,并將相關(guān)信息報網(wǎng)信、文化和旅游、廣播電視等部門備案。
吳沈括告訴記者,《規(guī)定》對非真實音視頻信息的標識義務以及辟謠機制的安排,有利于識別各式各樣的虛假信息,阻止虛假信息的傳播,保護公民個人的權(quán)益,使新技術(shù)能夠得到合法運用,與網(wǎng)絡音視頻行業(yè)共同健康發(fā)展。
設置便捷投訴舉報入口
記者注意到,《規(guī)定》要求網(wǎng)絡音視頻信息服務提供者落實信息內(nèi)容安全管理主體責任,應當依法取得法律、行政法規(guī)規(guī)定的相關(guān)資質(zhì);建立健全用戶注冊、信息發(fā)布審核、信息安全管理等制度。
“這些規(guī)定要求網(wǎng)絡音視頻信息服務提供者自覺主動履行平臺監(jiān)管的義務,加大對不良信息的識別和審核力度,承擔平臺所應有的社會責任。”吳沈括解釋說,平臺方在追求經(jīng)濟利益的同時,實現(xiàn)與社會效益相統(tǒng)一。網(wǎng)絡音視頻信息服務提供者應加大對公民、社會和國家利益的保護力度,承擔更多的主體責任。
同時,《規(guī)定》要求網(wǎng)絡音視頻信息服務提供者應當依照《中華人民共和國網(wǎng)絡安全法》的規(guī)定對用戶進行真實身份信息認證等。對此,吳沈括解釋說,這一條可以看做是網(wǎng)絡應用實名制條款,明確了公民個人的責任。
此外,《規(guī)定》要求,網(wǎng)絡音視頻信息服務提供者應當設置便捷的投訴舉報入口,及時受理并處理公眾投訴舉報。此外,網(wǎng)絡音視頻信息服務提供技術(shù)支持的主體應當遵守相關(guān)法律法規(guī)規(guī)定和國家標準規(guī)范。
據(jù)國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人介紹,《規(guī)定》還明確監(jiān)督檢查要求和執(zhí)法協(xié)助要求,各級網(wǎng)信、文化和旅游、廣播電視等部門應當建立日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度,網(wǎng)絡音視頻信息服務提供者應當配合監(jiān)管部門開展執(zhí)法工作。而且明確了法律責任,網(wǎng)絡音視頻信息服務提供者和網(wǎng)絡音視頻信息服務使用者違反本規(guī)定的,由網(wǎng)信、文化和旅游、廣播電視等部門依照相關(guān)法律法規(guī)規(guī)定處理。
吳沈括認為,作為規(guī)范性文件,《規(guī)定》對網(wǎng)絡音視頻信息行業(yè)的的監(jiān)管作了大體規(guī)定,后期仍需更為細化的執(zhí)行性文件出臺,幫助有關(guān)部門以及網(wǎng)絡音視頻信息服務提供者進一步履行責任。
揚子晚報網(wǎng)6月14日訊(通訊員張愛國記者梅建明)6月12日上午,事故當事
注意!今日暴雨來襲未來三天福建以陰雨天氣為主雨水上線,暫享清涼最新
流量時代,企業(yè)爭相發(fā)力線上,變著花樣引流不足為奇。即便是老牌企業(yè)如
愛范兒早報導讀披頭士最后一曲,AI協(xié)助完成ChatGPT推送重要更新多地高
提到工具,你想到的是什么?辦公場景中的掃描、傳輸、會議等工具,還是
上海市科學技術(shù)委員會近日印發(fā)《上海市“元宇宙”關(guān)鍵技術(shù)攻關(guān)行動方案
本場賽后,巴特勒和洛瑞出席了新聞發(fā)布會。記者向巴特勒提問:在控
作戰(zhàn)室內(nèi),編隊指揮員密切關(guān)注戰(zhàn)場態(tài)勢,指揮各艦迅速組成對空防御隊
相信大家對商務標書包括哪些內(nèi)容,五羊本田哪些是獨立標?的問題都很疑
華夏時報記者付樂冉學東北京報道近日,《華夏時報》記者發(fā)現(xiàn),微信支付
同花順數(shù)據(jù)顯示,2023年6月13日,浙富控股獲外資賣出67 14萬股,占流通
鄂軍贏得開門紅,13支三人女籃青年軍鏖戰(zhàn)江城---6月13日上午,“漢水杯
我從______大學光纖專業(yè)畢業(yè)后,于8月開始在縣通信分公司工作。我從事
北京遇上西雅圖演員表,京遇上西雅圖演員表的基本詳情介紹很多人還不知
兩年后,我才知道為什么趙麗穎的婚姻如此倉促,拖了這么久。2018年5月

安徽安慶市正式成立“老年助餐慈善基
記者日前從安慶市民政局獲悉,該市慈善會近日設立老年助餐慈善基金,共同守護老年人舌尖上的幸福。該基金專項用于資助城鄉(xiāng)社區(qū)老年食堂、社

安徽淮北積極落實2022年電網(wǎng)防汛度汛
近日,國網(wǎng)淮北供電公司工作人員來到110千伏中泰變電站開展防汛隱患排查。該公司積極落實2022年防汛度汛措施,提前細化應急預案,推進極端

安徽全椒縣完善拓展人力信息資源助企
今年以來,全椒縣不斷完善拓展人力資源信息庫、勞務對接信息庫、企業(yè)用工需求信息庫三庫信息資源,已摸排400多家次企業(yè)缺工崗位信息1 2萬個

宿州市埇橋區(qū)柔性引進博士推進鄉(xiāng)村振
宿州市埇橋區(qū)實施博士匯工程,柔性引進29名博士擔任副鄉(xiāng)鎮(zhèn)長或園區(qū)副主任,他們將為加快產(chǎn)業(yè)發(fā)展、推進鄉(xiāng)村振興強化智力支持。目前,博士專
安徽印發(fā)出臺全面實施零基預算改革方
為進一步提高財政資源配置效率和資金使用效益,省政府印發(fā)《安徽省全面實施零基預算改革方案》,明確從編制2023年預算起,在全省范圍內(nèi)全面
5月份安徽居民消費價格同比上漲2.3%
近日,國家統(tǒng)計局安徽調(diào)查總隊發(fā)布了我省5月份居民消費價格統(tǒng)計數(shù)據(jù)。統(tǒng)計顯示,我省居民消費價格同比上漲2 3%,同比漲幅比上月回落0 4個百分
安徽多種方式引導群眾防范非法集資風
合肥地鐵1號線、3號線上滾動播放防范非法集資宣傳視頻,淮南市發(fā)布《致老年群眾的一封信》……6月份是一年一度防范和處置非法集資宣傳月,今
鐵路部門持續(xù)加大長三角地區(qū)運力投放
記者從中國鐵路上海局集團有限公司獲悉,隨著上海疫情防控形勢持續(xù)向好,為進一步適應旅客出行需要,助力復工復產(chǎn),鐵路部門自6月10日起持續(xù)加
安徽六安持續(xù)精準施策全力促進工業(yè)發(fā)
六安市與蔚來汽車簽署合作協(xié)議,共建智能電動汽車零部件配套產(chǎn)業(yè)園區(qū)。該園區(qū)一期計劃2023年上半年投產(chǎn),建成后將具備年產(chǎn)30萬噸鋁壓鑄產(chǎn)能,
安徽淮北全力維護外賣送餐員合法權(quán)益
為切實防范化解新業(yè)態(tài)領(lǐng)域重大風險隱患,強化外賣送餐員權(quán)益保障工作,淮北市市場監(jiān)管局充分發(fā)揮職能作用,全力維護外賣送餐員合法權(quán)益?;幢?/p>
湖南漣源開展專項行動一對一為企業(yè)紓
位于漣源市的湖南三合美新材料科技有限公司,兩條生產(chǎn)線滿負荷運行,生產(chǎn)聚氨酯和巖棉復合板。因產(chǎn)品升級與產(chǎn)能擴充,急需新增兩條生產(chǎn)線,
湖南藍山縣進村入戶排查整治自建房安
老叔,這棟房屋墻體有開裂痕跡,要維修加固,安全重要!5月20日,藍山縣塔峰鎮(zhèn)果木村,黨員干部上門開展農(nóng)村自建房安全隱患排查整治。連日來
一季度湖南萬元產(chǎn)值綜合能耗同比下降
近日,湖南省工業(yè)通信業(yè)節(jié)能監(jiān)察中心發(fā)布一季度全省六大高耗能行業(yè)能源消耗統(tǒng)計監(jiān)測報告。據(jù)該報告,一季度全省146家主要高耗能企業(yè)的萬元
濟南起步區(qū)一年來累計簽約優(yōu)質(zhì)項目11
萬里黃河第一隧濟南黃河濟濼路隧道建成通車,占地4000余畝的新能源乘用車零部件產(chǎn)業(yè)園加快施工……記者21日采訪獲悉,建設實施方案獲批復一
山東發(fā)布通知啟動傳統(tǒng)民居保護利用試
省住房城鄉(xiāng)建設廳、省財政廳近日聯(lián)合印發(fā)《關(guān)于做好傳統(tǒng)民居保護利用試點工作的通知》,在全省部署開展傳統(tǒng)民居保護利用試點工作。此次試點