一、為何要做備案?

　　1、2023年5月23日國家網(wǎng)信辦通過《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱“《暫行辦法》”)自2023年8月15日起施行。

　　《暫行辦法》第十七條 提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱”《推薦管理規(guī)定》“)履行算法備案和變更、注銷備案手續(xù)。

　　2、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱“《合成管理規(guī)定》”)第十九條規(guī)定“具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行或辦理備案、變更、注銷等相關(guān)手續(xù)。深度合成服務(wù)技術(shù)支持者應(yīng)當(dāng)參照前款規(guī)定履行備案和變更、注銷備案手續(xù)?！?/p>

　　二、哪些主體需要備案?

　　1、深度合成服務(wù)提供者、技術(shù)支持者

　　深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織、個(gè)人。

　　深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織、個(gè)人。

　　2、《合成管理規(guī)定》第十九條具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。

　　深度合成服務(wù)技術(shù)支持者應(yīng)當(dāng)參照前款規(guī)定履行備案和變更、注銷備案手續(xù)。

　　完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)在其對外提供服務(wù)的網(wǎng)站應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)并提供公示信息鏈接。

　　三、哪些情形(場景)需要備案?

　　1、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中對需要進(jìn)行備案的算法做了具體的說明，指的是“利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息”。

　　2、“生成合成類”包括但不限于：具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成技術(shù)的人工智能及元宇宙場景。

　　《深度合成規(guī)定》第二十三條之規(guī)定，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：

　　(一)篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù);

　　(二)文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù);

　　(三)音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù);

　　(四)人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù);

　　(五)圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù);

　　(六)三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)。

　　3、如何理解“輿論屬性或者社會(huì)動(dòng)員能力”

　　《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第二條，具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)，包括下列情形：

　　(一)開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能;

　　(二)開辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。

　　也即是說，如果你只是自建自玩，那不需要備案，但如果你想向公眾發(fā)布，需要更多人的來使用，就需要備案了。

　　四、哪些行業(yè)需要做算法備案?

　　根據(jù)目前國家規(guī)定，需要進(jìn)行算法備案的行業(yè)主要包括：

　　1. 互聯(lián)網(wǎng)行業(yè)：涉及到用戶數(shù)據(jù)采集、分析和利用的算法，需要進(jìn)行備案;

　　2. 金融行業(yè)：涉及到風(fēng)險(xiǎn)控制、投資決策等算法，需要進(jìn)行備案;

　　3. 醫(yī)療行業(yè)：涉及到疾病診斷、治療方案等算法，需要進(jìn)行備案;

　　4. 交通行業(yè)：涉及到智能交通管理、交通預(yù)測等算法，需要進(jìn)行備案;

　　5. 能源行業(yè)：涉及到智能電網(wǎng)管理、能源預(yù)測等算法，需要進(jìn)行備案;

　　6. 其他涉及到數(shù)據(jù)分析和利用的行業(yè)，如電商、物流等，也需要進(jìn)行算法備案。

　　此外，一些使用到人工智能技術(shù)的特殊崗位，如“算法工程師”，也需要進(jìn)行備案。

　　五、在哪備案?

　　互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)(以下簡稱備案系統(tǒng))，網(wǎng)址為 https://beian.cac.gov.cn。系統(tǒng)首頁

　　六、如果不備案的法律后果

　　《合成管理規(guī)定》第三十一條 算法推薦服務(wù)提供者違反本規(guī)定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規(guī)定，法律、行政法規(guī)有規(guī)定的，依照其規(guī)定;法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門依據(jù)職責(zé)給予警告、通報(bào)批評(píng)，責(zé)令限期改正;拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰;構(gòu)成犯罪的，依法追究刑事責(zé)任。

　　《暫行辦法》第二十一條 提供者違反本辦法規(guī)定的，由有關(guān)主管部門依照《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個(gè)人信息保護(hù)法》、《中華人民共和國科學(xué)技術(shù)進(jìn)步法》等法律、行政法規(guī)的規(guī)定予以處罰;法律、行政法規(guī)沒有規(guī)定的，由有關(guān)主管部門依據(jù)職責(zé)予以警告、通報(bào)批評(píng)，責(zé)令限期改正;拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。

　　構(gòu)成違反治安管理行為的，依法給予治安管理處罰;構(gòu)成犯罪的，依法追究刑事責(zé)任。

　　七、備案的程序及步驟?

　　深度合成備案填報(bào)包括三個(gè)步驟：一是填報(bào)主體信息;二是填報(bào)算法信息;三是關(guān)聯(lián)產(chǎn)品及功能信息或填報(bào)技術(shù)服務(wù)方式。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，材料齊全的，網(wǎng)信部門應(yīng)在30個(gè)工作日內(nèi)予以備案。

　　八、備案要準(zhǔn)備的材料有哪些?

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。

　　1、主體信息

　　備案主體基本信息、證件信息、法定代表人信息、算法安全責(zé)任人信息等內(nèi)容。

　　2、算法信息

　　包括：算法數(shù)據(jù)、算法模型、算法策略和算法風(fēng)險(xiǎn)與防范機(jī)制等，包括算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場景以及算法目的意圖等內(nèi)容。

　　3、關(guān)聯(lián)產(chǎn)品及功能信息(或填報(bào)技術(shù)服務(wù)方式)

　　在關(guān)聯(lián)產(chǎn)品及功能信息或填報(bào)技術(shù)服務(wù)方式時(shí)，“服務(wù)提供者”角色的填報(bào)人員需關(guān)聯(lián)產(chǎn)品及功能信息，“服務(wù)技術(shù)支持者”角色的填報(bào)人員需填報(bào)技術(shù)服務(wù)方式。

　　4、《自評(píng)估報(bào)告》(見下文)在算法信息填報(bào)(第二步)中，企業(yè)需要提交算法安全自評(píng)估報(bào)告，其主要包括算法情況(算法流程、數(shù)據(jù)、模型和干預(yù)策略)、服務(wù)情況、風(fēng)險(xiǎn)研判、風(fēng)險(xiǎn)防控情況、安全評(píng)估結(jié)論等內(nèi)容。對比服務(wù)提供者與技術(shù)支持者的算法安全自評(píng)估報(bào)告模板，服務(wù)提供者需提供更多關(guān)于內(nèi)容生態(tài)治理、結(jié)果標(biāo)識(shí)、辟謠機(jī)制，以及用戶權(quán)益保障方面的說明。

　　5、《擬公示內(nèi)容》：根據(jù)《算法推薦管理規(guī)定》第十六條，算法推薦服務(wù)提供者應(yīng)當(dāng)以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。在算法信息填報(bào)(第二步)中，企業(yè)即需要提交算法擬公示內(nèi)容，主要包括算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場景、算法目的意圖，以供監(jiān)管機(jī)構(gòu)審核。

　　6、附件：《算法備案承諾書》《落實(shí)算法安全主體責(zé)任基本情況》。

　　九、上市前“算法安全評(píng)估”如何做?

　　1、《暫行辦法》第十七條 提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估。

　　業(yè)內(nèi)學(xué)者認(rèn)為：以大模型為主的AIGC產(chǎn)品開發(fā)商正在被要求向中央網(wǎng)信辦提請“雙新評(píng)估”。表現(xiàn)如下：

　　“國家有關(guān)規(guī)定”是指AIGC服務(wù)提供者應(yīng)當(dāng)同時(shí)滿足其他適用法規(guī)的要求。如果其他適用法規(guī)提出類似的安全評(píng)估要求，則AIGC服務(wù)提供者也應(yīng)當(dāng)依法依規(guī)完成相關(guān)評(píng)估義務(wù)。

　　其中一個(gè)“國家規(guī)定”即是《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》，該規(guī)定要求，出現(xiàn)具有輿論屬性或社會(huì)動(dòng)員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能;使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更;用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開展安全評(píng)估，對評(píng)估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門和公安機(jī)關(guān)提交報(bào)告。(來源：2021年3月18日國家互聯(lián)網(wǎng)信息辦公室、公安部加強(qiáng)對語音社交軟件和涉深度偽造技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估)

　　網(wǎng)信部門和公安機(jī)關(guān)根據(jù)對安全評(píng)估報(bào)告的書面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對互聯(lián)網(wǎng)信息服務(wù)提供者開展現(xiàn)場檢查。

　　《算法推薦管理規(guī)定》第二十七條：具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估;

　　因關(guān)于人工智能安全評(píng)估的專用安全評(píng)估規(guī)范或指南尚未出臺(tái)，仍為“霧里看花”階段，本文不敢隨意研判。以下僅解讀《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》

　　2、《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》的評(píng)估內(nèi)容：第五條 互聯(lián)網(wǎng)信息服務(wù)提供者開展安全評(píng)估，應(yīng)當(dāng)對信息服務(wù)和新技術(shù)新應(yīng)用的合法性，落實(shí)法律、行政法規(guī)、部門規(guī)章和標(biāo)準(zhǔn)規(guī)定的安全措施的有效性，防控安全風(fēng)險(xiǎn)的有效性等情況進(jìn)行全面評(píng)估，并重點(diǎn)評(píng)估下列內(nèi)容：

　　(一)確定與所提供服務(wù)相適應(yīng)的安全管理負(fù)責(zé)人、信息審核人員或者建立安全管理機(jī)構(gòu)的情況;

　　(二)用戶真實(shí)身份核驗(yàn)以及注冊信息留存措施;

　　(三)對用戶的賬號(hào)、操作時(shí)間、操作類型、網(wǎng)絡(luò)源地址和目標(biāo)地址、網(wǎng)絡(luò)源端口、客戶端硬件特征等日志信息，以及用戶發(fā)布信息記錄的留存措施;

　　(四)對用戶賬號(hào)和通訊群組名稱、昵稱、簡介、備注、標(biāo)識(shí)，信息發(fā)布、轉(zhuǎn)發(fā)、評(píng)論和通訊群組等服務(wù)功能中違法有害信息的防范處置和有關(guān)記錄保存措施;

　　(五)個(gè)人信息保護(hù)以及防范違法有害信息傳播擴(kuò)散、社會(huì)動(dòng)員功能失控風(fēng)險(xiǎn)的技術(shù)措施;

　　(六)建立投訴、舉報(bào)制度，公布投訴、舉報(bào)方式等信息，及時(shí)受理并處理有關(guān)投訴和舉報(bào)的情況;

　　(七)建立為網(wǎng)信部門依法履行互聯(lián)網(wǎng)信息服務(wù)監(jiān)督管理職責(zé)提供技術(shù)、數(shù)據(jù)支持和協(xié)助的工作機(jī)制的情況;

　　(八)建立為公安機(jī)關(guān)、國家安全機(jī)關(guān)依法維護(hù)國家安全和查處違法犯罪提供技術(shù)、數(shù)據(jù)支持和協(xié)助的工作機(jī)制的情況。

　　4、評(píng)估報(bào)告：

　　第六條 互聯(lián)網(wǎng)信息服務(wù)提供者在安全評(píng)估中發(fā)現(xiàn)存在安全隱患的，應(yīng)當(dāng)及時(shí)整改，直至消除相關(guān)安全隱患。

　　經(jīng)過安全評(píng)估，符合法律、行政法規(guī)、部門規(guī)章和標(biāo)準(zhǔn)的，應(yīng)當(dāng)形成安全評(píng)估報(bào)告。安全評(píng)估報(bào)告應(yīng)當(dāng)包括下列內(nèi)容：

　　(一)互聯(lián)網(wǎng)信息服務(wù)的功能、服務(wù)范圍、軟硬件設(shè)施、部署位置等基本情況和相關(guān)證照獲取情況;

　　(二)安全管理制度和技術(shù)措施落實(shí)情況及風(fēng)險(xiǎn)防控效果;

　　(三)安全評(píng)估結(jié)論;

　　(四)其他應(yīng)當(dāng)說明的相關(guān)情況。

　　5、第七條 互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)將安全評(píng)估報(bào)告通過全國互聯(lián)網(wǎng)安全管理服務(wù)平臺(tái)提交所在地地市級(jí)以上網(wǎng)信部門和公安機(jī)關(guān)。

　　互聯(lián)網(wǎng)信息服務(wù)提供者需自行進(jìn)行安全評(píng)估并通過全國互聯(lián)網(wǎng)安全管理服務(wù)平臺(tái)(https://www.beian.gov.cn/portal/index.do)

　　十、備案一次就夠了嗎?

　　不僅是平臺(tái)的推出和注銷需要備案，算法的變更、注銷也需要。

　　《暫行辦法》若備案信息發(fā)生變更的，應(yīng)當(dāng)在變更之日起十個(gè)工作日內(nèi)辦理變更手續(xù)。當(dāng)算法推薦服務(wù)提供者終止服務(wù)的，應(yīng)當(dāng)在終止服務(wù)之日起二十個(gè)工作日內(nèi)辦理注銷備案手續(xù)。

　　綜上所述，關(guān)于互聯(lián)網(wǎng)信息服務(wù)算法備案申請解讀的文章，如果您需要辦理互聯(lián)網(wǎng)信息服務(wù)算法備案或者想更多咨詢問題，請聯(lián)系大通天成在線客服。也可以撥打我們的電話13391522356。