近(jìn)日(rì)，國(guó)家(jiā)互聯網信息辦公室就(jiù←∏₽)《生(shēng)成式人(rén)工(gōng)智能(nénσ•g)服務管理(lǐ)辦法（征求意見(jiàn €<)稿）》（以下(xià)簡稱“辦法”）公開(kāi)征求意見(jià♦©↑"n)，引發廣泛關注。《規定》通(tōng↔αβ×)過系統性、創新性制(zhì)度設計(jì)，首次回應了(le)對(d±♥÷uì)深度合成服務的(de)管理(lǐ)要(yào)求，為(wèi)∞∑✘©互聯網信息服務深度合成的(de)規範發展提供了(le)基本遵循和(hé)合☆​法依據。

國(guó)內(nèi)首個(gè)AIGC監管辦法§↕将至

辦法提到(dào)，國(guó)家(jiā)支持人(rén ∑)工(gōng)智能(néng)算(suàn∑‌)法、框架等基礎技(jì)術(shù)的(d✘✔♣δe)自(zì)主創新、推廣應用(yòng)、國(guó)際合作(zu ↔φò)，鼓勵優先采用(yòng)安全可(kě)信的(de)軟×φ↑©件(jiàn)、工(gōng)具、計(jì)算(suàn)和(hé)數λ≈₹×(shù)據資源。其中辦法涉及的(de)生(shēng)成式人±​(rén)工(gōng)智能(néng)包括基于算(suà₽$n)法、模型、規則生(shēng)成文(wén)本、圖片、聲​±音(yīn)、視(shì)頻(pín)、代碼<€等內(nèi)容的(de)技(jì)術(shù™ ∞)。

辦法對(duì)利用(yòng)生(shēng© )成式人(rén)工(gōng)智能(néng)産品提供聊天和£÷λ(hé)文(wén)本、圖像、聲音(yīn)生(shēng)成等服務的‌€Ω≥(de)組織和(hé)個(gè)人(rén)（簡稱“提供者” λ）的(de)責任進行(xíng)了(le)規定。提供​≈者應當承擔該産品生(shēng)成內(n±'×∞èi)容生(shēng)産者的(de)責任、個(g ★‍è)人(rén)信息保護義務。利用(yòng)生(shēng)成式人(¶​rén)工(gōng)智能(néng)産品向公衆提供服務前，需按♣'₽≠規定向國(guó)家(jiā)網信部門(mén)申報(bào)安全✔•π↓評估。

此外(wài)，提供者需對(duì)預訓練數(shù)據、優化(huà)訓 ♦♣練數(shù)據來(lái)源的(de)合法性負責，對(duì)标注人≥¶(rén)員(yuán)進行(xíng)必要(yào)★≤₽∑培訓，明(míng)确并公開(kāi)其服務的(de)"¥适用(yòng)人(rén)群、場(chǎng)合、←φ₩ 用(yòng)途，對(duì)用(yòng)戶的(de)輸入信息和(hé)¥φ使用(yòng)記錄承擔保護義務。

對(duì)于生(shēng)成式人(rén)工(gōng)智能(néng★&×)産品，提供者需要(yào)按照(zhào)《互聯網信息服務深度合成管‌φ±©理(lǐ)規定》對(duì)生(shēng)成的(de)圖片、視(s∑>¶hì)頻(pín)等內(nèi)容進行(xíng)标識等。

《辦法》關鍵要(yào)點

治理(lǐ)原則——AI技(jì)術(shù)研發者應遵循《辦法》草(cǎ®×$‍o)案中的(de)治理(lǐ)原則。該原則部分(fēσδ®n)沿襲了(le)《數(shù)據安全法》相(xiàng)關內(nè↕∏≠​i)容，即提供生(shēng)成式AI産♣λα品或服務應當尊重社會(huì)公德、公序良俗、他(tā)人(rén)合☆ 法利益以及法律法規。《辦法》草(cǎo)案還(h‍¥ái)強調，利用(yòng)生(shēng♥​₹δ)成式AI生(shēng)成的(de)內(nèi)容應當避免歧視(sh∏γì)、尊重知(zhī)識産權并真實準确。此外✔∞(wài)，如(rú)防止算(suàn)法訓練中的(de)歧視(sh£"✔'ì)、避免不(bù)公平競争等算(suàn)法治理(lǐ)原則8也(y₩©ě)在《辦法》草(cǎo)案中得(de)到(dào)'★≤"了(le)呼應，體(tǐ)現(xiàn)‍÷了(le)我國(guó)為(wèi)實現(xiàn)數(shù)據δ×安全和(hé)個(gè)人(rén)信息保護社會(hα'₽εuì)責任9承諾的(de)不(bù)懈努力。這(zhè)些(xiē)原則σ ≠顯然值得(de)提倡，然而，對(duì)剛剛問(•‍ ∑wèn)世的(de)新興技(jì)術(shù)直接施加上(shàng)述責任✔♥→是(shì)否操之過急，依然是(shì)值得(de)討(tǎo)論↔≤α♠的(de)命題。

價值觀——除了(le)要(yào)求生(shēng)成內(nèi)容應當“體(t♠☆δǐ)現(xiàn)社會(huì)主義核心αδ→價值觀”以外(wài)，《辦法》草(cǎo)案還(♠✔₽‌hái)沿用(yòng)了(le)《網絡信息內★©★ε(nèi)容生(shēng)态治理(lǐ)規定》10中的(de≠α¶π)要(yào)求，禁止生(shēng)成其規定的(de)'✘←±違法內(nèi)容。與《辦法》草(cǎo)案相(xi‍♣± àng)似，其他(tā)國(guó)家(jiā)亦有(yǒu)将國(gu¶♠→ ó)家(jiā)安全、政治立場(chǎng)與商業(yè)聯系在一≠£€Ω(yī)起的(de)作(zuò)法。《辦≠®♥"法》草(cǎo)案一(yī)經實施，可(kě)能(nén✔∑g)為(wèi)跨國(guó)公司在應對(duì)各≥£§≈國(guó)差異化(huà)營商環境時(shí)增加挑戰。

守門(mén)人(rén)責任——生(shēng)成式AI企業(yè)₩↓應當承擔使用(yòng)其産品和(hé)服務生(s←↓hēng)成內(nèi)容的(de)內(nèi)容&¥生(shēng)産者責任。此外(wài)，《辦法》草∑ (cǎo)案進一(yī)步規定這(zhè)些(xiē)企業(yè)有(yǒ♠ ☆ u)義務指導用(yòng)戶進行(xíng)良性的(de)內£ ∞(nèi)容生(shēng)産。生(shēng)成式 '•AI企業(yè)是(shì)否應承擔內(nèi)容€®×₹生(shēng)産者責任這(zhè)一(yī)問(wèn)題實≈€λ質上(shàng)延續了(le)美(měi)國≤ (guó)和(hé)歐盟對(duì)社交媒體(tǐ€≈)平台是(shì)否需承擔用(yòng)戶內(nèi)容$∑σ責任的(de)漫長(cháng)討(tǎo)論，而反對(duì)方的‌>(de)主要(yào)論點是(shì)過于嚴格的(de)監管 <可(kě)能(néng)會(huì)遏制(zh'¥α×ì)技(jì)術(shù)發展。

安全評估——與網絡社交平台相(xiàng)似，生(shα←₽ēng)成式AI産品和(hé)服務應當接受網信辦的(dΩ♦‍e)安全評估11。由于安全評估的(de)γ↔範圍可(kě)能(néng)随著(zhe)産品和(hé)服務的(₽≈₩×de)技(jì)術(shù)細節而變化(h♠ ©uà)，人(rén)工(gōng)智能(néng)企業(yè)在進行( ×✘∑xíng)研發時(shí)需要(yào)格外(wài)注意安全評估的(d< "e)時(shí)間(jiān)和(hé)金(jīn)錢(qián₩¥↔±)成本。

透明(míng)度要(yào)求——《辦法》草(cǎo)案規定，在産品研制(zhì‍≤)中采用(yòng)人(rén)工(gōng)标☆ 注時(shí)，生(shēng)成式AI₩→的(de)提供者必須制(zhì)定清晰、具體(tǐ)、可(kě≈↓£)操作(zuò)的(de)标注規則，對(du©α•ì)标注人(rén)員(yuán)進行(xíng)必要(yà±∑¥×o)培訓，抽樣核驗标注內(nèi)容的(deε↓)正确性。此外(wài)，提供者還(hái)應當提供預訓練和☆♠≠×(hé)優化(huà)訓練數(shù)據的(de)來(lái)源、規模、類型、♥£質量等描述，以及基礎算(suàn)法和(hé)技(jì)術(shù)體↑→(tǐ)系等。生(shēng)成的(de)圖片、視(shì÷δ)頻(pín)等內(nèi)容還(hái)應當按照(zhào)《互聯網信息服務>♠≤深度合成管理(lǐ)規定》12進行(xíng∑©↑)标識，以避免公衆的(de)混淆和(hé)誤認。透明(míng)度的(©♦≥de)要(yào)求在受到(dào)用(yòng)戶的(de)歡迎的Ω∏(de)同時(shí)，也(yě)将給研發者帶來(lái)沉重★§的(de)合規負擔和(hé)披露要(yào¥₹)求，可(kě)能(néng)會(huì)增加研π©發者潛在的(de)商業(yè)秘密洩露風(fēn¥'​→g)險。

實名制(zhì)——與互聯網領域的(de)其他(tā)規則13相(xiàng)一(yī)☆£緻，生(shēng)成式AI用(yòng)戶必須實名注≈‍λ冊。關于實名制(zhì)，國(guó)家(jiā)在平衡互聯網監管與≤→≤★個(gè)人(rén)隐私保護的(de)長(cháng)期實踐£♣中形成的(de)做(zuò)法是(shì)将用(yòng)戶的(de)真β₽實身(shēn)份信息與手機(jī)号碼綁定，而互聯網服務∞≤提供者通(tōng)過手機(jī)号碼核實用(yòng)戶★‍™∞的(de)真實身(shēn)份。

社會(huì)責任——提供者應當采取适當措施以防範用(yòng)戶過∞λ分(fēn)依賴或沉迷生(shēng)成內(nèi)容。目前"∏≥互聯網實行(xíng)的(de)防沉迷機(jī)÷β制(zhì)于2021年(nián)引入，<✘↔γ一(yī)經生(shēng)效便對(duΩ×ì)網絡遊戲行(xíng)業(yè)14産<&≥✘生(shēng)了(le)極大(dà)的(de)沖擊。但♥♣δ→(dàn)目前尚不(bù)清楚生(shēng)成式A∑± I提供者是(shì)否同樣需要(yào)在其✔​産品中嵌入類似的(de)防沉迷機(jī)π±制(zhì)以限制(zhì)易受影(yǐng)響群體(tǐ)的(de)使用(y₹÷π↑òng)。

用(yòng)戶畫(huà)像和(hé)數(shù)據共÷♦≈→享——用(yòng)戶畫(huà)像和(hé)人(rén)工(gōng×$)智能(néng)平台與其關聯實體(tǐ)之間(jiān)的×±≈$(de)數(shù)據共享被明(míng)确禁止☆♠♥。雖然這(zhè)一(yī)禁止有(yǒu)利γ 于隐私保護，但(dàn)該做(zuò)法可(kě)能(néng♦"‌)會(huì)增加生(shēng)成式AI企業" (yè)的(de)研發成本，并減少(shǎo)企業(yè)利用∏☆(yòng)用(yòng)戶行(xíng)為(wèi)數(sh±λσù)據集獲利的(de)機(jī)會(huì)。

投訴渠道(dào)——與《個(gè)人(rén)信息保護法》和(hé)中國(guó)《民(∞₹" mín)法典》的(de)要(yào)求相(xiànδ×←₩g)似，《辦法》草(cǎo)案規定生(shēng)"♥成式AI的(de)提供者應當建立用(yòng)戶投訴接收處理(lǐ)¶¶機(jī)制(zhì)。完備的(de)人(rén ✔÷γ)工(gōng)智能(néng)平台一(yī)般已經¥≤ £設置了(le)熱(rè)線電(diàn)話(huà)和₽∏(hé)客服政策，但(dàn)初創企業(yè)則相(xiàng)應背上(shà♦"✘ng)了(le)較重的(de)合規負擔。

持續性要(yào)求——《辦法》草(cǎo)案要(yào)求提供者提供“持續”的(de)服↑€↓≤務。這(zhè)一(yī)要(yào)求與傳統電(diàn)信γ↓≤¥行(xíng)業(yè)的(de)要(yào)求相(xiàng)似，即要(↕☆€☆yào)求服務始終能(néng)夠正常使用(yòng   )。對(duì)此的(de)一(yī)種Ω≠解釋是(shì)，網信辦希望将生(shēng)成式AI服務建設為(wèi)一(>®yī)項公共基礎設施，以此推動中國(guó)數(s→≠☆hù)字化(huà)進程，并希望能(néng)夠取得(de)突破性進展。↓÷δ這(zhè)一(yī)要(yào)求雖然對(duì)用(yòng)戶有(α✔σyǒu)利，但(dàn)對(duì)初創企業(yè)來(lá$↔↓™i)說(shuō)則非常困難。

模型優化(huà)——如(rú)果發現(xiàn)生(shēβ↑​ng)成內(nèi)容違反了(le)《辦法》草(cǎo)案，提供者必須在←←三個(gè)月(yuè)內(nèi)找到(dào)解決方案，防止該 β‍內(nèi)容再次生(shēng)成。這(zhè)©♠‍φ一(yī)規定對(duì)于人(rén)工(gōng)智能(néλ≤™ng)産業(yè)的(de)發展具有(yǒu)積極↓↔±意義。該寬限期可(kě)以解讀(dú)為(wèi)，網α±∞♥信辦在違規企業(yè)采取內(nèi)容過濾措™φ施和(hé)其他(tā)補救行(xíng)動的(de)前 δ提下(xià)，有(yǒu)意願允許企業(yè® ∑)繼續進行(xíng)生(shēng)成式AI的(de)研發。αΩγ

處罰——提供者違反《辦法》草(cǎo)案規定的(de)，按照(zhào)≤&《網絡安全法》《數(shù)據安全法》《個(gè)人(ré♠¶‌n)信息保護法》《刑法》等法律、行(xíng)政法規予以處罰。‍β‍法律、行(xíng)政法規沒有(yǒu)規定的(de)，由網信π±₽≈部門(mén)和(hé)有(yǒu)關主管部門(£÷mén)依據職責予以處罰，罰款範圍在人(ré'™n)民(mín)币一(yī)萬元以上(shàng)十萬元以下(xià)。

巨龍智立方數(shù)據建模平台

智立方，是(shì)一(yī)款适應各類主✔✘​♦流大(dà)數(shù)據技(jì)術(shù)的(de)一(yī£>)站(zhàn)式可(kě)視(shì)化(hu÷∑à)建模服務平台。基于核心大(dà)數(sh≤‌♦↔ù)據建模技(jì)術(shù)的(de)積累，采用(yòng)知(zhī$"×)識圖譜建模、特征工(gōng)程、機(jī)器(qì)學習(xí>✔₹$)、深度學習(xí)等技(jì)術(shù)，對(duì)數(shù)據←×進行(xíng)分(fēn)析與挖掘，提煉業(yè)務信息和(φ&∑hé)業(yè)務知(zhī)識，構建行(xín"₹‌§g)業(yè)專業(yè)知(zhī)識圖譜，實現(xiàn)¥$∑ε業(yè)務智能(néng)化(huà)場(λβchǎng)景的(de)賦能(néng)和(hé)業(yè)務價值±∏§→輸出。