北京日報客戶端 | 記者 袁璐
輸入幾個關鍵詞,一副精美的二次元畫作就此誕生;設置好相應的口令,一個原本需要耗時數日的視頻不需要人工講解加剪輯,一鍵自動生成;選擇古風、都市等語言文風,加上幾句人物描述,一本小說快速誕生......
(資料圖片)
今年以來,以ChatGPT為代表的AI展現出超強的內容創作能力,AIGC(人工智能生成內容,又稱生成式AI)成了內容創作者新的生產力工具。但與此同時,一道新的考題也向內容社區平臺拋出——該如何甄別AIGC內容,防范虛假信息及可能的版權糾紛等問題?海量發布的AICG內容又是否符合法律要求和公序良俗?
“大模型誕生之后,內容安全風控是一個需要全鏈路考慮問題。”騰訊安全內容風控產品經理李鎬澤表示,目前市面上很多企業正在各個階段進行一些安全處理的防范。比如模型訓練階段,一是數據標注要求剔除高風險、違規的數據,保證投給模型的數據樣本是真實的。二是訓練過程中要保證大模型更有連貫性、邏輯性,質量穩定,最后是審核把關產出結果,去掉高風險內容。
業內對AIGC內容安全的擔憂并非空穴來風。記者注意到,今年5月,甘肅公安官方公眾號通報稱,甘肅省平涼市公安局網安大隊成功偵破了一起利用AIGC制造虛假新聞的案件。4月25日,平涼市公安局崆峒分局網安大隊對“今晨甘肅一火車撞上修路工人致9人死亡”的文章,初步判斷為信息虛假不實,經查,某自媒體作者洪某弟使用“易撰”網頁版和ChatGPT,搜索并修改編輯近幾年的社會熱點新聞,通過“海豹科技”軟件上傳至其購買的百家號上非法獲利。
記者注意到,目前多個內容社區平臺要求創作者明確標注AI生成內容。如知乎要求創作者發布 AI 輔助創作內容時,需要在內容上進行顯性聲明,并為所發布的內容負責。抖音發布也要求發布者對人工智能生成內容進行顯著標識,統一的官方“水印”。
不過,騰訊安全天御研發工程師周維聰對記者坦言,目前在應對AIGC內容合規問題方面,業內仍面臨不少挑戰。一是AIGC內容審核量巨大,“各行各業的人,都能使用AI能力去生產他想要的內容,UGC(用戶生產內容)和PGC(專業生產內容)的界限大大模糊。”二是AIGC內容形態復雜多樣,部分血腥、色情、暴力的內容可能以暗喻隱晦的形式表達,比如二次元漫畫中的藝術處理。三是部分AIGC內容相當專業,對泛內容審核機制帶來挑戰。四是部分AIGC應用場景對實時性要求較高,如何快速、準確的審核內容也是一大難點。
值得注意的是,周維聰提到了一個全新的內容安全攻防趨勢——“套話”大模型再“反套路”。
“我們在服務不少企業的過程中發現,用戶在使用‘類ChatGPT’產品時,會故意提出大量誘導性提問互動,有意引導大模型生成違規內容。”周維聰表示,之后用戶可能通過拆分字詞、使用拼音字、利用文字間隔等嘗試尋找大模型有關違禁規則的漏洞。
“要實現全鏈路數據達標,需要密切關注數據標注、數據審校等不同環節的數據生成質量。同時要重視提前預防。”周維聰稱,AIGC有數據量極大、傳播速度極快等特點,不能只寄希望于事后防御,還應提高數據訓練、數據生成、數據傳輸等過程中的風險防范意識。
相關監管政策也正在不斷完善。4月11日,國家互聯網信息辦公室發布關于《生成式人工智能服務管理辦法(征求意見稿)》公開征求意見的通知,規定AIGC內容不得含有暴恐、低俗、歧視、侵權等違法違規內容,明確提出“利用生成式人工智能生成的內容應當真實準確,采取措施防止生成虛假信息”。
標簽:
- AIGC向內容進軍,社區平臺如何打響安全保衛戰?
- 當前視訊!游園進入旺季,北京各公園動態調整放票量,退票及時回填票池
- 高陽縣農發行不斷加強行風行貌提升工作|焦點短訊
- 工行廊坊大城支行著力提升老年客戶綜合服務能力 環球速遞
- 農發行土右旗支行開展預防新型洗錢風險防范金融犯罪主題宣傳活動
- 工行保定徐水支行開展“守住錢袋子 護好幸福家”防范非法集資宣傳月活動_熱資訊
- 環球快播:農發行太仆寺旗支行積極開展普及金融知識萬里行活動
- 速看:聯絡互動(002280.SZ):目前公司資產價值遠大于負債金額
- 環球簡訊:上海理工大學信息門戶(上海理工大學好不好)
- 精彩看點:數據結構及應用算法教程課后答案(數據結構及應用算法教程)
- 焦點要聞:釀酒師兼顧問創辦了自己的葡萄酒咨詢業務
- 【天天新視野】【世界計劃 多彩舞臺】3π:pjsk集1(主一咲)
- 快資訊:上午恰最新鮮的小可愛【902】
- 古爾邦節假期全疆接待游客近950萬人次
- 李大霄:6月財新PMI50.5好于預期 紅彤彤的七月是可以期待的
- “畢業歌”唱響未來
- 經濟日報金觀平:現代化產業體系要融合發展
- 2023年三河市燕橋學校高中部招生簡章(附招生分數及錄取要求)_世界快播報
- 云南羅平九龍瀑布景區沿線圍擋已全部拆除 環球熱文
- 官方通報男孩被3人逼迫吃糞便:公安機關已經立案,雙方家長已達成和解
- 環球看點!上海豪宅1.58億成交 買家身份曝光 或是得物創始人楊冰
- 廣西百色應急局回應油罐車墜橋起火:以官方通報為準
- 韓議員組團去市場喝養殖池海水 被批“魚”都覺得荒唐 環球看點
- 衢州市貿促會舉辦“合規服務進企業”(開山集團專場)活動
- 每日消息!“音”“美”送教 同研共富
- 尋釁滋事罪一定會判實刑嗎?_每日聚焦
- 微速訊:中央政法委發布見義勇為勇士榜!跳橋救人外賣小哥上榜
- 堅持高溫作業,能給環衛工人配上“空調背心”嗎
- 兩部門研判:7月份這些地方供水、供電形勢偏緊
- 中央氣象臺:華北、黃淮的高溫今明兩天減弱,后天增強-每日焦點
- 1 AIGC向內容進軍,社區平臺如何打響安全保衛戰?
- 2 當前視訊!游園進入旺季,北京各公園動態調整放票量,退票及時回填票池
- 3 焦點要聞:釀酒師兼顧問創辦了自己的葡萄酒咨詢業務
- 4 【天天新視野】【世界計劃 多彩舞臺】3π:pjsk集1(主一咲)
- 5 快資訊:上午恰最新鮮的小可愛【902】
- 6 2023年三河市燕橋學校高中部招生簡章(附招生分數及錄取要求)_世界快播報
- 7 微速訊:中央政法委發布見義勇為勇士榜!跳橋救人外賣小哥上榜
- 8 堅持高溫作業,能給環衛工人配上“空調背心”嗎
- 9 兩部門研判:7月份這些地方供水、供電形勢偏緊
- 10 中央氣象臺:華北、黃淮的高溫今明兩天減弱,后天增強-每日焦點




