AI生成內容鑒別技術取得新突破
2025年04月19日09:03 | 來源:人民網-《人民日報》

人民網杭州電 (記者竇瀚洋)隨著AI技術的廣泛應用,如何鑒別AI生成內容成為社會關注焦點。近日,浙江西湖大學自然語言處理實驗室研發的Fast—DetectGPT技術,為解決這一問題提供了新方案。該程序對GPT3.5、GPT4生成文本的識別率分別達到96%和90%,檢測速度較此前技術提升340倍。該團隊關於Fast—DetectGPT的私有大模型擴展Glimpse的論文已被今年4月將在新加坡舉行的2025國際表征學習大會收錄,Glimpse可以檢測26種語言的文本,並有更高的識別准確率。
團隊研發成員、西湖大學工學院副院長張岳介紹,當前AI生成內容的識別主要有監督分類器法、零樣本分類器法、水印法3種方式。監督分類器法要收集大量已知數據作分類學習,對未見過的模型生成文本識別率有所下降﹔水印法則是在生成文本時打上“記號”,但存在標記被人為弱化或移除的風險﹔Fast—DetectGPT屬於零樣本分類法,無需依賴訓練數據,適用性更廣。
團隊研發成員、西湖大學博士生鮑光勝介紹,所謂“生成”文本,就是機器通過上文來選擇下文,選擇依據是詞匯、句式等在數據集中的使用概率。基於AI與人類文本生成差異的原理,AI傾向於選擇高頻詞句,而人類寫作更具多樣性和邏輯泛化性,程序通過分析文本的“條件概率曲率”分布實現鑒別,“簡單地說,AI更懂AI,Fast—DetectGPT‘認出’了同類。”
《 人民日報 》( 2025年04月19日 06 版)
(責編:孫鵬、王麗瑋)
分享讓更多人看到
推薦閱讀
- 評論
- 關注