由人民網(wǎng)主辦的“智融未來——2023人工智能成果展示會”近日在武漢精彩演繹。展示會上，來自傳播內(nèi)容認知全國重點實驗室的相關(guān)負責人介紹了生成式人工智能合規(guī)性評估體系和語料庫的建設情況。

目前，主流價值語料庫的建設取得了階段性進展，已完成3000多萬篇基礎(chǔ)語料、5萬多道問答語料的建設工作。相關(guān)工作成果助推了國產(chǎn)人工智能大模型的安全、規(guī)范和可持續(xù)發(fā)展，為生成式人工智能領(lǐng)域提供了更多的規(guī)范和參考。

為何要群力群策建設這樣一個主流價值語料庫？人民日報社傳播內(nèi)容認知全國重點實驗室首席科學家張勇東在接受人民網(wǎng)采訪時表示，在人工智能時代，媒體的重要職責之一就是保證意識形態(tài)的安全。當前，人工智能大模型已經(jīng)成為一種生成式信息傳播工具，因此對于大模型價值觀的訓練是必要的。“訓練人工智能大模型的過程就像培養(yǎng)一個小孩，你從小怎樣培養(yǎng)他，在什么環(huán)境下去培養(yǎng)他，他將來就成為什么樣的人。”主流媒體建立符合中國人自己價值觀的語料庫，就是對其“成長環(huán)境”的一種塑造。

當前，生成式人工智能技術(shù)（AIGC）發(fā)展迅猛，不僅能夠應用于文字，更是在視頻、音頻等多領(lǐng)域?qū)崿F(xiàn)突破。那么，媒體行業(yè)在利用AIGC技術(shù)提高生產(chǎn)力的同時，如何防范別有用心者用其制造假新聞，傳播假消息？

張勇東認為，保證新聞的真實性，一直以來都是媒體的重要職責。人工智能技術(shù)生成的內(nèi)容偽裝性和欺騙性都很強，的確有可能會導致更多的虛假內(nèi)容產(chǎn)生。“因此，我們要用AI對抗AI。”基于一些防御性人工智能技術(shù)，首先判斷信息內(nèi)容是否為人工智能技術(shù)生成，向用戶發(fā)出預警。另外，隨著主流價值語料庫的規(guī)模不斷擴大，還能夠通過人工智能技術(shù)將存疑信息與語料庫內(nèi)數(shù)據(jù)進行對比，從而幫助用戶判斷出信息是否與事實相符，若為謠言，還能夠列舉其中哪些信息點是錯誤的。

據(jù)了解，由傳播內(nèi)容認知全國重點實驗室主導，與中國科學技術(shù)大學、合肥綜合性國家科學中心人工智能研究院聯(lián)合推出的AI生成內(nèi)容檢測工具——AIGCX，可快速區(qū)分機器生成文本與人工生成文本，目前對中文文本檢測的準確率已超過90%。

分享讓更多人看到