AIGC背景下新聞真實性問題研究

AIGC全稱為AI　Generated　Content,指的是人工智能生成內(nèi)容,其核心創(chuàng)作者是人類研究開發(fā)的人工智能模型。AIGC的出現(xiàn)極大提升了新聞生產(chǎn)效率,但同時也給新聞傳播內(nèi)容的真實性帶來了嚴峻挑戰(zhàn),包括可能會讓新聞受眾產(chǎn)生誤認,影響社會和諧穩(wěn)定,因此需要采取一定防范控制措施。文章將對AIGC背景下新聞真實性問題展開分析,旨在提出相關應對策略,以期為相關領域研究和實踐提供借鑒。

　　一、AIGC背景下新聞真實性問題

　　(一)新聞傳播信息源的模糊與不可追溯

　　在現(xiàn)代新聞生產(chǎn)實踐工作中,一些工作者會選擇采用生成式AI技術(shù),這樣能夠大大提升新聞生產(chǎn)速度,并生成豐富多元的新聞報道內(nèi)容。然而實際情況是,這些數(shù)據(jù)源存在著復雜多樣的現(xiàn)實問題,無法進行全面準確核查,這樣一來就無法切實保障新聞傳播信息的質(zhì)量和真實性,進而給受眾帶來錯誤的傳播信息。與傳統(tǒng)新聞編輯報道相比,AIGC生成的新聞無法做到完全可靠的信息溯源,其內(nèi)容很多是憑空想象而來的,無法為受眾提供真實原始的信息來源,加大了受眾對傳播新聞真實性的驗證難度,同時也會給新聞媒體的權(quán)威性帶來打擊。新聞傳播內(nèi)容的真實性和可信度,關乎整個社會的穩(wěn)定發(fā)展,信息源的模糊和不可追溯容易引發(fā)社會信任危機。

　　(二)新聞傳播信息的形態(tài)失真

　　AIGC的運行離不開生成式AI技術(shù),尤其是深度學習算法和大型預訓練模型。當平臺用戶給出一個指令時,AI模型會結(jié)合自身學習到的知識和收集掌握的數(shù)據(jù)信息,自動高效生成符合該指令的相關內(nèi)容。然而一旦算法存在缺陷或者數(shù)據(jù)存在偏差等問題,就容易導致AI生成與事實不符的新聞,進而給受眾傳遞錯誤的新聞信息。相關工作者在設計時出現(xiàn)邏輯錯誤、訓練數(shù)據(jù)不足等,都會導致AIGC生成錯誤的信息內(nèi)容。數(shù)據(jù)偏差則是因為數(shù)據(jù)收集過程中出現(xiàn)滯后的數(shù)據(jù)信息,或者是數(shù)據(jù)被污染。

　　二、AIGC背景下新聞真實性問題的應對策略

　　(一)加強人機協(xié)同治理,提升新聞內(nèi)容質(zhì)量

　　AIGC背景下,為了解決新聞生成報道的真實性問題,需要主動加強人機協(xié)同治理工作,有效提升新聞內(nèi)容質(zhì)量。首先,要構(gòu)建人機系統(tǒng)反饋機制,收集整理用戶對AIGC生成新聞內(nèi)容的反饋意見,并將其作為輸入數(shù)據(jù),持續(xù)優(yōu)化改善算法模型,這樣不僅能夠提高AIGC生成新聞質(zhì)量,還可以滿足用戶的相關需求。其次,要建立人機協(xié)同的內(nèi)容審核流程,明確新聞工作者和人工智能在內(nèi)容審核中的角色和責任,其中新聞工作者要避免直接照搬應用AIGC生產(chǎn)內(nèi)容,而是需要進行深入理解和判斷,剔除掉虛假夸大的新聞信息,并反饋給平臺。人工智能則需要承擔起初步篩選和輔助分析的責任,提高內(nèi)容審核的準確性。最后,要以人機協(xié)同方式不斷優(yōu)化算法模型,一方面相關工作者要根據(jù)領域知識和經(jīng)驗,為算法模型提供合適的參數(shù)配置；另一方面平臺需保證人工智能可以自動調(diào)整和優(yōu)化模型,更好地適應訓練數(shù)據(jù),提升AIGC生成新聞內(nèi)容的準確性。平臺管理者需主動加強對人工審核者的培訓工作,組織相關工作者參與專業(yè)培訓學習活動,不斷提高他們的業(yè)務能力與職業(yè)素養(yǎng),促使其能夠履行好自身的崗位職責,對AIGC生成發(fā)布的內(nèi)容做出正確的理解和判斷。

　　(二)完善AIGC使用規(guī)范,建立專業(yè)監(jiān)管機制

　　2023年7月,我國網(wǎng)信辦出臺了首個AIGC監(jiān)管規(guī)定《生成式人工智能服務管理暫行辦法》,該辦法明確提出生成式人工智能服務提供者要“采取有效措施提高訓練數(shù)據(jù)質(zhì)量,增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性”等要求,同時還強調(diào)了生成式人工智能服務提供者的權(quán)利和義務。國家有關部門須結(jié)合AIGC使用發(fā)展情況,合理制定AIGC生成內(nèi)容的審核標準與發(fā)布流程,確保發(fā)布到平臺的任何新聞內(nèi)容都是經(jīng)過嚴格審核的。此外,要有效明確AIGC的適用范圍與限制,劃清AIGC能夠應用的具體領域和場景。以新聞出版領域為例,要明確規(guī)定應用AIGC時所需的數(shù)據(jù)質(zhì)量和多樣性要求,切實保障輸入數(shù)據(jù)的真實性、準確性以及多樣性,符合國家相關標準和要求。有關部門還需建立專業(yè)監(jiān)管機制,安排專業(yè)人員負責對AIGC生成內(nèi)容進行監(jiān)控,一旦發(fā)現(xiàn)違規(guī)行為要及時采取處理措施,確保AIGC生成內(nèi)容的真實性。除此之外,有關部門還需制定關于AIGC數(shù)據(jù)安全和隱私保護的規(guī)定內(nèi)容,充分保障平臺模型及用戶數(shù)據(jù)能夠得到加密保護,避免出現(xiàn)重要數(shù)據(jù)信息泄露和濫用的情況,侵害相關主體的切身利益。

　　三、結(jié)語

　　綜上所述,在人工智能快速發(fā)展的時代背景下,AIGC的出現(xiàn)對新聞生成報道產(chǎn)生了深遠影響。新聞工作者在利用AIGC生成多樣化新聞內(nèi)容的同時,還要注意理解判斷新聞信息的真實可靠性。國家有關部門需要完善相關監(jiān)管政策內(nèi)容,明確相關主體的責任和義務,督促其嚴格按照法律法規(guī)操作,杜絕違法行為的發(fā)生。新聞媒體一方面要主動擁抱技術(shù)創(chuàng)新,一方面則需要加強AIGC內(nèi)容審核,培養(yǎng)更多優(yōu)秀的復合型人才。

文章來源：《經(jīng)濟導報》http://00559.cn/w/qt/35712.html