聚焦個人隱私與版權(quán)保護，警惕深度偽造濫用，探究“AI治理AI”新模式，堅持人本主義，是生成式人工智能風險治理的關(guān)鍵。

人工智能的創(chuàng)新應(yīng)用形塑社會互動模式。在信息傳播、醫(yī)療、交通、教育等場景中，人工智能成為社會互動的代理，促使人與人的互動越來越多地轉(zhuǎn)換成人機互動。智能技術(shù)重構(gòu)新聞傳播的業(yè)態(tài)和生態(tài)，深度嵌入信息獲取和決策過程，影響公眾的社會闡釋框架。

作為社會的信息傳遞基座，新聞傳播業(yè)在接受人工智能技術(shù)賦能的同時，也成為人工智能風險生成、擴散和演變的關(guān)鍵場域。自2022年以來，人工智能的內(nèi)容生成和交互水平取得突破性進展。人工智能聊天機器人程序ChatGPT、人工智能圖片生成平臺Midjourney和文生視頻大模型Sora等生成式人工智能出現(xiàn)，掀起內(nèi)容生產(chǎn)和信息消費熱潮。生成式人工智能的數(shù)據(jù)訓練、程序設(shè)計和生成結(jié)果應(yīng)用等環(huán)節(jié)，也可能產(chǎn)生“被制造的風險”（manufactured risks），[1]涉及人機關(guān)系、深度偽造、產(chǎn)業(yè)變革等多個維度。

一、新聞傳播業(yè)對人工智能的創(chuàng)新采納

人類歷史從根本上是人與物、物與物糾纏的歷史。[2]人與技術(shù)物的關(guān)系大致有具身關(guān)系、詮釋關(guān)系、它異關(guān)系和背景關(guān)系四種，[3]技術(shù)物是身體認知的放大器，也是人類觀察、理解和操縱世界的中介，可以作為它者或準它者與人類共存，也可以融為生活環(huán)境的一部分，潛移默化地發(fā)生作用。作為一類技術(shù)物的人工智能與人類展開長期的互動實踐，新聞生產(chǎn)和傳播實踐就是其中之一。從數(shù)據(jù)處理到信息分發(fā)再到內(nèi)容生成，人工智能成為新聞傳播業(yè)的創(chuàng)新驅(qū)動力和生產(chǎn)力。

（一）人工智能的發(fā)展：“類人”化與“類物”化

無論是將人工智能視作“工具”還是“潛在的合作伙伴”，公眾對它的存在已習以為常。人工智能發(fā)展和應(yīng)用是基于不可見的基礎(chǔ)設(shè)施支撐體系，包含計算、存儲、網(wǎng)絡(luò)硬件等硬件基礎(chǔ)設(shè)施體系和多樣化的機器學習框架、算法以及相關(guān)工具軟件、PaaS平臺、服務(wù)等軟性基礎(chǔ)設(shè)施體系。近年來，人工智能的研發(fā)致力提升人工智能與人類社會的適配性，沿著“類人”和“類物”兩個方向使人工智能融入社會的過程“自然化”。[4]所謂的“類人”，是指不斷豐富人工智能算法模型的情感和心理維度，如通過分析文字詞頻、音頻文本中的聲調(diào)語速、圖像文本中的面部表情特征等推測情感類型。所謂的“類物”是將易于交互的人工智能物嵌入人類熟悉的場景，如家庭生活場景中的育兒機器人、養(yǎng)老護理機器人和智能音箱等。

（二）智能化信息生產(chǎn)：人工智能成為生產(chǎn)主體

人工智能在不同場景中“類人”和“類物”的應(yīng)用發(fā)展，也包括對傳統(tǒng)信息生產(chǎn)流程的重構(gòu)。繼專業(yè)生產(chǎn)內(nèi)容（PGC）和用戶生產(chǎn)內(nèi)容（UGC）后，人工智能生成內(nèi)容（AI-Generated Content, AIGC）成為一種新型內(nèi)容。作為一個復(fù)合型概念，人工智能生成內(nèi)容“既是從內(nèi)容生產(chǎn)者視角進行分類的一類內(nèi)容，又是一種內(nèi)容生產(chǎn)方式，還是用于內(nèi)容自動化生成的一類技術(shù)集合”[5]。而生成式人工智能（Generative Artificial Intelligence, GAI）是指通過復(fù)雜的算法和模型對大規(guī)模數(shù)據(jù)進行集中學習，具有“文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”[6]，是“根據(jù)人類制定的規(guī)則訓練而成的有立場、一定程度上受控的智能內(nèi)容生成工具”[7]。在狹義上，人工智能生成內(nèi)容是生成式人工智能參與生產(chǎn)的結(jié)果，但生成式人工智能更聚焦于技術(shù)、模型和工具。

生成式人工智能可以完成多模態(tài)文本轉(zhuǎn)換，還能模仿人類的不同情緒口吻來輸出內(nèi)容。目前，按照任務(wù)類型劃分，傳媒機構(gòu)生成式人工智能的應(yīng)用形態(tài)有寫作機器人、數(shù)智記者和AI主播等。人工智能在災(zāi)害事件（地震和暴雨等）、天氣預(yù)報、財經(jīng)、體育等垂直領(lǐng)域的報道方面，具有明顯的時效性優(yōu)勢。包含生成式人工智能在內(nèi)的人工智能，將記者從轉(zhuǎn)錄、翻譯、校對等流程性工作中解放出來。傳媒機構(gòu)希望利用智能工具提升生產(chǎn)力，放大人類記者在新聞深度和事實核查等方面的獨特優(yōu)勢，發(fā)展解釋性報道和建設(shè)性新聞，進而鞏固行業(yè)邊界。

（三）智能化信息分發(fā)：從個性化走向定制化

人工智能應(yīng)用于平臺型媒體，以場景化、個性化的智能算法分發(fā)滿足用戶需求。通過收集用戶的個人信息數(shù)據(jù)和使用數(shù)據(jù)，智能算法分析總結(jié)出不同的用戶畫像，根據(jù)歷史偏好、相似群體偏好以及社交關(guān)系進行推薦。同時，平臺算法會根據(jù)用戶的點擊量、閱讀時長、完播率、個性化設(shè)置等不斷調(diào)整內(nèi)容推薦模式。

生成式人工智能實現(xiàn)跨平臺內(nèi)容聚合和分析，還能根據(jù)用戶需求提煉總結(jié)出核心關(guān)鍵信息，產(chǎn)出定制化內(nèi)容。因此，生成式人工智能有望發(fā)展成為“下一代網(wǎng)絡(luò)入口”，[8]也將再次改變內(nèi)容分發(fā)邏輯。

（四）智能化內(nèi)容呈現(xiàn)：從“認知新聞”到“體驗新聞”

人工智能豐富新聞呈現(xiàn)形式，推動“認知新聞”向“體驗新聞”轉(zhuǎn)變。面對新聞回避和新聞疲勞的雙重挑戰(zhàn)，新聞業(yè)轉(zhuǎn)型的重要策略是進一步增加音視頻形態(tài)的新聞數(shù)量，[9]以滿足用戶需求。新聞的數(shù)據(jù)可視化、碎片化、視頻化等趨勢，豐富了新聞閱讀體驗。2023年，安徽寒潮來襲時，大皖新聞的數(shù)智記者“小朱姐”迅速上鏡播報，省略拍攝場地準備、妝造彩排等步驟，保障了新聞的時效性。川觀新聞的數(shù)字記者矩陣包含20個真人記者的數(shù)字分身，可以充分發(fā)揮多線程播報的優(yōu)勢，提升內(nèi)容生產(chǎn)效率。

近期發(fā)布的Sora類文生視頻模型，引發(fā)使用生成式人工智能進行時空模擬和時空再造的豐富想象。Sora雖然在新聞現(xiàn)場采集、新聞?wù){(diào)查和信源核實等方面有缺陷，但能夠幫助記者還原一些“難以重回的現(xiàn)場”或制作便于理解和傳播的解釋性影像，提升新聞覆蓋率和受眾參與度。

未來，生成式人工智能和AR/VR等技術(shù)結(jié)合，將會以逼真的感官體驗和自由設(shè)定，讓用戶沉浸式體驗各類新聞場景。此外，生成式人工智能還能對新聞內(nèi)容作出調(diào)整，以滿足不同用戶群體的閱讀習慣偏好。新聞閱讀程序“Artifact”，可以用不同的風格總結(jié)用戶感興趣的文章內(nèi)容，將其改寫成Z世代喜愛的風格或一系列便于在社交媒體傳播的表情符號。智能社會與圖像社會疊加，使世界更加趨于圖像化、影像化。用戶的認知模式也隨之轉(zhuǎn)變，從借助全面、客觀、深度的信息進行“認知”轉(zhuǎn)向習慣于通過影像和主觀情感聯(lián)想進行“體驗”。

（五）智能化內(nèi)容治理：用AI治理AI

虛假信息的生產(chǎn)傳播是人類社會存在的長期問題之一。事實核查主體和技術(shù)變遷主要經(jīng)歷了三個階段：傳統(tǒng)的新聞事實核查；基于大數(shù)據(jù)、區(qū)塊鏈等智能技術(shù)的事實核查；用AI治理AI的事實核查。

一是傳統(tǒng)的新聞事實核查。傳統(tǒng)的事實核查依賴人力核實新聞信源與經(jīng)過，主要由職業(yè)新聞從業(yè)者完成，所需時間和人力成本較高。

二是基于大數(shù)據(jù)、區(qū)塊鏈等智能技術(shù)的新聞事實核查。大數(shù)據(jù)和區(qū)塊鏈技術(shù)出現(xiàn)后，人們能夠通過爬梳并分析信息來源的賬號特征、文本特征、傳播路徑特征等信息，開展數(shù)據(jù)管理、追蹤和溯源，核實信息真實性。新冠疫情期間，社交媒體上混合著大量有關(guān)疫情擴散與治療的信息，淹沒了可信任的信息來源，影響公眾的健康認知和決策，形成“信息疫情”。[10]大數(shù)據(jù)和區(qū)塊鏈技術(shù)以分析高效、難篡改、易追蹤等優(yōu)勢，為真實防疫信息的共享和傳遞提供技術(shù)支撐。

三是用AI治理AI的新聞事實核查。人工智能推動事實核查進入新的發(fā)展階段，各國傳媒機構(gòu)和科技公司逐步探索“AI治理AI”模式。國際事實核查網(wǎng)絡(luò)（IFCN）等組織以及相關(guān)主題國際會議，推動全球事實核查創(chuàng)新運動的制度化發(fā)展。其中，機器作為行動者的角色受到重視。谷歌DeepMind團隊和斯坦福大學研究人員開發(fā)的搜索增強事實評估器（Search-Augmented Factuality Evaluator, SAFE），可通過大型語言模型分解聊天機器人生成的文本，再分別核查其中所涉及的事實信息準確性。相較于文字文本的核查，音頻檢測工具的發(fā)展應(yīng)用相對滯后。美國西北大學計算機科學教授蘇夫拉曼尼（V.S. Subrahmanian）開展人工智能音頻檢測實驗，測試了14種現(xiàn)有、免費且公開的音頻深度偽造檢測工具，結(jié)果卻不盡如人意。盡管目前使用AI工具識別深度偽造內(nèi)容的難度較大，但構(gòu)建行動者網(wǎng)絡(luò)、開展人機協(xié)同、“AI治理AI”仍是發(fā)展趨勢。

二、人工智能技術(shù)的媒體采納帶來的行業(yè)焦慮

機器主體的參與給人類記者帶來職業(yè)發(fā)展憂慮。生成式人工智能融入新聞生產(chǎn)場域的過程，不是簡單的“技術(shù)使用”，而是人類行動者與非人類行動者間的交互、協(xié)商與磨合。[11]面對新技術(shù)的沖擊，身處生產(chǎn)一線的記者和編輯能更加敏銳地捕捉到人機權(quán)力關(guān)系的變化與職業(yè)邊界的流動。組織、制度、文化變革往往會滯后于技術(shù)采納，形成一段與技術(shù)發(fā)展不相匹配的轉(zhuǎn)型陣痛期。因此，面對生成式人工智能嵌入導(dǎo)致的新聞生產(chǎn)工作常規(guī)重構(gòu)、組織機制變革、新聞文化重塑，不少一線從業(yè)者表現(xiàn)出不同于機構(gòu)管理層的懷疑和冷漠，甚至是抗拒和抵制。[12]作為傳播主體的機器改變了以人為主體的傳播生態(tài)。記者與編輯要應(yīng)對行業(yè)內(nèi)外的雙重壓力，迎接包含機器生產(chǎn)者在內(nèi)的多元主體的挑戰(zhàn)。

生成式人工智能及相關(guān)技術(shù)的發(fā)展帶來高階智能社會的迷思。ChatGPT和Sora等便于交互、面向公眾的生成式人工智能出現(xiàn)，帶動新的內(nèi)容創(chuàng)作和消費方式流行。在Sora發(fā)布的女性漫步東京街頭的視頻中，人物在布滿霓虹燈牌和廣告牌的街頭走動，五官和肢體動作都較為自然。盡管Sora生成視頻中還存在著細節(jié)處理不夠精細、自然規(guī)律和文化理解錯位、敘事邏輯斷裂等問題，它仍然承載著公眾對于高階智能社會的想象。

生成式人工智能的應(yīng)用加劇新聞傳播從業(yè)者的職業(yè)技能恐慌。生成式人工智能通過人機交互來產(chǎn)出內(nèi)容，因此需要國家、群體或個體具備一定的數(shù)字資源調(diào)用能力。生成式人工智能可以根據(jù)指令實現(xiàn)多模態(tài)文本轉(zhuǎn)換，進一步降低了生產(chǎn)門檻，但也考驗著使用者自身的綜合素質(zhì)。自主性的提升常被認為具有賦權(quán)意味，例如提升個體傳播能力和彌合數(shù)字文明社會的能力溝，或是增強個體的知覺與連接能力等。[13]然而，技術(shù)擴散會受到社會資本不平等的制約。“技術(shù)帶來的特權(quán)越來越多地只屬于那些負擔得起的人，特別是當國家退出基礎(chǔ)設(shè)施和公共服務(wù)供給時。”[14]當前，生成式人工智能的賦能所需的前置條件涵蓋語言能力、創(chuàng)意能力、信息獲取能力、技術(shù)使用素養(yǎng)和可接入設(shè)備條件等多方面。

三、生成式人工智能應(yīng)用于新聞傳播業(yè)的多元風險

生成式人工智能的新形態(tài)嵌入新聞傳播業(yè)，不僅會改變新聞生產(chǎn)、分發(fā)和接收環(huán)節(jié)，也會推動相關(guān)制度和文化環(huán)境發(fā)生轉(zhuǎn)型。技術(shù)創(chuàng)新、制度創(chuàng)新與知識創(chuàng)新的時差，給新聞業(yè)帶來多元風險，并經(jīng)由信息傳播擴散至其他社會領(lǐng)域。

（一）數(shù)字信任危機：信息真實性和可靠性下降

生成式人工智能參與信息生產(chǎn)，導(dǎo)致人類生成的版權(quán)內(nèi)容與AI生成內(nèi)容混雜。生成式人工智能的模型訓練、內(nèi)容生產(chǎn)及生成物應(yīng)用環(huán)節(jié)，都存在著侵犯版權(quán)的風險，如未經(jīng)授權(quán)使用文本數(shù)據(jù)或者生成結(jié)果中模糊版權(quán)信息等。2024年2月，Raw Story、The Intercept、AlterNet等新聞機構(gòu)指控OpenAI及微軟的生成式人工智能刪除了文章作者和標題等版權(quán)識別信息。無版權(quán)識別信息的人類產(chǎn)出內(nèi)容與人工智能生成內(nèi)容一同出現(xiàn)在信息流當中，客觀上會對用戶產(chǎn)生誤導(dǎo)，干擾用戶對生成式人工智能可信度的判斷。

生成式人工智能加劇了深度偽造內(nèi)容泛濫。2024年初，世界經(jīng)濟論壇發(fā)布的《2024年全球風險報告》提出，“未來兩年全球十大風險”的首位是“人工智能生成的錯誤信息和虛假信息”。[15]以深度偽造的負面使用為代表，生成式人工智能正在危害公民和國家安全。ChatGPT出現(xiàn)后不久，就被發(fā)現(xiàn)用強大的文本處理能力來拼湊、編造虛假信息，對用戶“一本正經(jīng)地胡說八道”。相比之前的Pika、Runway等視頻生成模型，Sora生成視頻時長較長、分辨率較高且在多角度多景別的鏡頭變換中能夠保持一定的主體一致性。脫離了生產(chǎn)主體等背景信息，許多人工智能生成內(nèi)容看起來與人類生產(chǎn)的內(nèi)容極為相似，幾乎能夠以假亂真。作為深度偽造最典型的應(yīng)用，“AI換臉”和音頻深度偽造也被用于欺詐和侵權(quán)。普通用戶利用公開數(shù)據(jù)和生成工具，就可以輕易生成政治名人、娛樂明星甚至普通社交媒體用戶的有害內(nèi)容，侵犯其名譽權(quán)和隱私權(quán)。鑒別深度偽造內(nèi)容和控制其傳播的成本遠遠高于生成成本，被侵犯者常常難以自證。此前，有用戶故意使用Elevenlabs公司的軟件來制作傳播種族主義言論的明星發(fā)言視頻。深度偽造的負面使用不僅僅是用戶的個人行為，平臺的內(nèi)容篩選、信息分發(fā)等設(shè)計也會產(chǎn)生引導(dǎo)作用。相較于圖像/視頻深度偽造內(nèi)容，音頻的制作成本和技術(shù)門檻更低，且缺少視覺線索，增加了鑒別難度。2024年1月，新奧爾良街頭魔術(shù)師保羅·卡彭特（Paul Carpenter）只花了20分鐘和1美元，偽造了美國總統(tǒng)拜登勸阻民主黨人投票的音頻。深度偽造音頻常常通過電話而非在線播放的形式傳播，其內(nèi)容難以被暫停、回放、留存和截取片段分析。

生成式人工智能的應(yīng)用，使“后真相”征候更加嚴重。傳統(tǒng)新聞生產(chǎn)中，新聞現(xiàn)場的人、物、環(huán)境等諸多要素，既是啟發(fā)記者進行個性化表達的靈感來源，也是新聞?wù)鎸嵭缘淖糇C。記者的身體在場和專業(yè)素養(yǎng)使現(xiàn)場變?yōu)樾侣劕F(xiàn)場，“將各類事情轉(zhuǎn)化為新聞事件”。[16]隨著互聯(lián)網(wǎng)成為信息傳播基礎(chǔ)設(shè)施，新聞傳播主體范圍拓展至非專業(yè)新聞機構(gòu)、普通社會個體甚至是機器。UGC和AIGC生產(chǎn)模式普及開來，使新聞生產(chǎn)規(guī)范受到?jīng)_擊。監(jiān)控攝像頭和各類傳感器等媒介作為記者身體的延伸，開始代替記者進入現(xiàn)場。“身體離場”的方式提升了新聞生產(chǎn)的效率，但也制約了“現(xiàn)場感”的表達和實證功能的發(fā)揮。[17]在融合傳播環(huán)境下，新聞的傳播和接收遷移到社交媒體平臺，新聞生產(chǎn)流程和新聞文化發(fā)生轉(zhuǎn)變。“流量為王”的利益驅(qū)動機制以及信息核查的高昂成本，致使部分媒體轉(zhuǎn)而用制造同意替代追求真實。大量不以事實為基礎(chǔ)且信息、情感和立場混雜的復(fù)合體層出不窮。“后真相”征候頻繁出現(xiàn)，表現(xiàn)為“成見在前、事實在后，情緒在前、客觀在后，話語在前、真相在后，態(tài)度在前、認知在后”[18]。訓練數(shù)據(jù)庫中信息質(zhì)量良莠不齊，會影響人工智能生成內(nèi)容的質(zhì)量。在互動過程中，生成式人工智能所“臆造”的內(nèi)容根據(jù)用戶要求不斷被改寫完善，變得更加難以辨別。