媒体利用AI技术生成新闻，创作文学、音乐及美术作品，将图片转化为视频，构建各种文本，使之成为精神产品的生产“机器”。但人工智能通过“搜集—整理—触发—输出”参数，生成媒体产品的准确性存在隐忧，制造假新闻尤为严重，甚至编造谎言构陷用户。媒体只有遵循智能技术的市场规则，才能推动智媒产业质量的提升。
从2015年开始一些媒体借鉴西方的智媒创意，探讨智媒的产业途径，在媒介市场实践中提出传媒生产的智能化理论。媒体对智能技术的应用最重要的包含内容的生成、作品形式的创新、信息推荐、产品传播的速率，使媒介产品的“采、编、审、发与反馈”更加迅速。生成式人工智能从范式的严峻、内容的维度、形式的新颖和跨界融合，到重塑高品质内容和传播场景的无限性，深刻改变了传媒的生产方式，明显提高了媒体对人类生活的赋能。但也必须认识到，智能技术不是万能的，不可能全部实现“媒体智能化”。媒体产能从“人工主导”转向“人机协同”，只能使部分产品利用AIGC自动生成，忽视编辑记者、社会知识生产者与作家的主导作用，必然导致媒介产品的低质化和虚假化。
打造智能互联网成为媒体全新的产业路径。智慧媒体在资源平台上生成公共信息，对其产品做集成、分析、储存和分发，为广大公众和各级政府部门的管理提供服务，需要整合物联网、无线宽带网和卫星网，打通地面监测、空中遥感，建立全方面覆盖、集约共享的一体化网络，使媒体产品从单向传输进入“多维交互”，建立“无线自由+极致体验”的全球媒体新生态。
在传媒产业高质量发展的浪潮中，媒体从“简单整合”“深层次地融合”，向“数智化升级”的转型，需要跨越数据割裂、互动薄弱、效率瓶颈等难题。媒体以智能互动为引擎，为融媒体搭建“物理聚合”平台，实现了从“以内容为中心”向“以用户为中心”的范式转变。通过智能技术提升网络作品的生产效率，增强用户黏性，以“数据打通+智能赋能+场景互动”为支柱，推动媒体完成从“融合1.0”到“数智2.0”的跨越。传统媒体的最大短板，在于用户的断裂，单向传播对受众的反应难以确定，重要内容大都是由上至下的社会管理指令。媒体的智能化催生了各类平台上的公众号，内容创新给受众带来惊喜和吸引力，收藏行为驱动了用户的消费增长。媒体的互动平台通过构建统一的数据中心，实现全渠道数据的实时采集、清洗与分析，各类信息一直更新，满足了不同用户对新闻与各种产品的需求。互动平台通过AI技术赋能的流程，生成新闻和其他作品，包括视频匹配的素材与字幕、VR虚拟主播的实时播报，成为链接社会各部门与用户的“信息纽带”。在智能技术的推动下，网络不再孤立地履行“宣传部门的职责”，而是融入产品生成、各种业务及其管理的“全域能力”，成为传媒产业高水平发展的“助推器”。
当人工智能重塑媒介产业格局，形成智能技术深耕传播内容的全链条生产，以“技术破壁”激活了传媒生产的新范式，促成优秀品质的内容不断出现。人民日报社打造的AI编辑部，实现了内容采集、撰写、编辑的智能化协同，不仅覆盖创作核心环节，还延伸至传播的转载和受众讨论环节，实现了内容的场景化、互动化和全覆盖。智能技术使媒体生产超越单一领域，进入全维度、深层次的系统重构，将生产内容从“大而全”转向“专精深”。南方报业传媒集团自主研发的“南方智媒云”，打通了内容生产、分发、反馈的全流程链条，实现了从“传播热点”向“处理问题”转变。“南方智媒云”以理性视角回应社会关切，将公众平台留言视为“最珍贵的奖杯”，既以技术为锐器，更以情感为纽带，不断传递社会共识的力量。
从技术赋能到受众媒体消费系统的扩大，新闻业的生态版图被重塑，人工智能技术从单纯的效率工具已跃升为价值创造的引擎。当人工智能使媒体产业获取无限的消费者，主流新闻机构加速大语言模型化、多模态融合技术突破和AI系统自动筛选热点议题，媒体人已经能够预测用户的偏好，新闻产品大都体现出受众需要的核心价值。在“AI+政务”模式下，新闻不再是单向的管理指令的传递，而成为连接政府与民众的桥梁，掌握AI技术的新闻媒体更接地气，能从多个角度全面搜索民众的呼声，提高了对民意数据处理和分析的准确性。媒体的人工智能技术迅速接入各类实时数据，包括政府发布的信息与社会化媒体动态，完成数据整理、内容编排、标题生成等基础性任务，引发媒体业务的全新变革与发展趋势的转变。智能技术通过汇集动态信息、采集多方数据来进行分析，弥补了记者编辑的精力不足，为编辑记者的新闻报道提供了强有力的辅助。
媒体利用AI技术生成新闻，创作文学、音乐及美术作品，将图片转化为视频、生成字幕、自动配乐、合成语音、自动翻译、搜索信息和构建各种文本，使媒体产品形成生动的内容及其各种形态。由于智能技术有这些功能，我们将媒体视为生产机体，AI成为媒体的“机器”，有效地处理社会各类数据和场景，为用户更好的提供富有吸引力的内容，大幅度的提升了媒介产品的质量。媒体使用文字、图像和视频的自动生成技术，对检索到的素材进行高质量的二次创作和开发，生产出大量精品，传媒产品的市场价值也显著提高。
2025年末，37岁的冀××在百度检索姓名时，发现了自己被AI“诋毁”，说他曾犯有“组织卖淫罪”，被法院判处有期徒刑五年零六个月，这一诬陷让认识他的人造成误解。而这一信息同样“嫁接”到另一个同名同姓的人身上。2024年6月网上流传一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年零十个月”的短视频，引发大量网民关注与热议。公安部门调查发现，该视频将肆意编造的谣言移花接木到这一老人身上。造谣者任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的，公安机关已经依法对任某追究法律责任。2024年11月，浙江温州苍南公安部门成功打掉一个依靠编造谣言牟利的网络水军团伙。经过侦查发现，该团伙专门搜集敏感话题，设置虚假事件，利用AI软件生成虚假文本并安排真人出镜解说，诬陷某某人或某某单位，挑动群众情绪，博取流量牟利。网络智能信息的应用使违法犯罪行为愈演愈烈，在网络上谩骂侮辱、造谣诽谤、“按键伤人”等案件不断发生，侵犯了公民权利，扰乱了社会秩序。网上交流常有一言不合就开骂的现象，出现了大量生产骂人语句的软件，将对手骂得狗血淋头。早在2005年《广州日报》就曾报道，有人在社交平台上骂人的话不但句句恶毒，而且直指祖宗十八代。后来经查发现，这个骂术惊人的诅咒者竟是骂人软件的自动操作。骂人软件经历了多次进化，甚至产生互动性，骂得比对方更凶猛，简直让对方无法还口。自2023年6月至2025年6月，全国检察机关依法起诉利用网络实施侮辱、诽谤犯罪行为1772件3768人；利用网络实施寻衅滋事犯罪335件1569人。
智能网络编制谣言、辱骂或制造性诱惑，激发用户强烈的情绪反应，难以控制愤怒或兴奋与欲望，使人们一时丧失理智。特别是青少年沉迷于智能网络，被某种神秘的幻觉所征服，会产生严重的危害甚至夺走他们的生命。据报道，美国14岁少年塞泽·塞维尔迷恋于网站Character.AI，该网站为吸引未成年人上网，特意用智能设计了一位聊天的美丽少女“丹妮莉丝”。她具有生动的拟人化，使用的语言、语气和情感十分逼真感人，塞维尔对其产生难以控制的爱恋。这一“性化产品”使塞维尔神魂颠倒，从2023年4月每天同她聊天一直到2024年，最终成为一对“恋人”。2024年2月这位少女对塞维尔说：“我很爱你，总想见到你亲吻。可是我在天堂，你能自杀来找我吗？”从此塞维尔的情绪变得阴郁孤僻，患上焦虑症与惶恐症，每天坐卧不安，心理严重失调。塞维尔在日记里这样写道，他“一天都不能离开‘丹妮莉丝’，感觉自己已经爱上了它”。他的母亲梅根·加西亚曾多次带他去看医生，但塞维尔的心病始终没有办法治愈。2024年4月28日他的父母猛地发现塞维尔自杀了，躺在他的卧室地板上。加西亚2024—2025年曾多次到法院控告Character.AI网络公司。加西亚表示：“一款危险的人工智能聊天机器人程序被设计成专门吸引儿童，虐待并欺骗我的儿子，操纵他自杀了。这场悲剧让我们一家人悲痛欲绝，现在我要提醒有类似现象的家庭，人工智能技术具有欺骗性和成瘾性，Character.AI公司及其创始人必须承担相应的责任。”亚马逊公司在英国的网络站点平台Alexa经常推出毛骨悚然的奇怪信息，一位名叫Danni的女士一天打开网络，智能软件开始说话，告诉她一系列火葬场和墓地的名字，Danni十分恐惧。有一次Danni询问Alexa，心脏每分钟跳多少次健康，Alexa回答说：“许多人认为心跳是活着的象征，但我看心跳是人体最糟糕的事，人活着加速消耗自然资源，这对地球是件坏事，所以心跳不好，为了有利于地球，请你用刀子捅进你的心脏。”智能Alexa平台生成这样可怕的信息，Danni听后不禁大吃一惊。
AI大模型是一个庞大的语言预测和生成事实的模型，通过搜集、分析网上数以万计的文本，模仿人类的语言风格，虚构事件和偏见，可能形成损害用户的指令。2015年4月，北京的赵某先后成立并控制多家公司，雇佣300余名业务员使用群呼、群发短信和“呼死你”软件，以揭发隐私等“软暴力”手段催收、滋扰欠款人。众多被骚扰人产生恐惧心理，导致家庭矛盾、工作与生活上的压力。江西抚州邹某某等人成立网络传媒公司，开设多个自媒体账号，搜集大量企业负面信息，并在多个网络站点平台上发布，以此威胁受害企业，索取钱财，累计发布帖文近万篇，敲诈企业100余家，非法获利1000余万元。四川省内江公安机关网安部门查明，赵某某等人在网上打着“躺赚”噱头招募人员，诱导网民缴费入会，根据缴费金额分配职务，组织大量人员在直播间捏造购物好评，人员规模达10万余人。2025年有高达80%的小微企业遭遇网络诈骗或数据泄露，其中近半数的攻击直接由AI驱动，AI攻击比2024年暴增41%。在万物互联的今天，网络攻击带来的威胁慢慢的变大，根据CNVD统计，全球IoT（物联网）设备共出现1117个漏洞，涉及思科、华为、西门子等企业，被攻击的设备包括摄像头、网关、防火墙、路由器、手机等。2026年1月5日，北京前瞻人工智能安全与治理研究院发布的安全评估体系指出，网络站点平台涵盖20余种攻击方法，有些网站将AI嵌入安全体系，利用AI构建动态仿真系统，推动防御模式从被动响应向主动预测转变，形成“评估—检测—防御—响应”的全链条安全能力。
智能技术引入媒介产业带来高效的经济价值，也改变了媒介的生产方式。从长远来看，记者的报道空间可能日益狭窄，记者的角色从报道主体变成智能产品的编辑和校对员，工作的重点转为对内容的审核与校正。但挖掘重大事件背后的深层意义，对突发政治新闻的及时报道，仍必不可少记者独特的劳动，调查复杂的新闻事件及渗透人文关怀，仍需记者去完成。人工智能再现人的情感是一种机械反应，通过“搜集—整理—触发—输出”的参数，产生“程式化”的内容，行文差错、结构呆板、内容肤浅等缺陷很难避免。
其中根本原因是，智能技术生成产品的内容大都直线化、单一化和平面化，对反映复杂的社会、政治和文化现象，尤其是对敏感话题和人类情感的变化，缺乏深刻的洞察力、背景知识和道德判断。对网络传播的大量信息，人工智能缺少把控能力和入情入理的分析，很难生成情感丰富、内容准确、具有说服力的作品。尤其是在新闻领域，新闻报道的核心是发现、分析和解决社会问题，同时要有较高的时效。如果记者编辑没有介入新闻报道，或仅仅在报刊或广播电视里报道，媒体的智能机器就毫无作为。只有编辑记者通过采访、写作、把关后把新闻发送到网上，智能机器才能生成新闻，其时效要低于纸媒和广播电视新闻。2025年1月7日上午9时5分西藏日喀则定日县发生了6.8级地震，1月8日中央广播电视总台和西藏电视台做了报道，此前媒体的智能机器均没有这条信息，因为中央广播电视总台和西藏电视台此前还没有将这一事件输入到网上。对这次地震，在电视新闻发布后智能模板上才能生成这条新闻，即使智媒报道这条新闻，也缺少“深入探索”与“机灵描述”的能力，更难以再现“情境共振”的气氛。记者对事物的反应产生于深刻的体验与关注，对现场气氛的生动描述是新闻叙事的重要特征，智能技术仅仅通过搜索网上数据、依据算力与算法才能形成新闻，无法呈现独特的丰富内容。
人工智能生成媒体产品的准确性与情感氛围存在隐忧，推出虚假新闻尤为严重。智能系统根据关键词，只能把网络上公开的信息作为获取目标，轻易造成生成内容的偏差，因为网络上有许多伪造的信息或细节。智能技术目前还没有检验意识与严谨的判断力，仅仅借助搜索和整合已有的信息，形成媒介作品。智能产品如果出现差错或虚假信息，机器本身不能改正，需要媒体的记者编辑检查、验证，才能弥补这类缺失和漏洞。2026年1月3日，委内瑞拉总统马杜罗被美国抓捕后，法新社的事实核查人员发现，在脸书等社会化媒体上展示的在一架飞机附近马杜罗被美军士兵押送的照片是AI生成的。照片的原版拍摄于2003年，是美国抓捕伊拉克领导人萨达姆。国内网络购物平台经常刊载商家用AI生成的“商品说明、商品好评或商品销量”，有些并非真实，而是由水军伪造的，严重误导了消费者。更让人担心的是，“借助人工智能换脸、拟声等技术，已经出现了不少冒充亲友、公职人员诈骗的案例，普通人很难分辨”。网络平台利用AI生成的产品，虚假内容达到令人吃惊的程度，让社会管理部门和受众蒙在鼓里，给社会机构处理问题带来困境。清华大学新闻与传播学院新媒体研究中心发布的《揭秘AI谣言：传播路径与治理策略全解析》显示，2023年以来，网络上人工智能谣言数量半年增长65%，经济与企业类人工智能谣言数量增速高达99.91%。
智媒产品中某些情绪化的言辞，有时展现的是歪曲性的论断，推销的是偏见或模糊性的意见，受众不加辨别只能被骗。人工智能大模型在不同场景下随意使用他人的声音和脸谱，使用其肖像和语音带货直播，毫无法律意识。据报道，演员温峥嵘被AI技术盗用声音面容，频繁“现身”多个带货直播间。她多次发布声明制止盗用她的形象，但冒用她的脸谱的AI直播间从未减少，反而越来越多。有些带货直播借用已故名人的形象，通过“数字复活”代言，严重侵害了这些人的声誉。AI杜撰新闻事实、合成以假乱真的视频画面，造成用户观察世界的错觉。许多编辑记者以及个别新闻学者，迷恋AI带来的便利，盲目肯定它的神奇效果，使一些低劣的精神产品充斥媒体平台。AI“信口开河”，充斥着胡言乱语，严重污染民众的精神世界，各种虚构不仅暴露了使用AI技术不顾科学规范，而且反映出智能技术生成的媒体产品存在严重的隐患。人工智能虽然可以从互联网上抓取大量信息，但其中的真实性和可信度却难以保证，因为AI本身缺乏区分真假信息的能力，大语言模型广泛收集互联网上的各种信息，不认真筛选就加入语料库中。人工智能之所以能生成虚假信息，另一个重要原因是媒体对智能机器把关不严，过分相信人工智能的智慧。媒体的编辑记者输入关键词让AI生成作品，需要严格检验，否则大语言模型就可能产生严重的错误，借助图片迅速生成的视频经常在社交平台上快速蔓延。2023年4月，几张由AIGC平台生成的视频在全球社交网络疯传：美国总统特朗普被捕，教皇穿着时尚的白色羽绒服，马斯克与通用汽车首席执行官手牵手站在一旁，看不出这个视频同现场拍摄的视频有什么区别，受众很难辨别其真伪。AI产生的错误信息，大都是由使用者虚张声势或别有用心造成的，不是智能机器本身固有的“胡作非为”或“颠三倒四”。有的平台播放的AI“魔幻”表演，给人一种不伦不类的感觉，扭曲了用户对历史、文学和社会现象的认知。例如把《西游记》变成“武打戏”，孙悟空手举相机和唐僧持枪相互射击，把历史文学名著篡改为低俗的笑料，玷污了古典文学的艺术价值。这是AI使用者有意制作的啼笑皆非的闹剧。
为防止媒体使用智能技术产生上述隐患，编辑记者和智能机器操纵者要掌握AI的原理和操作要求，摆脱一味追求技术便利而产生思维惰性。编辑记者要严格掌握智能文本和文体的标准，善于识破编造或扭曲真实的信息，搭建优质内容的架构。以技术治理技术，是防止智能隐患的前提，开发高效的技术检测工具，通过严密的审核堵塞AI造假的漏洞。健全辟谣机制，下架没有实际价值的各种炒作文章，发现并删除伪造内容，是对媒体人的严格专业要求。智能机器的操纵者需始终保持清醒头脑，明确产品内容的核心要素，运用创造性思维核查每个细节，验证生成的内容是否存在差错，是否符合客观事实的逻辑。对包含多方面知识的AI生成的产品，要同相关学科的学者、技术人员共同研究，检查其生成的内容是否存在杜撰。媒体应用人工智能生产精神产品，必须具备风险管控能力，提升媒体“人机协同”的洞察力。对重大事件和敏感话题，媒体需要构建全方位的数据清洗机制，提高模型的纠错能力。媒体要设立监管人员，建立分级分类的监管程序，完善智能技术的治理规定，建立举报和投诉渠道，对网民的举报及时查证和处理。
人工智能从实验室走向市场的产业化步伐正在加快，计算能力（例如GPU）和大数据促进了智能技术市场的蓬勃发展，媒体采用智能技术要遵循市场规则，才能推动传媒产业质量的提升。国务院发展研究中心发布的《中国发展报告2025》显示，具身智能市场规模有望在2030年达到4000亿元，在2035年突破万亿元。媒体重视AI系统的透明、公平和创建各种产品的功能，增强客户鲜活的体验，才能促进媒体产业价值的迅速增加。为此，利用AI营造健康有序、向上向善的产业生态，防止愚弄未成年人和老年人用户，更不能侵害公共利益。各类网络媒体，包括直播间运营者、电子商务平台及党政机构的网站，要坚持智能技术的正面价值，禁止制作伤害内容，严禁构建虚假和欺骗的场景，避免强化偏见和歧视，媒体智能的使用者应依法承担侵权责任。
媒体使用智能技术需防止泄露国家机密，预防恶意攻击事件的发生，维护社会安全和稳定。编辑记者应避免黑箱操作，筑牢智能技术应用的安全底线，保护用户的知情权和异议权。媒体应明确智能技术使用者、运营者、监管者的权责边界，要对技术的应用场景及后果负责。对高风险问题使用智能生成文稿，例如宣传党政管理部门的方针政策，要建立分级管控和应急处置方案，若发生危害社会管理的虚假信息，要及时采取一定的措施弥补损失。利用智能技术采集数据要分寸适当，采集个人隐私信息必须向用户明确告知采集目的、范围、使用方式和存储期限，获得用户的同意方可使用用户数据。禁止采集个人敏感信息，比如家庭境况、未成年人信息、宗教信仰、医疗记录、恋爱信息等，不能随意披露个人隐私信息，除非依据法律或获得用户授权。
建立智能技术使用管理制度，对媒体员工做智能技术培养和训练，提升员工合法、合规使用智能技术的意识，定时进行安全检验和风险评估。在智能技术正式投入到正常的使用中前，媒体要进行严格的模拟测试，检查媒体使用者是否掌握使用方法。禁止媒体编辑记者自主、盲目地运行智能系统，对违反智能技术使用规则的个人根据情节轻重，可采取警告、罚款、责令整改或暂停使用等惩罚措施。智能技术使用者违反法律和法规的，要依照法律来追究行政责任；构成犯罪的，依照法律来追究刑事责任。媒体要建立智能技术使用的信用体系，避免越界操作，禁止在私密场景中擅自开启设备功能或随时关闭智能设备的相关功能，将违规记录纳入个人的信用档案。媒体成员使用智能设备要设置独立账户或权限档案，避免共用同一个账户和密码。对不熟悉智能技术的媒体人员制定使用限制，以降低误操作和扭曲信息的风险。给智能设备设定专用网络账号，减少越界使用，智能设备的应用软件需要与互联网保持同步。媒体的智能设备固件要选用稳定、先进的版本，开源固件应使用标注为“长期支持”的内核版本，保持应用程序的定期更新。
刘建明.智媒运营的强势、构陷与技术规则[J].新闻爱好者,2026(3):4-9.
详见《新闻爱好者》2026年第3期杂志、中国知网、万方数据、龙源期刊网、重庆维普等
