李怀胜

　　当前，随着生成式人工智能（AIGC）等AI技术的快速普及，技术在赋能内容创作、提升生产效率的同时，也被部分不法分子利用，成为网络诈骗、网络水军等黑灰产的新型工具。AI技术本是中性的，关键在于使用者，当它被用于违法犯罪时，网络诈骗、网络水军等不再是独立的不法形态，而是共同构成以“信息操纵”为核心的新的黑灰产形态：前端通过水军制造信任和舆论氛围，中端通过内容操纵实现“精准引流”，末端通过诈骗等实现“流量变现”。AI技术的双面性给平台治理带来新的持续挑战，明确平台信息治理的责任边界，亦是刻不容缓的课题。

　　一、AI时代信息从“人造”到“智造”的治理挑战

　　AI技术的跃迁本该成为提升创作效率、丰富内容生态的工具，但在黑灰产语境下，却被用来降低造假门槛，成为虚假信息泛滥的加速器。

　　一是在内容生产方面。AI技术提升了内容生成效率，也将虚假内容的创作门槛降至前所未有的低点。过去需要专业团队制作的虚假图片、视频、声音，如今只需简单指令即可批量生成，甚至能模拟出高度逼真的人类互动。而且AI生成文本、图片、音视频等内容完全可以达到以假乱真的程度，这给平台的真实性判断增加了难度。

　　二是在黑产运作方面。在AI技术的加持下，网络诈骗、网络水军等实现了由“古法手搓”到智能化的全面升级，网络内容生态治理面临道高一尺、魔高一丈的现实挑战。例如，AI生成虚假身份和聊天内容，提高诈骗的迷惑性，网络水军从传统刷量转向更加隐蔽的内容操纵。AI可能用于批量生成评论、模拟真实互动。上述变化的背后本质是“信息影响力”的产业化运作。AI使得内容生产从“人工驱动”转向“算法驱动”。无论是虚假投资“股神”、情感交友“人设”，还是兼职刷单、卖惨募捐，其核心逻辑都建立在“以内容操控认知，以认知影响行为”。需要将它们纳入到“信息操控型违法行为”的统一框架进行规制。值得注意的是，AI是一把双刃剑，它既被不法分子利用，也正在成为平台治理的重要工具。各大平台纷纷投入AI识别技术，通过算法模型识别虚假内容、异常账号和操纵行为，以AI治AI正在成为内容治理的新范式。

　　二、信息治理面临新的挑战，平台责任边界更需厘清

　　根据现行法律框架，平台对信息治理需履行合理注意义务，包括内容审核、风险提示、账号管理及用户保护等。然而，在AI技术被不法分子利用的背景下，平台责任正面临被不断“扩张解释”的趋势。

　　平台责任的基础是能力基础与过错标准。面对AI驱动的风险升级，内容平台始终站在对抗虚假信息的第一线。以今日头条为例，其2026年上半年累计清理水军评论1623.11万条，处置各类网暴评论125.55万条，并通过持续迭代AI识别模型、严格落实AIGC标识制度，实现判定综合准确率超95%。这些数字与举措，既体现了平台的治理决心，也折射出技术对抗的复杂性。但是，平台无法对“信息操控结果”承担无限责任。平台责任应建立在“能力基础”与“过错标准”之上，而非结果导向的无限追责。一方面，AI生成内容的复杂性决定了平台难以实现全量、实时、绝对准确的识别。另一方面，信息操纵行为往往跨平台、跨场景完成，其结果并非完全由单一平台所能控制。当前通过技术治理与专项整治，已能够在一定程度上压缩黑灰产空间。抖音2026年上半年处置不实信息619.78万条，对13352个账号处以禁言、封禁等分级处罚。但与此同时，其日常风控系统每天拦截的风险内容和异常账号规模同样达到千万级量级。这表明，平台治理已进入“高强度对抗”状态，但风险并未消失，而是持续演化。将平台责任简单等同于“结果负责”，不仅不符合技术现实，也可能导致两个负面后果：要么平台为规避风险而过度干预内容，压缩正常表达空间，扼杀网络活力，要么将本应由产业链、技术提供方共同承担的责任一股脑转嫁给平台。在AI时代，守住平台责任边界，不是弱化担当，而是为构建更可持续的多元共治体系理清逻辑前提。

　　三、走向协同共治，重构AI时代的责任分配机制

　　AI时代的信息操控本质上具有跨主体、跨环节特征，单一平台无法完成全链条治理。因而，构建协同治理机制，将单一平台的孤军奋战，升级为政府、平台、技术机构、公众多方参与的协同共治是实现有效规制的必由之路。

　　一是筑牢法治防线，划定行为红线。例如，面对“AI投毒”等新型操控手段，现行法律法规存在适用模糊地带。监管层面需加快明确AIGC服务提供者、GEO服务商、内容发布平台在数据生成、投喂、传播各环节的责任边界，将恶意操控行为纳入清晰的法律规制范畴，提高相关主体违法成本。

　　二是构建技术联盟，推动可信溯源。扩展AI技术在内容治理领域的正向应用，让技术成为治理的助力而非阻力。例如，推动平台建立数据溯源机制，对训练和检索内容进行可信度评级，引入权威信源白名单制度。信息发布平台加强对批量发布、营销软文等异常行为的监测，切断虚假内容的传播链条。同时，应树立信息治理一盘棋的思维，各平台共同织就防控之网，防止不法信息在不同平台来回穿梭跳跃。

　　三是夯实素养根基，压缩虚假空间。用户在享受AI便利的同时，也需不断提升网络素养。对涉及投资、健康等重要决策的AI回答保持理性验证意识，在需求侧压缩虚假AI信息生存的空间。

　　总之，AI并未创造新的违法逻辑，但放大了既有风险，改变了信息操纵的组织方式与传播路径。面对这一趋势，治理的关键不在于无限强化平台责任，而在于在法治框架内合理界定其责任限度，并通过制度完善与多方协同，实现对内容风险的系统性应对。（作者系 中国政法大学网络法学研究所所长 教授 博士生导师）