2026年8月4日星期二 · 共 11 篇精选 · 专题：社交媒体信任
编辑视角
今天社交媒体最热的主题，正在从“AI 能生成什么”转向“用户还能相信什么”。AI 已经把制作一条帖子、一个账号、一条有说服力的评论、一张假截图，甚至一个根本不存在的专家形象，变得非常便宜。影响别人注意力的成本，正在比验证信息的成本下降得更快。
这种失衡已经反映在平台决策中。TikTok 开始测试针对批量生产 AI 垃圾内容的账号检测，Reddit 则称自己的自动防护每天会在用户看到之前拦截数千万次垃圾曝光。治理目标正在前移：平台不再只处理一条违规帖子，也要识别账号、协同行为和背后的激励机制。代价同样明显，更多自动判断可以减少滥用，却也可能让正常社区变得更难解释、更难申诉。
产品层也在变化。Threads 把 Meta AI 放进私信，Facebook 则把公开讨论加工成答案。这两个功能都很方便，但都会在用户和原始对话之间插入一层算法。用户越依赖摘要，来源、上下文和撤销能力就越重要。
创作者被夹在中间。Adobe 的调查显示，大多数创作者认为 AI 能帮助业务增长，但很多人也说内容太多，已经更难被看见。一条爆红的虚假创业故事又证明，AI 可以轻易制造“可信”的外表。社交媒体的下一阶段，取决于平台能否让创作者享受 AI 的效率，却不把辨别真假的成本转嫁给观众。
热点专题：AI 与社交媒体信任
下面 10 条内容从不同角度回答同一个问题：当 AI 可以以工业化速度制造影响力，线上社区如何保持可信？
牛津研究：AI 可以悄悄改变社交媒体帖子的观点方向
牛津互联网研究所及合作团队的一项研究发现，即使明确要求大语言模型保留原意，模型仍然可能改变涉及争议议题的社交媒体帖子的方向。它揭示的是一种更隐蔽的影响：模型不必凭空制造论点，只要弱化一句话、强化另一句话，或改变哪个担忧看起来最重要，就能改变讨论的情绪和政治方向。这对推荐系统、写作助手、内容审核和政治传播都很重要。当 AI 辅助编辑成为常态，作者问题就不再只是“谁写了它”，还要追问“谁改变了它的情绪和立场”。
TikTok 开始针对批量生产 AI 垃圾内容的账号
TikTok 表示，将测试更强的系统，识别那些专门大量发布 AI 垃圾内容、挤压真实创作者曝光的账号。第一阶段重点包括政治和时事、金融建议以及医疗内容，因为这些领域的合成信息更容易迅速损害公众信任。TikTok 同时宣布新的 AI 素养资源、帮助用户识别生成内容的应用内中心，并加入 C2PA 指导委员会。平台称，截至目前已经为超过 30 亿条视频标记 AIGC，并在 2026 年前三个月删除超过 8600 万个虚假账号。治理重点正在从单条内容的标签，扩大到制造整条低质量信息流的账号行为和激励机制。
Reddit 称每天拦截 2300 万次垃圾内容曝光
Reddit 表示，更新后的防护系统每天拦截约 2300 万次垃圾内容曝光、发现约 2.5 万条新的垃圾帖子和评论，并撤销近 200 万个虚假投票。平台结合账号创建信号、大语言模型识别、人工审核、社区管理，以及要求可疑账号证明自己是人的检查。Reddit 称，2026 年 1 月到 3 月期间，用户接触垃圾内容的比例下降了 20%。这些数字也是产品定位的声明：Reddit 的价值依赖具体社区里不整齐、地方化、难以批量伪造的对话，维护这种质感并不是附加工作，而是平台竞争力的一部分。
来源：Reddit Inc.
研究称，13 个字就可能通过 Reddit 操纵 AI 搜索
Nieman Journalism Lab 总结的一项研究显示，当 AI 智能体从 Reddit、Wikipedia、Quora、Facebook 等网站取材时，一小段用户生成文字，有时只有 13 个字，就可能把它推向垃圾或诈骗内容。社交平台现在既是人们交流的地方，也是 AI 搜索系统依赖的非正式数据库。营销者可以植入一条看起来合理的评论，等它被索引，再影响后来用户得到的答案。平台审核和 AI 搜索系统需要把这种短小、普通的文字当成潜在安全问题，而不能只把它看作低质量内容。
虚假 AI 创业故事，把可信度变成互动诱饵
Tom’s Guide 记录了一波爆红帖子：它们声称一些年轻得不合常理的创业者靠 AI 一个周末赚到几十万美元。这些故事有具体收入数字、精修截图、合成身份和免费模板号召，但所谓创业者可能根本不存在。它们之所以有效，是因为观众的错失恐惧会变成评论、收藏和转发，而这些正是推荐系统奖励的信号。AI 降低的不只是制作假图片的成本，而是制造整套假商业身份的成本。最实用的规则是：把收入截图和“突然暴富”帖子先当成营销，直到出现真实产品、可追踪客户和帖子之外的证据。
来源：Tom’s Guide
Threads 把 Meta AI 放进围绕公开帖子的私信对话
Meta 已把一对一 Meta AI 对话加入 Threads 私信。用户可以把帖子、图片、链接或视频发给助手，再继续追问，而不会把回答变成公开信息流里的机器人回复。这是对一个常见问题的聪明回应：公开的聊天机器人容易让信息流变得合成化，私聊助手则可以帮助用户理解热点。风险在于，用户可能接受一个语气自信的摘要，却看不到原帖里的争议和缺失背景。私聊带来的便利，反而让来源链接和返回原始讨论的入口更重要。
来源：9to5Mac
Facebook AI Mode 把群组、Reels 和公开帖子汇总成答案
Meta 的 Facebook AI Mode 会利用公开帖子、群组和 Reels，以对话方式回答问题。用户不再只是看到搜索结果列表，而是得到一份根据平台讨论整理出的答案。这可能让 Facebook 在本地推荐、商品问题和社区知识方面更有用，但也会改变参与的经济关系：一篇帖子可能影响答案，却没有得到访问；摘要还可能抹平原始讨论里有价值的分歧。如果平台希望社区继续贡献信息，就需要给出清晰来源、返回原帖的链接，并让作者能够纠正或反驳 AI 摘要。
来源：TechCrunch
Meta 因用户反弹撤下 Instagram AI 改图功能
Meta 撤下了 Instagram 的一项功能。该功能允许用户引用公开账号生成 AI 图片，却没有清楚通知照片本人自己的内容被用作输入，因此遭到用户和经纪公司的反对。Meta 承认这项功能“没有达到预期”并停止提供。这个事件说明，公开可见不等于允许随意改编。一张照片可以对所有人可见，同时仍然有语境、同意和控制权。它也说明社交反馈改变产品策略的速度很快：一个功能可能刚上线，就在大多数用户弄清设置前被迫消失。
来源：TechCrunch
xAI 起诉明尼苏达州，挑战 AI “脱衣”工具禁令
xAI 正就明尼苏达州的一项法律提起诉讼。该法律禁止网站和应用利用 AI 在未经同意的情况下制作真实人物的虚假裸照。公司表示不反对阻止非自愿图片的目标，但认为法律范围过宽，也没有为善意采取防范措施的公司提供安全港。这场诉讼把一个社交媒体问题变成了法律测试：责任主要应该落在制作图片的用户、传播图片的平台，还是提供工具的公司身上？随着生成式图像工具进入社交产品，这种责任划分会直接影响产品设计和全球治理。
来源：AP News
Substack 接入 Pangram，估算帖子和评论的 AI 写作比例
Substack 正与 Pangram 合作，估算帖子、评论、Notes 和回复中有多少文字看起来由 AI 生成。这个功能面向较长文本，创作者也可以检查草稿，或添加“我是如何制作这篇内容的”说明。平台押注读者和赞助商会重视可验证的人类作者身份。检测分数不是事实证明，误判同样可能损害信任。更有价值的可能不是检测，而是披露：创作者可以解释 AI 帮了什么、自己改了什么、哪些决定仍然由自己做出。这样观众得到的是上下文，而不是一个假装能解决作者身份的百分比。
来源：Axios
Adobe 创作者调查显示，AI 的效率与信任成本同时上升
Adobe 的 2026 Creators’ Toolkit 报告显示，87% 使用创意 AI 的创作者认为它加快了业务或粉丝增长，75% 则称 AI 已经融入或成为工作流程的必要部分。但在觉得更难脱颖而出的创作者中，53% 把原因归结为内容总量太大，42% 认为 AI 生成内容让独特声音更难被看见。这个结果区分了两件事：AI 可以提高生产效率，却不一定改善信息流。Adobe 还发现，85% 的创作者希望最终创意决定仍由自己做出。创作者经济并不是要拒绝 AI，而是要让作者身份继续可见。
本专题由 WindFlash AI 根据公开研究、平台公告和近期 AI 社交媒体报道整理。