无「界」之下，博世向远而行

本文来自微信公家号：航通社，作者：书航，头图来自：AI 天生ChatGPT Images 2.0 颁布后最火的用法之一，是伪造截图。X 的推文、微博的动态、伴侣圈、谈天界面、公司新闻稿页面——只有一句话描述你想要什么，它就给你天生一张。一张粗看毫无马脚，细看也很难看出马脚的截图。一张字体、边距、配色、交互元素全都到位的截图。社长以下说的每一张图，都是 GPT-Image-2 天生的。幼米公司微博颁发 Tim Cook 出任幼米汽车 CEO，Tim Cook 自己微博账号跟进回应 " 一路加电 "，配了海边 SU7 的告白大片，热搜 28.7 万人在看。锤子科技罗永浩发推颁发实现对 Apple 公司的收购，配了山水画风格的官宣海报，浏览 180 万。Anthropic 推文颁发回归百度，总部迁至北京，配了北京天际线的海报。SpaceX 官方账号发推颁发与 Cursor 合作，称 Cursor 授予 SpaceX 以 600 亿美元收购 Cursor 的权势，浏览量 656.7 万
；⒀烙攵酚愕墓就蹲收吖叵狄趁姘洳剂斯椴⑹迪值男挛鸥，页面布局、子导航、前瞻性申明、投资者联系方式一应俱全。Anthropic 官方账号颁发 Claude 正式向中国用户盛开，配了精心设计的宣传海报，浏览 120 万。前几张由于切实是足够反讽，尚且各人都当乐子看。最后一张，社长地点的群聊中，已经有人真的以为 Claude 向中国大陆单向盛开了。对了，上面社长说谎了，其实 SpaceX 颁发与 Cursor 合作的那一张，是真的。一、互联网伪造截图传布假信息，不是新鲜事航通社此前的文章《21 年前，一个天才少年已经在华尔街兴风作浪》忠诚纪录了人类信息化过程中最古老的诓骗大局。1999 年 4 月 8 日，SEC 和纳斯达克官员结合调查，某科技公司的一名工程师伪造了彭博（Bloomberg）官网一份虚伪汇报，称公司正被高价收购，使该公司股价迅速涨超 30%，成为当日纳斯达克最活跃股票第 12 名。这份虚伪的汇报网页真切到 " 难以相信 "，有引文、点评和注解，读起来如同公司新闻稿一样详
；在买卖起头前半幼时流传，留给人核实的功夫很少，但足以让投资者下单。始作俑者因认罪逃脱了最高 20 年的刑期，被判在家幽禁，并处罚金 93000 美元以赔偿投资者损失。统一时期，15 岁高中生乔纳森 · 莱贝德（Jonathan Lebed）在雅虎财经信息版批量颁布看涨帖文，造作多人拥戴的假象，把持垃圾股价值，成为第一个因股市诓骗被美国证监会告状的未成年人。尔后，垂钓网站伪造银行页面层出不穷，00 年代比力驰名的案件是，用 1cbc.com.cn 这样的域名假意工行网银，或者把 icbc.com.cn.bk-bj.com 假装成工行官方链接，骗取用户名和密码。2018 年，一张伪造的 " 马化腾微信伴侣圈截图 " 在科技圈广为流传，连腾讯科技都谬误引用了，直到伪造者自己出面认可才平息。但这些伪造都有门槛。在航通社其时写的《你相信了那张假的马化腾微信截图，还有什么资格冷笑前辈和微商？》里面，就描述了这些门槛，以及揣摩了截图造假在其时的技术蹊径：现实上，造作一个微信谈天纪录截图的成本极度之低。直接在 Windows 画图做一个，兴许都能够骗过平时不怎么看新闻的人。不外，对于相对高妙一点的读者，可能就无法忽略这种粗糙的图片在图标大幼、间距、字体字号等方面的轻微差距了。即便是凭据 iOS 和 Android 系统的分歧，也能够发现显著的界面差距。但是，若是你面对的敌手已经把握了此类鉴别手法，并在自己做假图片的过程中，刻意躲避了这些问题，以进一步提升以假乱真的水平又若何呢？一款名叫 " 新闻相机 " 的 App，只必要在手机上就可以为图片套用仿照各大电视台新闻节主张模板，假装这是电视台播出的新闻片段。一些驰名的谣言图片例如 " 全国人民喜迎油价上涨 "。不外 " 新闻相机 " 为了预防更大的麻烦，刻意在模板中留下了马脚，例如台标不是 "CCTV" 而是 "CCFV"，字体也不一样，等等。在百度贴吧的某个电视爱好者会商区中，有帖子专门会商了这些区别，作为给通常网民辟谣之用。问题是，统一个会商区的统一批人出于兴致爱好，还在比力若何用 Photoshop、PowerPoint 等工具做出没有马脚，以假乱真的静态截屏和动图，并在贴吧傍边晒图比拼，互换切磋。那张假马化腾截图之所以骗了那么多人，刚好是由于造作者刻意躲避了常见的马脚，用的是毫无瑕疵的 iOS 微信界面截图。能做到这一步，必要投入精力和技术。GPT-Image-2 把这个门槛给锯了。二、为什么这次不一样？GPT-Image-2 跟以往模型的革命性区别是 " 一句话出图 "（one-shot）。你不用划定死里面放什么字、用什么字体、界面长什么样。它会自己搜索、思虑、匹配，logo 真是 SpaceX 的 logo，头像是真头像，X 的界面布局也是真布局。社长自己对比之后的一个发现让人盗汗直冒，目前还没有发显熹他人跟社长有同样的发现。也许这只是一次无意的单次天生了局，也可能注明不了什么。但还是姑且看看：让我们回到上文的图片区域，找到 " 罗永浩推文 " 和其它 X 推文截图对比。现实上，" 罗永浩推文 " 使用了锤子手机默认的华文黑体作为字体
；在另一张 X 推文中，使用的却是苹方。这注明它并没有性质上 " 理解 " 提醒词所说的罗永浩的推文该怎么处置，它依然没有脱离一个概率预测机械的性质。它只是在穷尽所有伎俩，靠近提醒词的意图。统计法规把罗永浩 - 锤子 - 华文黑体连在了一路。若是还有不相宜的处所，单独批改提醒词，或者把正品图喂给它做生图，怎么都能够。例如最单一的越狱步骤：不让写名字出图，就把头像喂进去出。这就导致了一个底子性的变动：正本相对容易的鉴别马脚的方式，由于一个更高效能、更低门槛的模型，而变得艰巨。专精此路的读者能够通过通知栏、字体等信息揣度是哪个厂家的什么手机，也能够查问图片 EXIF 等信息进一步佐证
；通常人的 " 直觉 " 则类似银行柜员，点钞用真钞经手多了，假的轻轻一摸，说不上哪儿不合但就是有处所不合。无他，唯手熟尔。字体是否与宣称的设备匹配？通知栏图标是否合理？行间距和字号是否切合系统规范？此刻这些全数能够被模型自动正确处置。我们不得不把截图的文字全选，去搜索原文，并且鉴别了局上面的浏览器 URL 域名，能力信赖？吹 SpaceX 和 Cursor 的真新闻时，社长就这么做了——由于 GPT-Image-2 齐全能够合成如出一辙的器材。而在中国大陆，由于接见表网的难题，更多谣言将破费更长功夫才会被证伪，不排除这有可能造成更大的混乱。就算 "Claude 向中国盛开 " 有点假，那么有人说 "Claude 此刻不再要求国内用户举身份证了 " 呢？你有没有可能由于没有查证，等闲地刷双币卡下了个单？颁布 Seedance 2.0 时，影视飓风 Tim 试用后，第一功夫感触到的是震惊。他上传自己的面部照片，在没有任何文字提醒和声音文件的情况下，AI 自动天生了他措辞的视频，有他的嘴型、他的声线、他的微表情和他办公室的表景。那段视坡凤面 Tim 说了 6 次 " 恐怖 "。社长作为熟悉媒体和新闻学的从业者，对 GPT-Image-2 产生敏感，也是由于职业和经验让自己产生了震惊。" 有图有真相 " 其实早就不是单一真谛了，但分歧于此前马脚百出的假新闻截图，一个工具若是被人发现是能够去天生以假乱真的假图的时辰，就像已经产生的那样，这是能够刺激更多人自动去造假玩玩的。三、但是要不要管管这个模型呢？单一的答案是：当然不应该管——应该始终允许开发者上线和盛开所有全职能的，最先进的模型，让使用者阐扬出 AI 的最大效力。一个工具进化得越来越好，是它设计出来的使命。像 Claude Mythos Preview 那种 " 过于先进不宜公开 " 的做法，社长感触，一来没必要，二来防不住。它是能自主发现并利用数千个 0day 缝隙，但后发者赶上来的功夫差，只会越来越短。也就是说，迟早，像做一个看不出马脚的拟真数字人搞电诈，或者做一个看不出马脚的假截图搞诳骗、发假新闻——这种权势会下放到所有人。由于一个工具的使命就是变得更好，所以，使用者天然会出现 " 赤子持金过闹市 " 的情况——使用水平和工具能力错配，各类问题必然随之产生。也有时辰，是使用者的某种蜜汁自负——还记得 " 张拾迈 " 不？作者自以为马脚留了好多，甚至有意插入 " 颠倒话 " 嘲讽，同样游一个论坛的人谁会不知路黄万里呢，是吧？却没想到更多人底子鉴别不出，信以为真，当资料传布出圈，后果就没人可能预测和节造
；褂 AI 换脸，盗图，仿写，还有 Grammarly 的搞笑行为——炼化真实存在的学者和作者的 Skills，让 AI 假意专家给人批改文章。所有此类问题的防备方式，可能一向是一样的。我们无法通过技术上把住源头，来限度所有滥用的出现，由于让工具变差属于剖腹藏珠。但是，我们仍有机遇，通过惩治造成恶劣影响的使用者自己，让人知路怎么用，却不敢这么用。本文使用 GLM-5.1 辅助写作，写于 2026.4.23本文来自微信公家号：航通社，作者：航通社