AI Tools阅读约 8 分钟

Pangram 标出图片的一角,编辑接下来该查什么?

Pangram Image 1.0 加入热图和逐帧视频筛查。看看如何把一次标记转化为有用的核验步骤。

K
Ken Jo

一位读者发来一段 12 秒的视频,拍的是积水的十字路口。前几秒像是从车窗拍的,最后几秒能看到水从一家店面涌出。投稿人希望编辑部发布的正是那一幕。该从哪里开始?可以筛查整段视频有没有合成内容,眼下更需要的是找出哪些帧值得和别的证据对照。

2026 年 11 月 4 日,AI 检测公司 Pangram 发布 Pangram Image 1.0 和 Image Flash 1.0。旗舰图像模型会用热图标出检测器认为与 AI 内容有关的区域。更快的 Flash 模型支持逐帧分析上传的视频,让审核者看到结果在何处发生变化。新版 API 扩展到图像和视频,Chrome 扩展也新增图像检测。Pangram 发布说明

可以把热图看成一支荧光笔,用它圈出店铺招牌、一片天空或视频中的几秒。编辑仍要搞清楚文件由谁提供、经过怎样的传播,以及它声称的事实能不能成立。如果一次判断会推迟报道或影响某人的名誉,这些问题就尤其重要。

2021 年 2 月冰雪消融期间,奥斯汀一处积水的十字路口。

奥斯汀第五街与 Guadalupe 街交会处的背景照片,Jno.skinner 于 2021 年 2 月 20 日拍摄,依据 CC BY-SA 4.0 裁切并调整尺寸。原始照片

将检测结果转到图像区域审阅、来源核对和编辑判断的处理流程。

Telli.sh 原创图解。检测器可以缩小查找范围,独立核验决定检测结果值得多大权重。

热图让人更容易索取对的证据

假设路口确实被淹,但视频中的店铺标识模糊得像经过数字处理。审核者可以请对方提供原视频,并找一张同一视角、同一时期的照片。高亮区域能帮人说清要查哪里。比较时仍要考虑阴影、运动模糊、防抖、裁切边界,以及平台在上传时改动过文件的可能性。

Pangram 在发布中用一张包含 AI 图像的照片展示热图。它说明一张照片里可以混有不同来源的内容。合成图也可以明确标注并被正当使用。实际问题是,改动有没有改变图像所陈述的事实。为保护隐私遮住路人脸,与把人群插进空荡的现场,是两种不同的编辑判断。官方热图示例

原始文件比叠加颜色的深浅更重要。群聊里传来的版本可能比原文件小,还缺少元数据。请发送者提供相机直接导出的未修改文件,或能找到的最早版本。把它与截图、裁切版和转载分开保存。每查一份衍生文件,就记录来自哪里、如何制作。如果平台缩图之后才出现标记,就把这种差异写进审核记录。

这次发布把最小输入尺寸从 512 × 512 降到 256 × 256 像素。Pangram 称,低于原来 512 像素的门槛时,服务会附上较低置信度的提示。小缩略图可以帮助寻找更好的副本或找到发布账户。如果它是唯一的文件,那么使用该检测结果作决定时,也应该写明这条置信度提示。输入尺寸变更

一次剪辑可以让视频前后变成不同的素材

设想一段为社交媒体拼接的 12 秒短片。开头是走近建筑的视角,中间广角拍到入口,最后拍到室内有水。三段可能各有来源,收到文件前也许就已经剪过。逐帧结果有用,是因为你可以直接跳到转场,对照前后的画面,并询问最早版本里是否也有室内片段。

把工具报告的位置当作时间码,先正常播放,再逐帧看。先排查普通编辑会产生的变化,例如剪切、交叉淡化、标题、截图或插入第二段视频。再把有争议的部分和事件地点、时间匹配。招牌、建筑外立面、天气或其他录像如果能独立支持一个调查方向,醒目的检测信号才更有价值。

有一种情况格外容易误读。假设一段真实视频附了自动生成的缩略图、后配解说和字幕条。上传者可能清楚这三项变化,相机原件却都没有。逐帧工具分析的是收到的画面。原音是什么、谁录的、日期对不对、缩略图是否代表现场,是几项不同的核对工作。

反过来也一样。三年前的真实视频可以通过合成图筛查,却被误标为当下事件。相机拍出的照片如果被写上错误地点转载,也有来源问题。说明文字必须准确时,反向图片搜索、事件记录和已知最早的帖子仍有价值。只围绕检测器设计的流程会漏掉这些问题。

厂商准确率需要和分母及实际发生率一起看

Pangram 称,图像评估以 100 张真实照片为起点,用 12 种生成器制作了 1,200 张对应的合成图。公告报告综合准确率为 99.96%,没有详细说明如何汇总。视频比较使用了 129 段真实社交视频和由 14 种生成器制作的 1,400 段合成视频。生成时用真实视频第一帧和原始动作描述作为条件,使对应视频题材相近。这些是 Pangram 为 11 月 4 日发布所报告的测试,可用于理解其设定内的比较。Pangram 图像与视频评估

为什么要让题材相似?如果真实视频全是地方新闻采访,生成视频全是幻想景观,系统按主题就能猜中。让场景、主体或首帧接近,可以减少这种取巧方式。实际分布仍然重要。租房平台上的室内图、转发照片、水印和旧房源,与基准测试的占比不同。审核门槛应该用接近实际队列的例子来定。

Pangram 还报告 Flash 在 DF26 上取得 98.7%。DF26 是一项独立的研究基准,以人物对镜头讲话的视频为主,研究者用合成与真实片段测量人和检测器的表现。描述证据时,把研究团队的基准与 Pangram 在该基准上报告的成绩分开。人物讲话视频的结果,无法给出截图、房屋看房视频或监控录像的实测检测率。DF26 研究预印本 · Pangram Flash 成绩

即使检测器表现好,也需要事先约定下一步。假设 1,000 个文件中有 10 个含相关合成编辑。一个假想检测器找到了其中 9 个,同时误报了其他 990 个文件的 1%。审核者会收到约 19 条提醒,其中约 10 条来自没有相关编辑的文件。这是一个独立于 Pangram 报告准确率的示例,说明队列中真正问题的占比会改变一次提醒的意义。

示例队列有 1,000 个文件,含 10 个经过相关编辑的文件,检出其中 9 个,另有约 10 个误报。

Telli.sh 原创图解。数值仅为示例,用来说明误报率看起来很小,审核队列里仍可能有不少误报。

审核场景要保留的证据有用的下一步
发给编辑部的照片最早文件、投稿人对拍摄过程的说明、发布裁切版用原件或另一个独立视角比较高亮区域
公开房源的上传视频刊登日期、上传版本、可疑时间码索取原始看房视频,比较从另一角度也能看到的特征
产品争议中的图片说法提交的原始文件、帖子 ID、审核备注核查同一照片是否出现在旧房源或商品页面,或画的其实是另一件物品
常规审核的授权图像来源协议、供图者描述、审核输出按适用政策确认是否披露了编辑或生成背景

让审核人员能解释自己的处理决定

商品交易平台和编辑部的出错代价不同。编辑部可以暂缓使用有疑问的图片,向记者索要更好的副本。交易平台可能作出影响卖家账户的决定。评估投稿的商家可以分别测三组有标签的样本。包括已核验原件、已知生成样例,以及缩放、压缩或编辑过的真实图像。加入难判断的文件,比如纸质照片扫描件、昏暗环境下的手机照片和带叠加内容的图像。

把错误记录为具体事件。统计审核者打开标记项的频率、找到可用于行动的独立证据的次数、被升级复核的真实原件数,以及每次审查用时。留意错误是否集中于某种拍摄流程,例如某系列手机的夜景照片。一个总分可能掩盖这种情况:总体看起来有效,却反复误伤同一批投稿人。

受决定影响的人应该知道自己能提供什么。卖家可以提交相机原件,或从另一角度展示物品。供图者可以交代发布历史或提交许可证。允许补充这些资料的目的,是解决具体事实分歧。检测分数可以成为进一步收集证据的理由。账户措施则应遵循交易平台自己的决策政策和审核流程。

也问问审核系统能否指出哪个文件和哪个模型产生了结果。同一场景经不同平台导出的版本,以及不同时间得到的输出,都值得单独记录。检测器更新可能影响之前处于边缘的文件。按保留政策把原件与审核记录存放在一起,直到能够处理可能的争议,再删除政策不再要求保留的内容。

开启自动接收之前,先做小规模试验

  1. 选一个范围明确的决定。 例如挑出哪些公开新闻线索需要第二个来源。把它与最后发布、删除或处罚的决定分开。
  2. 准备情况已知的样例。 从少量自己拥有或获准使用的原件开始。适当加入同一文件的重新编码版和已知合成或编辑版。记录上传尺寸,也记录文件声称的事件或主体。
  3. 核对接入路径。 Pangram 提供浏览器上传、Chrome 扩展和 API。只用组织批准处理这些文件的路径。发送私密或敏感材料之前,检查保留和访问条款。
  4. 核查区域与时间码。 给审核者提供源版本和支持结果所需的证据。影响重大时,让第二个人核对有争议的片段。
  5. 测量选定的决定。 将审核用时、有用的后续调查和误升级,与现有流程对比。能够解释一个标记如何改变工作流程之后,再加入自动化。

如果文件含有 Content Credential,查看签名记录实际证明了什么。C2PA 定义了可验证的媒体和编辑历史声明格式。每条声明都有签发方和适用范围。经过验证的记录给审核者提供具体的检查材料。没有凭证,也可能只是因为拍摄或分享过程中没有保留它。把凭证、来源方说明和检测结果当作同一事件的独立证据。C2PA 技术规范

重点在于何时升级处理。编辑部可以暂缓到第二个来源送到。交易平台可以请求一张清楚拍到物品的新照片。无论哪一种,都要说清缺什么证据,让处理人员有途径获取。结果指得出该查哪里,而下一步在审核队列堆满之前就已定好,检测才更有操作价值。

好的提醒会带来一个更具体的问题

有用的检测提醒给审核者一个具体动作。比如让编辑索取第 9 秒的原始帧,或让平台审核员把店面的裁切图和同一上传者的另一张照片对照。最终结论仍要依据与实际说法有关的证据。热图如果让问题问得更好,即使最初的标记后来被证明有误,它的贡献也看得见。

来源


想保留可搜索的讨论和来源判断记录,可以创建 Telli.sh 账户。


← 返回博客