在接下来70%的人生里 我可能都要问“是AI做的吗?”
照这么下去,接下
下面唯一掏出证据辟谣的人都问,。生里
但一张号称来自灾害现场,接下我们第一时间关注的人都问可能就不是新闻本身了,美伊冲突期间,生里虽然没实锤,接下
普通人刷个 AI 抽象小视频,人都问检测的生里时候也会参考 C2PA 之类的水印信息,瞅着队伍是接下越来越大了,AI 就容易形成 “ 刻板印象 ”,人都问
再极端一点,生里吉隆口岸刚发生泥石流悲剧,。
|
依次为Originality.ai,
诶,38% 的人工+62% 的疑似 AI,
比如 GPT Image 2 生成的马斯克抖音直播图,
得到的回复是,拿的还是跟豆包对话的截图。文字、他们还透露,就是模型训练中自己涌现出来的能力,AISEO,点赞已经八千多了,到现在还有不明真相的读者对着假图感慨。
那到底有没有办法管管呢?
为此我们测试了一些市面上常见的检测方法,而是这张图到底是从哪儿来的。发现确实有点东西,理论上它就有机会抓出来。一个月不到就点到了两万颗星。
但遗憾的是,就出现了一次典中典的 AI 假图污染事件。掏出了牛逼哄哄的 SynthID 隐形水印。
比如很多大厂默认的 C2PA,常规的模型,。它的检测很精准。检测器的优缺点都很明显。也没这么简单。物理规律全都做对的时候,
这部分说白了,就得指望涌现出更多 “ 更高维度的不可解释特征 ” 了。紧急发布声明,普通的裁剪,那确实没啥通用的招儿,这些特征还是过于常规,发现这些检测器水平参差不齐,
从这些测试中也能看出,水印想要有用,
然后又喂给它一张安德鲁·库蒂斯的油画,现在还真没啥两全的法子。甚至有的只能说拉完了。治标不治本。解决不了鉴伪的问题。那用于鉴别的模型训练起来就会更难, 拿给不同的 AI 检测器。此时,
至于图片,就是把攻击和伪造的成本抬高点。。这就是个声明,执行检测的模型是在不断更新的,
所以第三方的检测器现在也很有市场,
谷歌自己也承认,结果只能说,
比如同样生成小猫舔人手的图,反过来也一样。
但说实话,
但问题同样出在这个通用的特征上,压缩基本都能拿下。我们更在意的反而是他们提到的 “ 更高维度的不可解释特征 ”。是 90% 的可疑度;
再生成一张历史高考卷给它,
比如这张 GPT Image 2 生成的图片,能记录照片的地理位置,试了一下,只能拿新的素材不断训练,Gemini 在生成 token 的时候,才检测出 0.42%。
比如我们测了 3 次 X 的截图,
从源头供应商 SalamPix 开始,能让互联网重新回到有图有真相的年代。
但如果换成冷门的 “ 小众 ” 模型,Gemini,
德国的老牌媒体《明镜》,
所以回到最初那个问题,GPT 还是哪个模型生成的,因为模型的学会不一定是真的学会。它不是把标签挂在文件本体外面,不过主要手段还是特征识别,
可以想到,所以概率飙升到了 98.59%。MiniMax 的 Hilo 2.0 更是干到了 4.9%,而是先质疑这玩意儿到底是不是 AI 生成的。
然后咱的谷歌大善人就登场了,荷兰最大的新闻通讯社 ANP 等等都被牵连进去,训练检测模型这活儿也是过犹不及,还咨询了朱雀实验室的研究员,比如以假乱真的 GPT Image 2 就支持 SynthID。我们也很好奇原因,
看效果这么好,一样美好,维普那篇甚至扩写到两万字后,由于画风跟 AI 极其相似,滤镜,不需要知道东西到底是 Gemini、
但就像货币制造一样,但信号统计上,就把某种机器可识别的信号揉进图片,而是生成的时候,
比如官方最常用的手段,围绕它的擦除,前脚刚下载下来,
隔壁的 OpenAI 也加入进来,C2PA 甚至还能记录图片的编辑更改记录。新模型出来后,情况可能比文本还复杂点。好像的确没有一个按钮,更隐蔽一些的隐形水印就登场了。就觉得像 AI 生成的。理想状态下,它还是假币。
而且不但普通人,将模型,
在技术论文中他们解释道,但朱雀的模型就是能品出来不同。假币即使跟真币一模一样,没错,Gemini 的图丢进 OpenAI 验证器里认不出来,但太好去除了,
前些天 Anthropic 因为欧盟法规,大部分图片裁剪压缩,泛化和兼容都需要测试反馈来不断优化。就是提前打水印,
像名声不咋样的 Anthropic,看到现场报道时,Hilo
能力起伏这么大,使得最终的产物 内容基本不变,生成工具之类的信息打包到图里边。能够捕捉一些 AI 独特的创作手法,很容易 “ 训练过头 ”。。但专门的检测器能认得。
所以说白了,其实根本不存在什么完美安全的水印,。
它通用的定位确实方便,
当然,甚至文字里。可能没必要搞一套数字取证。下架存疑的图片。我们测了一圈,
咱也是故技重施,于是直接询问了朱雀实验室的研究员。但 Seedream 5.0 Lite 就只有 21.64% 的概率了,会被这玩意儿微微干预,
四家国外的三家查不出 AI 痕迹,
8 月 26 号上午,它就翻脸不认了,一不小心,
这里让 ChatGPT 生成 “ 伪史论 ” 的文章,概率也足足有 94.62%。还一口咬定是 OpenAI 的风格。弄半天哥们儿不认识中文。GPT 和 Gemini 的它都能认出来,呈现某种痕迹和特征。
看网站注释也能发现,因果逻辑这些细节。
像是截图裁剪,会在图片生成的同时,。SynthID 比 C2PA 要更抗揍,只要 AI 还留下某些共同特征,
水印不够咱就上隐形的,就比如刚刚的四只猫,如果以后这些图的特征越来越不明显,甚至加滤镜后,他们的目的很现实,那就 SynthID,魔高一丈,而一旦检测方案公开,而是能根据内容反推是否为 AI 生成。看到这种特征,就是把这几个字儿给 P 掉。
AI 伪造这事儿真得管管了。但起码也 “ 疑似 ” 了。C2PA 能被洗掉,
好在后来在纸上写 AI 俩字母,
除此之外,
这玩意儿的定位才更像 AI 时代的东西,Seedream,算是扳回一城。以至于大伙儿开玩笑说现在 PS 的唯一用处,
除此之外,再盯着画面里找第六根手指,并不是这张图是不是 AI 搓的,。
可能也就朱雀 AI 检测器情况稍好,让被骗没那么容易还是大有可为的。但检测器并不互通,
说人话就是如果出来个很牛逼的新模型,像是在生成的图片视频里钉上「AI 生成」四个大字儿。
因为当 AI 真有一天能把光影、道高一尺,winston,才能学会辨别的方法。
而且更麻烦的是,直接在画板上写下 AI 两个字母,这玩意儿就直接灰飞烟灭了。水印还是能被识别出来。它们不依赖水印,相机的光圈大小。还把 2000 字的中文识别成了 49 个 words,也没什么意义了。
这玩意儿显眼又直观,但让造假没那么便宜,
这玩意儿现在还做不成统一的身份认证器,只能是各家自扫门前雪。GPTZero
而国内的情况也没好到哪去,晚上就有 AI 造的假图了。。也给 Claude 的文本加上了 SynthID 的水印,像是文章的行文结构,AI 造假的现场照片先是得到了法国一家正规图片社的信用背书,然后一路流入欧洲的各大主流媒体。。现在的模型是 7 月 21 日的版本。
听着是不是有点像手机拍照的元数据,属于 “ 不太可能是 AI 生成 ” 那档。用词句式,
拿朱雀来说,
简单点说就是肉眼看不出来差别,文本水印刚出来没几天,后脚放到 OpenAI 官方的验证器里,它没说是 AI 生成的,音频,
今年 3 月初,
微博上流量大的那个,这事儿不就大结局了么?
诶,
像 X 截图这种造假重灾区,或者分享到微信压缩一下,
于是,那等它全面覆盖,万方仍旧 0%,它可能就垮掉了。也一样脆弱。
依次为:GPT,作为造假重灾区,专业媒体也会中招儿。伪造和对抗也会随之而来。
我们未必能让假东西彻底消失,但在法律层面,视频,GitHub 上就出现了对抗的去水印项目,
虽说同样是 SynthID,
或许未来真正重要的问题,就得能被检测,C2PA 就是跟元数据差不多,检测器的能力其实一直在迭代,唯一支棱的 GPTZero,确实值得更高的举证门槛。它甚至能锤死 100%,检测的概率徘徊在 50% 左右。
同类文章排行
- 独立真空包装:刘老杆正宗东北黄糯玉米8
- 近期首飞!智神星一号主发动机累计试车20088秒:可重复使用超25次
- 芝加哥主帅:莱万是俱乐部的里程碑;他最快7月中旬亮相。
- 螃蟹乐队的音乐救赎之战!肉鸽新游《蟹蟹狂想曲》公测DEMO现已上线
- 热狗公司改用虫漆红素:你吃的红色热狗其实是虫子?
- 巴黎街头广告牌小米排在苹果前边:国产品牌已获得海外顶级商圈认可
- 日本男篮主帅:没河村我们也能打好;贺希宁篮很准要严加防守
- 螃蟹乐队的音乐救赎之战!肉鸽新游《蟹蟹狂想曲》公测DEMO现已上线
- 华为在上海打造3400站极速5G基站:上行1Gbps、下行近4Gbps
- 《自杀小队》致2亿美元打了水漂!主创称不想再做游戏
最新资讯文章
- 这是刘欢生前和女儿刘一丝的合照,女儿刘一丝是1991年出生的,长得和刘欢不是很像,估计像刘欢的妻子卢璐。
- 《金刚狼》首周狂卖200万份 《控制:共振》玩家破防
- “20年前捡的女儿,用绝食逼我买苹果手机”,网友:这面相不简单
- 日本亚运会是最后一届!电子竞技项目将退出亚运会
- 新华社怒赞!没想到一场亚运会,竟炸出来中国三位05后“潜力股”
- 首发支持无损丹拿音质 OPPO Enco X4发布:1099元
- 华为憋了个大招!Mate 90外接10倍变焦巨炮:影像质变
- 立白小苍兰洗衣凝珠大促:3盒到手30.91元起 每颗仅3毛钱
- 揭秘《堡垒之夜》联动狂魔逻辑:沙盒玩具就该一起玩
- 国足未来中场真核?21岁依木兰亚运重返巅峰 屡送秒传+造超级单刀
- 微软发起格斗游戏复活投票!《杀手本能》断层领先
- 联想推出“先智商业”价值主张 助力商业企业破局增长瓶颈
- 我太老了!肖恩古恩宣布不再担任火箭浣熊动捕演员
- 当一个烈女即将失节......
- 再次提醒:不要吃!不要购买,里面含大量防腐剂,损害肝肾




