当前位置:99696大富豪棋牌 > 关于我们 > 99696大富豪棋牌以开发能识别深度伪造视频的工具

99696大富豪棋牌以开发能识别深度伪造视频的工具

文章作者:关于我们 上传时间:2019-10-03

Hany Farid是美国达特茅斯学院的一名计算机科学家,擅长检测图片和视频造假。他的客户包括大学、媒体组织和法院,他说图片造假不仅变得越来越频繁,也变得越来越高明。他向《自然》讲述了他与造假者之间你追我赶的“军备竞赛”。

“换脸”也逃不过数字侦探法眼 深度伪造视频有了鉴证工具

99696大富豪棋牌 1

99696大富豪棋牌 2

99696大富豪棋牌 3Hany Farid。图片来源:Eli Burakian/Dartmouth College

科技日报纽约8月8日电 由人工智能技术合成的虚假视频已达到几可乱真的水平,美国国防部设立的研究项目现已开发出识别这些虚假视频的首批工具。

新智元报道

本文为 AI 研习社编译的技术博客,原标题 :

鉴定造假图片的第一步是什么?

一种简单而又有效的做法是反向图片搜索。你把图片放到Google Image Search或TinEye里面进行搜索,它们会显示该图片还在其他哪些地方出现过。哥伦比亚大学的一个项目则将这个做法提高到新的高度,他们开始查找目标图片中从其它图片改换而来的部分。

一般而言,如果一张图片是假的,我们会考虑哪些图案、几何特征、颜色或结构会被破坏。例如,如果有人向一个场景里添加了一个物体,我们知道他们添加的阴影一般是错的。2012年,一段名为“Golden Eagle Snatches Kid” (“金雕抓孩子”)的视频被疯传,它是我最喜欢的案例之一。我们只用了15分钟就发现了阴影的不协调之处:老鹰和小孩都是电脑制作而成的。

制作虚假视频的最常见技术是使用机器学习技术将一个人的脸换到另一个人的脸上。由此产生的视频,也被称为深度伪造视频,不仅制作简单而且逼真度惊人,经熟练的视频编辑人员进行进一步调整后,还可使其看起来更加真实。

来源:IEEE Spectrum

Learning computer vision

如果造假手段非常隐蔽怎么办?

我们有大量分析手段可用。在彩色照片中,每一个像素都需要三个值——分别对应该点的红色、绿色和蓝色的分量。但是,大部分相机每个像素只记录一种颜色,并通过采用该像素周围像素的均值来填补空白。这意味着对于一张照片中的任何给定颜色来说,每一个缺失的像素都与其周围像素存在特定的关联,如果我们添加某物或进行修饰,这种关联就会被破坏,我们就能检测出来。

另一种技术叫JPEG压缩。几乎所有图片都采用JPEG格式存储,它们在保存的时候会损失部分信息。而每一种相机在存储时损失的信息量千差万别。如果使用Photoshop打开JPEG文件,然后再保存,最终一定会和原始文件存在细微差别,这个是我们可以检测出来的。我希望我可以快速鉴别你上传的任意图片的真伪;不过,目前鉴定仍然非常困难,需要专业知识才能发现其中不协调的部分。

深度伪造视频使用了被称为“生成建模”的机器学习技术,其允许计算机在生成具有统计相似性的假实例之前从真实数据中学习。最新的深度伪造技术拥有两个神经网络——生成对抗网络,其共同工作可产生更有说服力的虚假视频。

编辑:金磊

作者 | Romain Beaumont

谁使用你的数字取证服务?

我服务的组织包括美联社、路透社和《纽约时报》。全球专攻数字取证的专业人员屈指可数,因此工作范围有限,也就是说你只能分析一些真正举足轻重的图片。不过,有关方面正在为扩大分析范围而努力。去年,美国国防高级研究计划局(DARPA)启动了一个大型项目,我也参与其中。他们尝试在未来五年里创建一个系统,让你可以一天分析成千上万张图片。这是一个雄心勃勃的项目。

我也为法庭提供大量服务。例如,儿童色情作品在美国是非法的,但是电脑生成的儿童色情作品受美国宪法第一修正案“言论自由”条款的保护。如果有人因此被捕,他们可能说图片不是真的,那么我就需要证明这一点。我几乎每天都会收到有关图片骗局的电子邮件。

美国国防高级研究计划局为此设立了“媒体鉴证”项目,以开发能识别深度伪造视频的工具。该项目最初旨在实现现有鉴证工具的自动化,但最近将重点转向了人工智能生成的虚假视频。项目负责人马修·特鲁克表示,研究人员已在GAN操纵的图像和视频中发现了微妙的线索,从而使其能够检测到变化的存在。

DeepFake最近成了热点,也带来不少担忧。近期,针对DeepFake可能带来的负面影响,研究人员开发了一个基于神经网络的神奇,能够鉴别DeepFake图像的真伪。

翻译 | 黄伟聪、chesc

你的技术会应用在科学论文上吗?

我曾经有几次受雇于大学,调查学校内部的学术不端行为。不久前我去美国研究诚信办公室,他们问我“我们怎样才能获得自动化工具?”事实上,我们还未达到自动化程度。不过,创建一种每天检测几十张而非上百万张照片的半自动化流程还是可能的,它可采用诸如克隆检测等工具,查看图片中的某些部分是否是从别处复制粘贴而来的。我和同事都在考虑这件事,它虽然小,但却是DARPA项目的一个重要组成部分。

纽约州立大学奥尔巴尼分校吕思伟教授领导的团队开发了一种非常简单的识别技术。研究人员在观察深度伪造视频时发现,GAN技术生成的人脸很少眨眼,其一旦眨眼,眼球运动很不自然。这是因为,深度伪造视频是基于对静止图像的训练生成的,而静止图像的眼睛一般来说都是睁着的。

DeepFake的克星,来了!

校对 | 酱番梨 整理 | 菠萝妹

请谈谈假视频吧? 

现在,研究人员能够将名人镜头剪到一起制成视频,让他们看起来在说些他们实际上从未说过的话,比如奥巴马的一些视频。研究人员还能使用机器学习技术,尤其是可以学习生成虚假内容的生成对抗网络(GAN),制作虚假图片或短视频。这样,让一个生产虚假内容的网站与一个尝试鉴定真伪的“分类器”网站竞争,使造假网站在这个过程中快速增强。

我目睹了一流的造假技术,对此我感到非常担忧。在5-10年内,这些技术将达到一流水准。到达一定阶段后,我们将能够生成逼真的、包含音频的世界领导人视频,这令人非常不安。我想说数字取证技术已经落后于视频造假技术了。

参与DARPA媒体鉴证项目的其他团队也在探索自动捕捉深度伪造视频的类似技巧,如奇怪的头部动作、特别的眼睛颜色等。

自从DeepFake诞生以来,从照片到视频,造假能力可谓是出神入化,人们惊呼:“再也不敢相信自己的眼睛了。”由此所带来的道德伦理与法律的影响也可见一斑。

原文链接:

如何检测造假视频?

视频中也存在类似于JPEG压缩的特点,但是更难检测,因为视频采用一个更为复杂的版本。因此,可以采用机器学习技术来鉴别视频真假。不过,我们用以鉴定视频的方法和鉴定图片的方法相似:通过观察,发现电脑生成内容所缺乏的录制视频原本存在的瑕疵。电脑生成内容总是太过完美。因此,我们要考察的一点是:我们可以看到在现实世界中存在的统计特征和几何特征吗?

另外一种技术来自William Freeman及其MIT同事的杰出研究:如果视频中的人发生了极微小的变化,通过放大,你可以看到与脉搏率对应的人脸颜色的细微变化。这样,你就可以将真人和电脑生成的人区别开来。

达特茅斯大学数字鉴证专家汉尼·费瑞德认为,视频伪造者和数字侦探之间的人工智能博弈才刚刚开始,机器学习系统经训练后往往可超越新的鉴证工具。吕思伟表示,熟练的伪造者可通过收集显示一个人眨眼的图像来绕过他的眨眼工具,但其团队目前已经开发出一种更有效的新技术,要比伪造技术略胜一筹。

针对这一现象,来自加州大学河滨分校的研究人员最近便提出了一种基于神经网络的神器,分分钟鉴别照片真伪!

机器学习算法不能学习掌握这些特征吗?

原则上也许可以。但是在实际操作中,这些算法只有有限的时间和训练数据,很难控制神经网络会采用哪些特征来鉴别视频真伪。GAN只是尝试欺骗训练它的分类器网站。这不能保证它将学习到可以区别图片或视频真伪的所有特征,也不能保证它能糊弄别的分类器网站。

我的对手必须采用我使用的所有鉴定技术,训练神经网络绕过这些方面的分析:例如添加脉搏。这意味着我给他们的工作增加了难度。

这就是一场“军备竞赛”。在我们加速发展的同时,我们的对手也在开发更加精密的技术来增强音频、图片和和视频。只有当业余人员无法完美造假,这场竞赛才会终结。你不断增加造假难度,他们造假的时间和技能要求就越高,于是被抓的风险也越大。(编辑:Ent)

99696大富豪棋牌 4

最近,我已经阅读了很多与计算机视觉相关的资料并做了大量实验,这里介绍了在该领域学习和使用过程中有意思的内容。

本文经授权转载自Nature自然科研。

论文地址:

99696大富豪棋牌 5自动驾驶的图像分割

近年来,计算机视觉取得了很大进展。这些是我将在这里提到的主题:

该算法的初始测试从未经修改的图像到单个像素级的假图像,其准确率在71%到95%之间,具体取决于使用的样本数据集。

技术

该算法还没有扩展到包含对深度假视频的检测。

人脸检测:Haar,HOG,MTCNN,Mobilenet

DeepFake是把双刃剑,或成威胁社交媒体时代的新工具

人脸识别:CNN,Facenet

加州大学河滨分校电子与计算机工程学教授Amit Roy-Chowdhury表示:

目标识别:alexnet,inceptionnet,resnet

“DeepFake是经过修改的图片或者视频,可以向其中插入或删除一部分内容,这就改变了图片原来的含义。”

迁移学习:在一个新场景上用很少的资源重新训练大型神经网络

鉴别DeepFake的真伪在科研中可以说是一种挑战,而这种挑战的出现是因为它以一种人类肉眼无法分辨的方式被操纵着。

图像分割:rcnn

而在目前经济、社会快速发展的大背景下,无论是人道主义、产品发布或是竞选活动等方面,DeepFake的视频和图像可能会导致事情发展结果的黑白颠倒。

生成式对抗网络

试想一下,若是DeepFake技术被广泛恶意使用,那么我们可能会经常看见某位政治候选人涉嫌实施暴力犯罪、某位CEO承认其公司产品存在安全问题等等扰乱社会平稳发展的事情。

计算机视觉所需硬件:选择什么,关键是GPU

Chowdhury是这项研究的五位作者之一,他表示:

集成视觉的UI应用程序:ownphotos

这种检测算法可能是对抗社交媒体时代新威胁的有力工具。不过大家也需要注意不要过度依赖这些算法。过度可信的检测算法可能被那些试图传播虚假信息的人武器化。

应用

我认为我们必须小心处理与AI和机器学习有关的任何事情,我们需要了解这些系统给出的结果是概率性的。并且这些概率通常不在0.98或0.99的范围内,恰恰远低于此。我们不应该盲目接受它们。

个人图片整理

从这个意义上讲,DeepFake实际上只是网络安全中的一个新领域,网络安全是一场永远的军备赛,“好人”和“坏人”都在不断进步。

自动驾驶汽车

在这项研究中,工作人员利用当前文献中已有的概念,将它们以一种新颖而又强大的方式结合起来。

自动无人机

只要两步算法,DeepFake图像无影遁形

验证码识别/OCR

这个算法其中一个组成部分就是递归神经网络,它将问题中的图像分成小块,然后逐个像素地去观察这些小块。

过滤网站/应用程序上的图片

99696大富豪棋牌 6

自动标记应用程序的图片

算法结构框架

从视频中提取信息

神经网络已经在成千上万张深度伪造以及真实图像中进行了训练,因此它已经学会了如何在单个像素级别中凸显伪造痕迹。

视觉问答

Roy-Chowdhury表示,图像被篡改部分周围的边界往往包含着操作的痕迹。图像在被插入物体时,边界区域往往具有一定的特征。

艺术

99696大富豪棋牌,而那些故意篡改图像的人会额外在物体边缘区域下功夫,搞得过于平滑,争取让算法提取不出特征来。

关注的人

算法的另一部分就是通过一系列编码过滤器传递整个图像。从数学意义上讲,这些过滤器能够使算法在更大、更全面的层次上考虑整个图像的情况。

重要的深度学习创始人:andrew ng,yann lecun,bengio yoshua,hinton joffrey

然后,这个算法就会把从逐个像素输出的结果和更高层次的编码滤波器分析结果进行比对。 当这些并行分析在图像的同一区域触发红色标记时,就会被标记为“可能是DeepFake”。

adam geitgey 主页 有很多计算机视觉方面的有趣文章,比如 链接 有完整的人脸检测/对齐/识别流程

假如,一只小鸟的图像粘贴到了原本只有树枝的图像。

课程

99696大富豪棋牌 7

coursera 网站里的 deep learning 课程

在这种情况下,逐像素(pixel-by-pixel)算法可能会将鸟爪周围的像素标记为“有问题”。而编码器算法可能会在更大的层次上,例如其他边界问题或更大尺度级别的异常。

coursera 网站里的 machine learning 课程

只要这两种神经网络标记处鸟周围图像的同一区域,Roy-Chowdhury团队的算法就会把鸟和树枝的照片归类为“可能是DeepFake”。

相关领域

下一步,DeepFake视频也将“在劫难逃”

深度强化学习:把包含CNN的PPO和DPN看作输入层

DeepFake的图像目前已然能够鉴别真伪,那么下一步就是视频了。

与自然语言处理的交互:lstm 2 cnn

本文由99696大富豪棋牌发布于关于我们,转载请注明出处:99696大富豪棋牌以开发能识别深度伪造视频的工具

关键词: