漏洞挖掘365天挑战——Day052:blackhat议题之AIModel-Mutator: Finding Vulnerabilities in TensorFlow

链接:https://www.blackhat.com/eu-21/briefings/schedule/#aimodel-mutator-finding-vulnerabilities-in-tensorflow-24620

API fuzzing 不能发现隐藏在复杂代码逻辑中的深层漏洞,是因为这些漏洞必须在特定的上下文下才能够触发,而API fuzzing很难构建这种特定的上下文,

作者发明了一种新的机器学习框架的fuzzing方法,用来帮忙寻找这样的深层漏洞。

他们编写了一个叫 AIModel-mutator的fuzzing工具并在TensorFlow上进行了测试,发现了6个漏洞。

其实有输入就可能有漏洞,机器学习模型也是一样的

随机突变是不能解决的,提出了一个叫结构感知模型突变

先把模型文件加载,在模型的graph上进行突变

然后在输入的tensor上做一些随机行的fuzzing

输入的时候,怎么来选值是个问题。 随机选择不是一个好的选择,要根据上下文来确定边界。

然后是多个tensor的组合

组合Ops的时候,tensor的维度是一样的,输入的值必须等于原来的长度

既然[1,3]报错。那么[None,None]呢

然后是Op的突变

然后是AIModel-mutator的流程

fuzzing tf的结果如上

Slides:

官方的介绍: https://anquan.baidu.com/article/1519

漏洞挖掘365天挑战——Day052:blackhat议题之AIModel-Mutator: Finding Vulnerabilities in TensorFlow”的一个响应

发表评论

Fill in your details below or click an icon to log in:

WordPress.com 徽标

您正在使用您的 WordPress.com 账号评论。 注销 /  更改 )

Twitter picture

您正在使用您的 Twitter 账号评论。 注销 /  更改 )

Facebook photo

您正在使用您的 Facebook 账号评论。 注销 /  更改 )

Connecting to %s