链接：https://www.blackhat.com/eu-21/briefings/schedule/#aimodel-mutator-finding-vulnerabilities-in-tensorflow-24620

API fuzzing 不能发现隐藏在复杂代码逻辑中的深层漏洞，是因为这些漏洞必须在特定的上下文下才能够触发，而API fuzzing很难构建这种特定的上下文，

作者发明了一种新的机器学习框架的fuzzing方法，用来帮忙寻找这样的深层漏洞。

他们编写了一个叫 AIModel-mutator的fuzzing工具并在TensorFlow上进行了测试，发现了6个漏洞。

其实有输入就可能有漏洞，机器学习模型也是一样的

随机突变是不能解决的，提出了一个叫结构感知模型突变

先把模型文件加载，在模型的graph上进行突变

然后在输入的tensor上做一些随机行的fuzzing

输入的时候，怎么来选值是个问题。 随机选择不是一个好的选择，要根据上下文来确定边界。

既然[1,3]报错。那么[None,None]呢

然后是Op的突变

然后是AIModel-mutator的流程

Slides：

官方的介绍: https://anquan.baidu.com/article/1519