美国国防部将开发针对信息欺骗攻击的逆向溯源技术
2020-07-08 17:15:56
来源： 中国新一代人工智能
“美国国防部高级研究计划局（DARPA）7月1日发布欺骗逆向工程（RED）项目招标书，旨在对信息欺骗攻击的工具链开展逆向工程。”
2020年7月6日消息，美国国防部高级研究计划局（DARPA）7月1日发布欺骗逆向工程（RED）项目招标书，旨在对信息欺骗攻击的工具链开展逆向工程。
机器学习技术在训练和部署时易受敌方信息战攻击，人类也很容易被伪造的图像、视频、音频和文本欺骗，欺骗正在信息战中扮演越来越重要的角色。
欺骗性信息攻击中，敌人试图篡改或操纵人类或机器学习系统使用的信息，从而改变计算结果使其对敌人更有利。欺骗逆向工程（RED）项目将开发能对如多媒体篡改、机器学习攻击或其他信息欺骗等攻击行为背后的工具链进行自动逆向工程的技术，并寻求开发可扩展的攻击工具链数据库。
项目第一阶段将开发可信赖的计算算法，以识别信息欺骗攻击背后的工具链。项目第二阶段将开发可扩展的攻击工具链数据库技术，以支持归因和防御。
此外，该项目还希望达成以下目的：开发对特定欺骗工具链不需要或只需要很少先验知识的技术；自动将攻击示例聚在一起，以发现欺骗工具链族群；概括总结机器学习和媒体操纵等多种信息欺骗场景。
