cwe - 1039:自动识别机制不足检测或敌对的输入扰动的处理
描述
产品使用一个自动化的机制等机器学习识别复杂的数据输入(如图片或音频)作为一个特定的概念或范畴,但它不正确检测和处理输入已修改或构造,导致检测的机制不同,错误的概念。
扩展描述
当使用机器学习技术,如自动输入流进行分类,这些分类是用来强调安全的决策,那么任何错误分类可以引入一个漏洞,攻击者可以导致产品做出错误的安全决策。如果自动机制不够发达或“训练”,输入数据,然后恶意攻击者可以手工输入,故意引发错误的分类。
有针对性的技术包括,但不一定是有限的:
例如,攻击者可能会修改路标或路面标记诱骗自驾车辆误读信号/标记和执行一个危险的行动。
的关系
此表显示了弱点和高水平类别相关的这一弱点。这些关系被定义为ChildOf、ParentOf MemberOf,并洞察类似项目可能存在的在较高和较低的抽象级别。此外,关系如PeerOf和CanAlsoBe定义显示类似的弱点,用户可能想要探索。
模式的介绍
不同模式的引入提供了信息如何以及何时可以纳入这一弱点。生命周期的阶段识别点的介绍可能发生,而相关的报告提供了一个典型的场景介绍在给定的阶段。
阶段
请注意
架构和设计
这个问题可以引入自动化算法本身。
常见的后果
这个表指定不同的个人相关后果的弱点。标识应用程序范围的安全领域侵犯,而影响了负面的技术影响,如果敌人成功利用这个弱点。可能提供的信息如何可能的具体结果预计将看到列表中相对于其它后果。例如,可能会有高可能性,缺点将被利用来实现一定的影响,但较低的可能性,它将被利用来实现不同的影响。
范围
影响
可能性
完整性
时使用的自动识别是一种保护机制,攻击者可以手工输入,误解的方式授予过多的特权。
弱点Ordinalities
Ordinality
描述
主
(缺点是一个质量问题,可能会间接更容易引入的安全相关的弱点或使他们更难检测)
这个弱点并不依赖于其他弱点和在优化选择的结果。
脆弱性映射笔记
用法:Allowed-with-Review
(CWE ID可以用来映射到实际的漏洞在有限的情况下需要仔细审查)
原因: 抽象
理由是:
这个CWE条目是一个类并会基本的孩子可能更合适
评论:
检查这个条目的孩子是否有一个更好的选择
笔记
的关系
需要进一步调查以确定如果更好的人际关系存在或者其他组织需要创建的条目。例如,这个问题可能是更好的相关识别的输入为一个不正确的类型,“这可能把它的兄弟姐妹
cwe - 704 (错误类型转换)。
引用
更多的信息是可用的,请编辑自定义过滤器或选择一个不同的过滤器。
描述
此表显示了弱点和高水平类别相关的这一弱点。这些关系被定义为ChildOf、ParentOf MemberOf,并洞察类似项目可能存在的在较高和较低的抽象级别。此外,关系如PeerOf和CanAlsoBe定义显示类似的弱点,用户可能想要探索。
