接下来的情报:突破AI的确认偏见

经过迈克·谢伊(Mike Shea)

AI很擅长找到您所知道的更多信息,但并没有找到您从未想过要寻找的东西。让我们改变一下。

下载资源

研究替代假设是科学和情报分析的重要组成部分。确认偏见促使我们超重证据与我们最初的假设和相反的折现证据相匹配。情报分析师知道,直到获得足够的证据来支持它并且没有发现与之矛盾的证据,才知道不要太紧密地遵守假设。当前的人工智能(AI)系统帮助我们找到支持证据,但无济于事,可以帮助我们找到矛盾的证据。

AI擅长帮助分析师根据先前已知的示例自动化在大量数据中查找结果的任务。它可以在高架图像中找到重型设备,确定数以百万计的其他人的潜在兴趣的文件,然后将照片分为垃圾箱。AI更难帮助我们找到我们不知道寻找的东西,因为AI应用程序通常具有我们尝试避免的内置确认偏见。我们需要的系统不仅可以帮助我们找到支持证据,还需要一个或多个替代假设的潜在证据。

使用AI应用程序的两种潜在路径可以帮助分析师更彻底地研究替代假设。这些包括:

  • 通过使用机器学习算法的结合方法来“扩展网络”,以群集,分类和单词嵌入来识别初始研究之外的主题。
  • 通过旨在帮助分析师找到支持或与其初始假设相矛盾的信息检索系统来增强分析结构化论证。

此外,未来的投资对于确定替代假设对分析师更有价值的过程是必要的。这些包括提供更好的工具来帮助分析师组织其证据,同时确定其论点中的潜在差距;建立功能以强调将竞争假设分析到搜索引擎中;并确定AI可以协助分析师填写结构化的论点途径或寻找证据以支持其参数中的每个节点的方法。

AI可以在加强分析过程中替代假设的使用和有效性方面发挥重要作用,从而为IC的当前和未来客户提供更强有力,更准确的评估。