人工智能驱动的DNA证据分析存在透明度问题

 
DNA证据通常不像许多人想象的那样水密。在过去20年中开发出的敏感技术意味着，警察现在可以在犯罪现场或证据上检测出微小的DNA痕迹。但是，来自肇事者的痕迹通常会与其他许多人的痕迹(例如通过握手)混合在一起。这个问题导致人们被错误定罪。
科学家已经开发出算法来分离这种DNA汤，并测量样品中每个人的DNA的相对含量。这些“概率基因分型”方法使法医研究人员能够指出在犯罪现场发现的混合样本中包含个人DNA的可能性。
现在，正在开发更复杂的人工智能(AI)技术，以尝试提取DNA档案并试图确定DNA样本是直接来自犯罪现场的人还是被无辜转移的。
但是，如果这项技术成功，它可能会带来一个新问题，因为目前尚无法确切了解该AI如何得出结论。如果我们不能首先质疑技术是如何产生证据的，那么我们怎么能相信技术可以提供重要证据?它有可能为更多的流产开辟道路，因此缺乏透明度可能成为该技术在法医调查中使用的障碍。
十年前首次开发DNA分析软件时，也出现了类似的挑战。来自DNA混合软件的证据很快就遭到了国防部门(包括OJ Simpson部门)的挑战，他们担心控方应证明该软件已正确验证。
结果的准确性如何?已知的错误率是多少?该软件是如何工作的，并且可以适应防御假设?结果真的如此可靠，以至陪审团可以安全地定罪吗?
法律的基本原则是必须对证据进行公开审查。陪审团不能依靠秃顶的断言(无证据的断言)，无论是谁做的以及他们拥有什么专业知识。但是该软件的所有者认为这是他们受保护的知识产权，并且它的工作方式不应该公开。
随后发生了一场战斗，其中涉及使用新颖的法院程序，使国防小组可以私下检查该软件的工作方式。最后，法院说服法院需要完全访问源代码，尤其是要检验检方提出的假设以外的其他假设。
但是该软件尚未完全解决DNA混合物和降解的小样本的问题。我们仍然不确定到底是样品中的DNA是直接来自人还是被转移到人体内。不同的人以不同的速度释放DNA的事实使情况变得复杂，这种现象被称为“流落状态”。
例如，从谋杀武器中获取的样本所包含的DNA可能来自未曾触摸过的人，而不是实际谋杀的人。因此，人们被指控犯有严重罪行。
加上DNA在不同表面和不同环境条件下以不同速率转移的事实，几乎不可能确切知道样品中DNA的来源。这种“转移和持久性”问题有可能严重破坏法医DNA。
结果，正在进行实验以寻找在不同情况下更准确地定量DNA转移的方法。 AI具有分析这些实验数据的潜力，并可以用来指示样品中DNA的来源。
但是，基于AI的软件比概率基因分型软件所面临的透明性问题更大，而且这是目前工作方式的基础。软件运行的确切方式不仅是商业秘密，甚至对于软件开发人员也不清楚。
透明度问题
AI使用数学算法来完成任务，例如将面部表情与特定的一组情绪进行匹配。但是，至关重要的是，它能够通过反复试验来学习，并逐渐操纵其基础算法以变得更有效率。
操纵和变更的过程并不总是透明的。该软件会根据其自身难以理解的逻辑迅速地进行更改。它可以得出非常有效的结果，但是我们不能说它是如何做到的。它的行为就像一个接受输入并提供输出的黑盒子，但其内部工作是不可见的。程序员可以经历一个更清晰的开发过程，但速度较慢且效率较低。
此透明性问题影响了AI的许多广泛应用。例如，这使得纠正其决策表现出种族或性别偏见的AI系统非常困难，例如那些用于筛选雇员履历或定位警察资源的AI系统。
人工智能驱动的DNA分析的出现将为已经遇到的问题增加一个新的维度。即使该技术的使用仅限于情报收集而不是提供起诉证据，辩护律师也可以正确地挑战该技术的使用。除非尽早解决透明度问题，否则在法医领域使用人工智能的障碍可能无法克服。
我们将如何应对这些挑战?一种选择可能是选择效率较低，受限形式的AI。但是，如果AI的目的是完成我们能力不足或不愿自己完成的任务，那么降低效率可能是一个糟糕的解决方案。在刑事司法对抗系统中，无论我们选择使用哪种形式的AI，都必须具有审查的潜力，对所有自动化决策进行逆向工程，以及第三方提供明确的验证。
最终，这不仅是技术问题，而且是我们刑事司法系统核心的紧迫的道德问题。享有公正，公开和透明审判的权利受到威胁。这是一项基本要求，必须在技术进步如火如荼地进行之后，才能使我们超越无可挽回的地步。