为什么负责任的AI需要自下而上破坏您的组织(VB Live)

 
黑匣子AI如何产生令人不快甚至不道德的结果，已引起媒体的关注。埃森哲应用智能负责任的人工智能全球负责人鲁曼·乔杜里说，但是对话是如此复杂。当技术人员或数据科学家谈论黑匣子算法时，他们特别指的是一类算法，我们不总是了解它们如何实现输出或无法理解的系统。
乔杜里说：“仅仅是因为某种东西是黑匣子算法，并不一定意味着它是不负责任的。” “可以使用各种有趣的模型来使输出可解释，例如人脑。”
她解释说，这就是黑匣子AI系统实际上与负责任AI有重要关系的原因。负责任的AI可以用来理解和解开黑匣子系统，即使它在该黑匣子算法中也是如此。
Chowhury说：“当模型输出的接收者谈论可解释性时，他们真正想做的就是理解。” “理解是关于以对用户有益的水平提供帮助的方式来解释输出。”
例如，在讨论Apple Card的情况下，性别歧视算法给女人提供的信用要比给丈夫的信用低，客户服务代理告诉他，他们只是不知道为什么会发生这种情况。该算法只是这么说。因此，这不仅仅是关于数据科学家的理解。 Chowdhury解释说，这是关于客户服务代表能够向客户解释该算法为何到达输出及其如何影响结论的，而不是高层的“我们如何解开神经网络的包装?”的讨论。
她说：“正确解释，正确理解的AI，是要使人们能够做出正确的决定和最佳决定。”
为了实现创新的好处并应对潜在的负面后果，公司必须做的最重要的事情就是建立跨职能的治理。从您在考虑项目时，构想阶段，一直到开发，部署和使用的整个过程中，应该在每个步骤中注入负责任的思想。
Chowhury说：“当我们负责任地开发和实施AI时，我们不仅在考虑交付给客户的东西，还考虑我们为自己做的事情。” “我们认识到没有一种万能的方法。”
实施负责任的AI或道德AI的最大挑战通常是，这似乎是一项非常艰巨而艰巨的任务。从一开始，人们就担心媒体的关注。但是，随之而来的是更复杂的问题-负责任或道德上意味着什么?这是否意味着遵守法律，公司文化发生了变化等?
建立符合道德规范的AI时，将其分为四个支柱是很有帮助的：技术，运营，组织和声誉。
公司最常了解技术组件：如何打开黑匣子的包装?算法是关于什么的?
运营支柱也许是最重要的支柱，它支配着您计划的整体结构。这是关于建立正确的组织和公司结构。
然后，它渗入组织的第三个支柱，即组织如何聘用合适的人才，如何创建跨职能治理。最后，声誉的最后一个支柱要求在思考如何谈论AI系统，如何使客户信任您共享他们的信息以及与AI互动方面具有思想和战略意义。
乔杜里说：“对可解释的，负责任的人工智能的需求以非常重要的方式改变了数据科学领域。” “为了创建可理解和可解释的模型，数据科学家和客户团队将不得不非常深入地参与。面向客户的人员必须参与开发的早期阶段。我认为数据科学作为一个领域将不断发展壮大，以需要专门从事算法批评的人员。看到这种情况，我感到非常兴奋。”