迈向白盒，可解释的AI(VB Live)的3个关键

 
黑匣子AI近期风靡一时，Basecamp的首席技术官David Heinmeier Hansson在Twitter上发泄关于他和他的妻子在Apple信用卡上信用额度存在重大差异的信息。尽管实际上他们一起提交了纳税申报表并且她的信用等级更好，但他的信用额度却比她大20倍。当他们俩打来电话时，该公司的代表无法解释差异，他们的AI算法决定了每个申请人的限额。
该公司发表声明，表明他们对自己的系统充满信心。不幸的是，尽管苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)在推特上发表了关于他和妻子的类似经历的推文，但这个故事变得更具吸引力。更不幸的是，华尔街的一位监管者对卡的发行人高盛(Goldman Sachs)展开了调查，以确定纽约是否违反了有关性别歧视的法律。
这并不是黑匣子AI算法中的第一次偏差使一家公司陷入困境-参见亚马逊招聘算法立即开始歧视女性-但它应该是最后一种。在诸如此类抢占头条的重大案例中，消费者越来越对只将the绳移交给无法检查或质疑的算法的想法越来越感兴趣。
公司开始将目光投向白盒或可解释的AI。这不仅是避免成为头条新闻，而且还可以通过多种其他基本方式为企业带来收益。有偏差的算法会在错误数据输入时发生，但是直到下线才感觉到影响-通常直到为时已晚。公平，负责和透明(FAT)的机器学习可以防止小错误(包括有偏差的数据)被放大。理解算法的基本原理仅有助于使算法从一开始就变得更好，更强大。
当项目的各个部分可以在部门之间来回传递，讨论，分解和重新校准时，您的公司内部的发展也将变得更加协作壮大，并且具有完全的洞察力和透明度。长期以来，孤岛一直以各种各样的方式被认为对业务不利：机器学习和AI项目的孤岛后果同样严重，甚至更大。打破这些孤岛的好处更大。
将来，它也可以证明您的技术-而不是在出现错误时释放全部工作，您可以查明问题并从内到外进行修复，修复和改进-再次，创建一个更强大，更值得信赖的产品。
从黑匣子中爬出来确实需要一些努力，但是有些公司还是赞成。要想成功实现所有AI项目，必须具备三个关键要素：将数据科学转变为所有业务部门之间的协作，而不仅仅是IT;值得信赖的数据以及可以进行彻底审核的工具;以及整个公司中数据的民主化—孤岛破裂，所有受过机器学习和AI教育的员工，数据的工作方式以及为什么它很重要。
白盒AI不仅具有公司和底线的商业价值，而且在商务，商业和社会各个领域朝着更负责任的AI方向发展的努力。
要了解有关为什么白盒AI是人工智能必不可少的进化，白盒AI减轻的风险，如何朝着可解释的AI迈出第一步的更多信息的更多信息，请不要错过本VB Live活动。