IBM推出Policy Lab，倡导AI的“精确监管”

 
在明天将于达沃斯举行的世界经济论坛上举行小组讨论之前，IBM正式宣布了IBM政策实验室-该倡议旨在为决策者提供有关技术中新出现问题的建议。该小组将由IBM首席执行官Ginni Rometty，西门子首席执行官Joe Kaeser，白宫政策协调副参谋长Chris Liddell和经合组织秘书长AngelGurría主持。 IBM还概述了AI监管的一系列优先事项，其中包括一些针对合规性和可解释性的优先事项。
根据今天上午发布的新闻材料，政策实验室于2019年11月启动，它是建立“愿景”和可行建议的论坛，以“利用创新的好处并确保信任”。它由Niskanen中心国际法律和经济中心前高级政策研究员Ryan Hagemann和现任美国数字经济美国商会副主席的Jean-Marc Leclerc领导软件联盟欧洲，中东和非洲政策委员会的委员会和主席。为了执行任务，智囊团召集了公共政策，学术界，民间社会和技术界的利益相关者和领导人，以提出有助于应对全球挑战的想法。
IBM Policy Lab将发布支持行业和州决策过程的研究报告。它还计划制定“大胆”的政策立场，“期待明天的机会”，但打算相对较快地实施。 Hagemann和Leclerc在联合声明中写道：“我们的方法基于这样的信念，即技术可以继续破坏和改善公民社会，同时保护个人隐私”。 “随着技术创新的不断发展，我们为提高可信赖的数字未来的标准而肩负的使命再迫切。”
关于AI的问题，IBM Policy Lab呼吁其描述为AI的“精确法规”，即要求公司开发和运行“可信赖”系统的法律。 IBM提出的框架不仅考虑公司是AI系统的提供者还是所有者(或两者兼有)，而且还要解决由特定产品所带来的风险等级，该风险等级取决于与预期用途相关的潜在危害，自动化程度和人工参与，以及最终用户是否实质上依赖AI系统。
IBM提倡任命AI道德官员，以确保遵守提供商和所有者的期望。这些监管机构将负责内部指导和合规机制，例如AI道德委员会，该委员会将监督风险评估和危害缓解战略，并在提高公众对系统的接受度和信任度的同时，推动对负责任的AI开发，部署和管理做出承诺。
IBM策略实验室还针对不同级别的系统风险制定了特定的规则，以使公司对其AI的危害潜力进行高级评估，然后对高风险应用程序进行深入测试。 IBM表示，在后一种情况下，评估应以可审核的格式记录下来，并保留在商定的最短时间内。
IBM建议采用透明策略，即让消费者和企业清楚了解AI系统的目的，同时承认低风险系统可能不需要详尽的披露。就是说，该公司声称，市场上任何对个人具有“潜在重大影响”的确定或建议的AI系统都应能够解释并根据上下文得出其得出特定结论的方式和原因。
根据IBM Policy Lab的说法，AI系统的提供者和所有者应保留其输入和培训数据的审核记录，并且这些系统的操作者应提供详细说明必需的信息的文档，供消费者注意(例如，置信度，级别程序规则性和错误分析)。 IBM还表示，公司应测试其AI的公平性，偏见性，健壮性和安全性，并在部署之前和系统投入运营后采取补救措施。此外，公司应承担责任确保其系统的使用符合反歧视法律以及涉及安全，隐私，财务披露，消费者保护，雇佣和其他敏感情况的法规。
IBM建议，可以通过指定现有的共同监管机制(例如美国国家标准与技术研究院)来确定AI系统标准的定义，框架和基准，从而在政府一级实现这一目标。支持少数群体服务组织和受影响的社区努力与学术界和工业界接触，可以加快这些标准的制定，并且提供各种责任级别的安全港保护可以激励采用新标准和验证制度。
最后，IBM说，当涉及自动决策系统时，同样应禁止反歧视法律禁止的任何行动或惯例。 Hagemann和Leclerc继续说道：“在构建和部署人工智能的公司中，以及使用这种技术的消费者，信任至关重要。” “公司希望知道自己的AI系统如何做出决定，并遵守任何相关法规，而消费者希望知道何时使用该技术以及它如何(或是否)会影响他们的生活。”
IBM宣布这一消息是在Google和母公司Alphabet首席执行官Sundar Pichai呼吁对AI进行“国际协调”的一天之后，又是在欧盟委员会正在考虑对面部识别技术实行五年禁令的一周之后。白宫本月初发布了自己的拟议监管原则，并敦促欧洲“避免使用过分苛刻的创新杀人模式。”杰夫·贝佐斯(Jeff Bezos)在去年9月向记者发表评论时说，亚马逊正在起草面部识别法规，以向立法者推销。另外，微软高管呼吁立法者研究面部识别并制定指导其使用的工艺政策。
全世界AI系统的州级法规充其量只是零星的，而且公司一直在努力围绕技术开发采取持久政策。值得注意的是，谷歌解散了一个外部道德委员会，该委员会旨在在一周后监控其对AI的使用情况。