Richard Bartle访谈：游戏开发人员应如何思考智能AI角色

 
理查德·巴特尔(Richard Bartle)是视频游戏领域的领先学者之一，还是英国埃塞克斯大学计算机游戏设计的高级讲师和名誉教授。谈论人工智能的道德准则，他似乎是一个不寻常的选择，但是视频游戏开发人员长期以来一直在努力解决使用人工智能存在的虚拟世界的伦理问题。他们不仅必须考虑自己在自己的世界中创造的东西的伦理，而且游戏设计师还必须考虑在授予玩家对居住在世界中的AI角色的控制权。如果游戏开发者是众神，那么玩家可以是半神。
他最近在8月在伦敦举行的IEEE游戏大会上的一次精彩演讲中谈到了这个话题。我采访了他关于我们在AI，游戏和伦理学交汇方面的兴趣。他正在写一本有关游戏中AI伦理的书。他的目的是指出未来AI专家将面临的不寻常的道德和伦理问题。
我问有感觉的AI是否即将出现。他纠正了我，指出“智能AI”是正确的描述，因为它指的是有意识，自我意识和能够思考的AI。在我们在游戏中创建有能力的非玩家角色之前，Bartle认为我们需要一个道德体系。而且他不确定我们是否应该首先创建它们。 Bartle认为游戏开发人员就像他们创造的世界之神。他说：“控制现实物理学的人就是那个现实的神灵。”
GamesBeat：这似乎是一个有趣的话题，而且非常及时。我想，与今天的头条新闻相比，它感觉更重要。
巴特勒：我们思考了很多年的一般AI，即AI伦理。我在1980年代获得了AI博士学位。当时人们在谈论关于AI的一些事情-只是假设性的，但是尽管如此，我们仍在考虑这些事情。但是我在甲板上谈论的一些事情是与游戏和AI有关的，这是我们过去从未看过的。
通常，当您查看AI和游戏时，它会将AI用作武器，将AI用作控制人口的方法，或使用AI来提高自己的智力。当人工智能获得知情权并想杀死我们所有人时会发生什么?这种事终结者。线索就是名字。 (笑)但是我所看到的是不同的。
假设我们拥有这些AI，但它们处于口袋环境中，无法逃脱。除了通过我们，他们对我们无能为力。我们应该如何对待他们?对与错事实证明，当您研究这种哲学时，哲学家们还没有。他们并没有真正考虑成为一个掌控着智能生活的整个现实意味着什么。
神学家虽然有点，但他们只研究了我们的现实。他们没有看过我们是神的次现实。他们研究了我们的现实，提出了零到无穷大的神。这是另一个区域。但事实是，制作这些游戏的人对于控制它们的含义有实际的实践经验。
现在，我们没有感知力-智慧是正确的词。目前，我们没有智能的非玩家角色。我问的问题是，我们不知道何时获得它们。可能是10年，1,000年或一百万年。但最终，我们会得到它们。当我们得到它们时，我们将如何对待它们?对与错我就是这么问的
GamesBeat：就我们所说的而言，这似乎很重要。我知道它在幻灯片顶部。您可以将玩家称为神，然后，如果我们决定称自己为神，那么我们所做的一切都是合理的，对吧?
巴特：好吧，玩家不是神。设计师和开发商是神。他们控制着现实，世界的物理。玩家可以进入那里并拥有-我想您可以说他们拥有神灵般的力量，但他们无法改变世界的物理原理。他们具有超越非玩家角色的能力。例如，他们可以彼此交流，而无需NPC知道它正在发生。
GamesBeat：如果我们这么称呼自己，我们已经做出了一种道德判断，对吗?
巴特尔(Bartle)：回到龙与地下城(Dungeons and Dragons)的术语-神，半神和英雄-半神可能是客户服务人员。他们的权力超越了普通人，这是NPCS所拥有的。但是他们没有改变物理学的能力。玩家将成为英雄。他们要去那里，而且更大，更好，更优于NPC。但是他们不是神。他们没有客户服务代表所具备的全部能力。客户服务代表可能是天使。
GamesBeat：如果哲学家没有真正解决这个问题，参考材料是什么?像《西部世界》这样的作品做得更好吗? [笑]
巴特尔：奇怪的是，当《西部世界》问世时，我已经想到了这些事情。 《西部世界》电视连续剧的思想比70年代的原始电影要深得多。但是原始资料-本质上是形而上学。我读了很多关于形而上学和形而上学的东西。甚至有一本书叫《形而上学》，这是形而上学的形而上学。我一直在寻找哲学家关于世界如何构建的一些问题，然后说：“嗯，我们没有这个问题，因为我们必须这样做。”
这与AI和伦理学并不是严格相关的，但是例如，哲学家就存在一个问题，即一个对象是否可以与另一个对象共享相同的空间。如果我用一团粘土给我起个名字，那么每个人都知道这块黏土。这是一种特殊的颜色。大家都知道。然后我把那个粘土模制成雕像或其他东西。有人来了，谁不知道它是黏土，而是把它当作雕像。现在那里有两个物体。其中之一是粘土，其中之一是雕像。只是塑成雕像的粘土，塑像就是雕像吗?还是两个物体以某种方式叠加在一起?
作为游戏设计师，您实际上必须实现这一点。一个或另一个。您可以决定要选择哪一个。同样地，故事-These修斯的船吗?有人的船。或林肯的轴。是华盛顿的斧头吗?没关系。基本上是这样的情况：您有一艘船，一艘旧木船，并且船开始有些破旧，因此您要取出几块木板并更换它们。然后，您会注意到桅杆略微走了一些，于是您将桅杆取出，装回帆。最终，您替换了整艘船。是同一艘船吗?
此外，如果有人收集了您扔掉的所有物品并将它们粘在一起以使原始船由同一物品制成，该怎么办?那是同一艘船吗?还是另一艘船?如果这是一艘魔法船，那么魔法将附着在哪艘船上?是逐渐取代的那一种还是建造了的那一种?这些是哲学家可以永远讨论的问题，实际上确实存在，并且可能仍然会讨论。但是，当涉及到游戏开发时，您必须实现它。我们要使用哪些?
游戏开发人员深入了解成为一个掌控现实物理的人(如果您称其为神)意味着什么。因为他们有洞察力，所以他们可以说出哲学家和神学家可能感兴趣的事情。
GamesBeat：我们有模拟人生之类的神游戏。从这个意义上讲，上帝游戏中的玩家几乎就像是游戏开发商在创造游戏，并在其中创造实体。有区别吗?
巴特：有区别，是的。是的，在上帝游戏中，区别在于，您拥有上帝的力量，除了创造现实的力量之外。一个真正的，完全有能力的上帝可以改变世界。如果您不喜欢模拟人生或类似的东西，那么您可以在游戏中通过改变角色的世界来影响角色，而只是在程序限制内改变世界。您在模拟人生中拥有什么都没关系。您无法更改其基础代码。但是开发人员可以。
GamesBeat：我想这里有一个有趣的层次结构，您需要让模拟游戏中的玩家，游戏的设计师，然后是电子艺界首席执行官安德鲁·威尔逊，他是游戏开发者的上帝，告诉他们他们可以做什么不行
巴特：(笑)好吧，他不是神。他可以指导他们。但是他的工作原理与游戏开发人员(现实的物理原理)相同。如果游戏开发人员说：“我们只是坐在这里创造想要的游戏，”他可以解雇他们，但如果所有开发人员聚集在一起，说：“不，我们要留在这里拦路。自己在办公室完成游戏。”然后他必须去报警。然后，您会说“不，我们希望这款游戏完成”，他们全都以开发者为生。他们出去给警察解除武装，最后您召集了军队，那里发生了骚乱。但最终它们都在现实的同一物理中运作。他们试图利用现实的物理学来控制现实中人们的行为。
现在，开发人员可以做的另一件事就是费劲。 “好吧，我认为在更高的现实中有更高的力量，我将呼吁这一点。我要祈祷你不要这样做。”
谁是负责的人?
GamesBeat：我想我们要了解的是谁来负责?玩家具有某些责任和某些道德。但是，如果游戏开发人员允许玩家做某些事情或给予玩家较少的自由，游戏开发商也是如此。他们正在分担自己的责任和自己的道德观念。
巴特：游戏开发商是一个有趣的情况。游戏设计存在一个悖论，那就是您对玩家的行为施加了限制，以使他们腾出空间去做他们在没有受到限制的情况下无法做的事情。玩游戏时，您的行为可能会与现实中的行为有所不同，因为游戏为您提供了这种保护。他们称之为框架。
当您玩游戏时，您的行为所产生的影响与现实中的影响不同。就像您是舞台上的演员一样。如果您是舞台上的演员，并且开始使用种族主义语言，那么，如果这是戏剧的一部分，那么您将受到保护。如果您突然大喊“起火了!”，那不是戏中的一部分，也没有起火，那么您就要承担责任了。但是，如果这是剧本的一部分，并且您开始大喊大火，那很好，即使人们被踩死试图从假想的火中逃脱，也没事。
在游戏设计中，我们施加了这些限制，但是这些限制使您可以以通常无法正常使用的方式进行操作。在MMO(这是我的专业领域)中，它们使您能够以现实生活中无法做到的方式行动。但是，通过这样的举动，您可以更好地了解自己，从而以一种好的方式影响您在现实生活中的工作。无论如何，这就是理论。
显然有责任。因为您确实愿意，所以您可以武器化游戏。您可以和他们一起做很多事情。我当时在马蹄计划中的一个小组中，我们考虑过糟糕的游戏使用方式。糟糕地使用游戏实际上非常容易。如果我想创造一款游戏，我不知道会给人们带来腕管综合症，那我就可以。我可以给他们加油。我可能毁了他们的生活。
GamesBeat：听起来像《黑镜》。
巴特：是的，是的。我们没有发表该论文，因为如果这样做，可能有人会对其采取行动。我们真的不想要那个。事实证明，游戏开发人员和设计师总体上是非常道德的。
GamesBeat：您只是使我们陷入了循环。
巴特尔：我的主要目标，最终，在整个系统中，是促使人们思考，如果他们是NPC的上帝，他们将如何表现。正确的事和错误的事是什么?然后让他们说：“我不是NPC的神，但实际上我是NPC。我如何相信现实世界中可能存在或不存在的任何神灵-我认为它们的行为如何?根据我刚刚在我是神的情况下进行的思想实验得出的结论，他们的行为是否合乎道德?”
有智慧的游戏角色属性吗?
Westworld的主机是一次性的。
GamesBeat：如果我断言游戏角色是我的财产-我用60美元的价格购买了游戏角色-我可以对自己的财产做任何我想做的事情吗?这是一个问题。我想我们已经到了今天，借助强大的AI，AI是如此出色，以至于我们不再伪造它。然后，它似乎从财产越界了。
巴特：是的。 如果您说：“我拥有这个游戏，并且我可以做自己喜欢的事，因为我拥有它。” 您可能会认为自己拥有一些东西，但是却无能为力。 孩子将成为我的脑海。 他们是我的孩子，使用所有格，但我不能只是-是的，如果那天晚上我没有喝醉，这些孩子就不会存在。 这并不意味着我拥有全部权利。
如果我以设计师的身份创建游戏，并且游戏具有智能NPC，那么我会将游戏出售给其他人。
我不卖NPC。 我只是在出售NPC所生活的世界。 但是，当您失去兴趣并停止比赛时会发生什么? 所有这些角色都会消失并死亡? 您刚刚杀死了所有这些角色吗? 目前我们还没有答案。