您现在的位置是：首页 > 财经网站首页财经

AI正在使用人工智能来对抗游戏社区中的有毒行为。这家伦敦公司创建了Ally社交智能工具，用于解读在线对话，并监控网络欺凌是否正在发生。

据Spirit AI创意合伙人总监、纽约大学游戏中心助理艺术教授米兔坎达克介绍，这是纽约大学研究人员的心血结晶。该公司利用人工智能、自然语言理解和机器学习来帮助数据科学和客户服务团队了解在线社区的总体趋势。这也有助于在问题升级之前进行预测。

Ally考虑上下文、细微差别和用户之间的关系，并寻找和阻止关键词。该软件使用自然语言理解和AI来识别消息的意图，然后分析行为和反应来确定其影响。它可以识别网络欺凌。

Spirit AI最近推出了许多新功能，其中一些在今年的游戏开发者大会上宣布，作为新的公平竞争联盟峰会的一部分。产品改进包括新的智能过滤器、基于网络的更新和可定制的前端、基于节点的直观界面以及GDPR(新欧洲隐私法)合规性。另一个产品，角色引擎，是一个自然语言人工智能框架，用于用代理、历史和知识构建自主角色。

坎达克说：“我们正处于这些事情发生的时刻，人工智能可以提供帮助。

坎达克最近在伦敦的休闲连接欧洲活动中谈到了盟友。之后我和她谈过了。这是我们采访的编辑记录。

米兔坎达克：Ally确实是一个工具，可以分析社区的社会景观，真正了解他们的语言和背景。当你看到一个玩家和一个非玩家角色(NPC)之间的对话时，我提到的关于对话的一切也适用，对吗？但是这一次，看着玩家之间的那些东西。谈话非常微妙和具体。

作为一家公司，两种产品的理念同时出现。我们一开始讨论的是“当你真正理解了语言，当你真正理解了语境中的行为，这种可能性是什么？”很明显，有一个能够自然与人物对话的梦想。我们正在帮助实现这一目标。但就个人而言——我们几乎在三年前创立了精神。这是Gamergate的一年，当时我和很多同事都是目标。我认为，如果我们真的理解微妙的对话，网络骚扰是一个试图解决的关键领域。

你不能确定关键词的骚扰。语言改变。朋友之间的语言可能是好的，但那些完全无害的东西——听起来像陌生人突然开始——有人可能会发明一个新的诅咒词，对吗？如果你的系统不知道，或者是故意拼错了，这一切。如果他们试图恶意，人们会尽可能绕过这些系统。

系统善于理解上下文。有几个方面。一种可能是试图从语义上理解这个词的意思，从它的使用方式。另一种可能是——这是一个关键的问题，它试图找出双方是否同意这种语言。回到这个例子，假设我最好的朋友决定叫我一个名字。我很好。她可以随意打电话给我。这是一种双方都同意的关系。我知道她不是故意的。我不会说，“别这样。”

但是，如果一个陌生人用了同一个词——一些随机的网友开始抛出同样的侮辱——我可能会沉默不回应，这表明我可能不会和这个人进行双向对话，或者我可能会说“走开，别管我”，口头上表达一些不同意。或者我只是注销。

这是为了让社区更安全。明白什么会特别伤害他们。他们不同意什么？基本上，通过使用这些工具，你可以减少这些类型的互动，让人们感到安全并回来。这就是它如何让玩家的生活变得更容易。

在社区管理和社区主持人方面，我们的一个重要愿望是，如何利用AI这样的东西来减少情绪劳动？这些是围绕人工智能的一些更大的哲学。关于人工智能的讨论很多，自动化是否会取代工作等等。这是现在谈话的一个重要话题。无论你降落在哪里，我们可以用人工智能做的一件事就是减少人们不得不做的情感工作。

当你看到真正辛苦的工作，比如社区审核主持人，你知道，你一定读了这么多可怕的评论。随着时间的流逝，事情会向你走来。据报道，在这些病例中，人们因日复一日暴露在外而接受创伤后应激障碍治疗。人工智能可以帮助我们的一件事是减少情绪劳动，自动消除一些他们必须看到的坏事情。

人们总是认为人工智能做无聊的工作，比如卡车驾驶，但是-

坎达克：是的，但是人工智能是在做情绪工作吗？我认为这非常有趣，因为我们带来了更健康的劳动力。

GamesBeat:你对话中关于“蛋糕是谎言”的部分让我很好奇。这是真实的伊莱扎对话吗？

坎达克：哦，是的，那是伊莱扎的真实对话。伊莱扎所做的事情之一是恢复用户之前说过的话，并在其上的特定计算机上重复。正如我所说，治疗师说的治疗模式，“这很有趣。告诉我更多关于蛋糕的事情。”这是

是它的工作原理。

GamesBeat：当我还是英语专业时，我们处理的是结构主义等不同的理论。你有一个故事弧。这是人工智能可以复制的一个例子吗?它可以创造自己的叙事，故事的情感弧线吗?

Khandaker：当然。您可以通过多种方式查看它。如果你看一下你和你正在谈论的角色之间的故事如何展开，你可以建立一个弧形。你可能会说，经过一段时间，或者这么多的会话动作，你想要加剧这个戏剧。你想让角色突然生气。他们生气了什么?他们想要提出一件特别的事情，他们一直想和你谈谈。

这是实现它的一种方式，实际上 - 当你通过对话展开故事时，这是你可以控制这种弧线的一种方式。你可以说，“这是我写的特别故事。以下是它可以展开的方式。“在适当的时候，角色会说某些事情，因为你最终建立了他们的信任或其他什么。这是我们可以通过我们的系统做的另一件事。