订阅
纠错
加入自媒体

看IBM的AI辩论家项目(Project Debater)有多可怕

2019-04-10 10:13
来源: 与非网

部署辩论家项目的基础设施

为了保证项目进展的弹性,“辩论家”有两个同时运行的完整运行时基础设施。

现场辩论系统使用了IBM云和以色列海法实验室中运行的基础设施的混合体;

备份实例完全部署在IBM云中。

IBM研究院的运行时“辩论家”系统由以下部分组成:

主服务器是一个双插槽的IBM/联想系统System x3650 M5服务器。该服务器内置两个14核英特尔Xeon E5-2600 v4处理器和768 GB系统内存。一个实例部署在本地,一个实例部署在IBM  Cloud的达拉斯数据中心。

一个Elasticsearch集群。该集群包含四台裸机,每台机器具有64 GB内存、12个内核和两个960 GB的SSD磁盘。该集群同样部署了两个实例,一个部署在达拉斯的IBM Cloud中,一个本地部署在以色列海法。

一个Cassandra数据库集群。该集群包含四个Linux VM,每个VM具有32 GB内存和4个内核。该集群同样部署了两个实例:一个在达拉斯的IBM Cloud中,另一个本地部署在海法。

这些服务器使用IBM Cloud网络基础架构以10 Gb/秒的速度联网到一起。对于旧金山的现场辩论,IBM仅使用了10 Mb/秒的互联网连接将其现场控制笔记本电脑连接到IBM Cloud和海法的IBM研究实验室。

IBM Watson基于商业云的语音到文本服务和文本到语音服务。使用IBM Cloud Kubernetes群集上的女性语音运行文本到语音服务。

IBM Cloud上的Kubernetes集群上运行了其他服务,用于处理投票、事件流管理和后台屏幕呈现。

IBM为“辩论家”项目的舞台展示打造了一个自助服务终端,该中端只有两个扁平的屏幕,用于显示它的头像。

IBM没有在“辩论家”系统中使用GPU或者FPGA这些计算加速器。

IBM指出,“辩论家”项目的开发团队优化了其运行时模型,以满足辩论对手开场演讲和反驳发言时的一到两分钟的时间延迟。

令我们印象深刻的是,IBM的“辩论家”运行时系统部署在旧的主流服务器上,却依然表现良好。如果该系统使用当今最先进的服务器和存储系统的话,它的尺寸可能会显著降低,整个系统可能用6U机架高度就能部署完毕。

实时性挑战

“辩论家”不是那种蹦出一句短句快速响应的会话系统。它也没有设计成那种开始时几乎没有任何背景信息、需要在对话运行时构建上下文的对话系统,相反,每次辩论开始时,都已经以“决议”的形式给出了背景。这种辩论性质的会话由一系列短语和句子组成。“辩论家”要想参与活跃且响应迅速的对话,它的响应延迟应该控制在一到两秒的量级。

“辩论家”现在只注意捕捉对手的麦克风信息,它并不会倾听和观察观众的反馈。在现场辩论中,人类辩手会观察观众以评估观众对自己的论述的实时反映。请注意,是这些观众给辩手打分,辩手需要给这些观众留下深刻印象,而不是主持人。原则上,我们相信“辩论家”的继任者会增加一个全新的模型集合,以在视觉上评估观众(点头、无聊、兴奋等)的反应,以及在听觉上评估观众(拍手、喘气、轻笑等)的反应。但是,IBM最初并没有规划这一些,因为辩论并不是IBM在商业上所关注的点。没有人类观众参加的辩论赛寡淡无味,所以添加上这些反馈能力能够使得“辩论家”在演讲中改变论述的方向。此外,辩论家这一类的系统必须提前创建几种论述备选,以根据观众的反应动态地选择。

对于通过智能手机、网络摄像头等进行的群组发言和一对一聊天来说,解决掉观察观众反应问题将使得会话系统看起来更加人性化。21世纪AI的图灵测试应该更多地考虑人性化的影响。
拓展人类的知识

IBM的“辩论家”团队开发了20个基准数据集,所有的数据集都根据Creative Commons License(CC BY-SA 3.0)或GNU免费文档许可(GFDL)发布,包括:
19,276对维基百科概念;

5000个注释了情感的习语;

带注释的3,000个句子;

有关55个主题的2,394个标签声明;

由专业辩手录制的60篇关于争议话题的演讲。

IBM Research发表了32篇论文,描述了其在设计和训练Project Debater方面的大部分工作,IBM还在偏置检测方面做了大量工作,包括检测数据集中的偏差和检测训练模型中的偏差。 它还发布了一些描述性的文本片段,这些内容可以回溯到它的研究论文里面。

不过,分享研究论文和数据集是一回事,分享训练模型就是另外一回事了。如上所述,IBM研究院仅仅披露了其硬件的一些高层级的详细信息,但是并没有详细介绍软件框架、运行时模型集合中部署的特定训练模型。IBM发布了训练数据集,但是并没有公布特定模型的训练代码,也没有给出和其训练模型有关的任何权重数字。我们只能对其运行时软件架构有一个粗略的了解。当然,IBM已经明确表示过,当该技术商业化后将发布更多细节信息。

考虑到IBM正在通过其Crowd产品将“辩论家”技术商业化到其Speech服务中,所以它至今没有给出关于模型训练的详细信息也在情理之中。

这和OpenAI的套路实际上很相似。OpenAI也发布了不少博客和有据可查的论文,描述了带有15亿个参数的GPT-2“Transformer”模型背后的多任务学习算法,但是OpenAI也没有发布数据集、训练代码或者GPT-2模型的权重,只是发布了一些较小、功能较少的训练模型。

OpenAI在决定不发布模型时表示了这些模型可能会被滥用的可能性。但是,在它宣布不发布模型一个月后,它就宣布将通过一家剥离出来的公司将这些模型商业变现。

看来,人工智能刚开始都是瞄准一些有趣的事情和游戏,然后再用它做一些真正有利可图的事情。

监管AI

AI取得了难以置信的快速进步,但是人们还没有建立合适的文化反对人工智能的滥用。最近的SXSW互动会议上就有一个“智能未来”的议题,追踪了许多会议上凸显的对AI和道德的争论。

我们于今年3月11日参加了由欧盟赞助的小组会议:“该上法学院的算法们:人工智能的伦理”。该会议讨论的主题之一就是欧盟委员会即将出台的“值得信赖的AI应该遵守的道德准则”。该指南的最终版本将于4月9号或之前提交给欧盟委员会。

不过,在会议小组讨论之后的问答环节中,有一位记者断言人工智能将会成为一种过于危险的技术,并且声称“所有人工智能研究工作都应该停止”。这种论调本身并不令人震惊,真正让人震惊的是居然有大约三分之一的观众对此表示认同。

SXSW上关注的技术驱动的社会性问题通常领先大众一两年。目前SXSW对人工智能的道德伦理的强烈兴趣表明,未来几年内这一问题将进入社会大众的视野。我们的行业需要变得更加透明,以赢得更多公民和消费者的信任。

结论

IBM在2月11日举行的Think活动中进行了“辩论家”最后一次演示,“辩论家”输掉了这场辩论。但是,在辩论进程的过程中,IBM研究院通过“辩论家”向世人展示了一个可以可信地进行对上下文敏感、可达人类辩手水平的辩论系统。

IBM设计的“辩论家”和人类辩手展开了有意义的辩论,但是人类辩手和观众都清楚地知道它就是一个人工智能。在这个系统设计中,IBM研究院向论述中添加了一些笑话,并为之提供了根据纽约一位女演员构建的声音。不过,IBM研究院做了一些处理,使之成为一个明显的合成声音,但是该声音听起来并不单调,表现力还不错,这对于辩论来说很重要。

“辩论家”的开场比我们预期的要好得多,它挑战了我们对于自然语言处理(NLP)当前能力的假设。不过,在反驳和总结性陈词中,它没有分辨出人类辩手论点中的几个细微差别,也没有表现出对人类观众的同情心。正是在理解能力和同理心上面的差距使得“辩论家”进入了不可思议的“恐怖谷”。

显然,无论从哪个方面来看,创建一个可以参与这种开放性主题辩论的人工智能都是一个巨大的挑战。

当然,有人可能会争辩说,创建一个可以在随机主题上与人类辩手展开辩论(无论是赢了还是输了)的人工智能就等于通过了图灵测试。图灵测试是什么?“通过图灵测试”意味着什么。21世纪的AI的图灵测试也需要现代化,简单地说,我们对会话系统的人工智能测试需要更多地涵盖人文环境。

虽然IBM的“辩论家”令人印象深刻,但是,它想在未来的几年内走过“恐怖谷”依然非常困难。不过,IBM证明了此事可行,就已经赢得了战斗的一半。IBM在旧硬件上拼凑实现了对“辩论家”的训练是一项惊人的研发壮举。“辩论家”能够使用更新的硬件进行更快的训练和部署呢?现在还很难说,但是我们相信,其它人可能会在IBM的启发下,针对人工智能会话系统投入更多资源,我们将看到这个领域的快速发展。

可以肯定的是,会话系统将变得更加出色,更加复杂,这将影响未来的工作机会和社会结构,现在是时候对自然语言处理的未来进行认真讨论了。

<上一页  1  2  
声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号