Google开源了LaserTagger，这是一种可加速文本生成的AI模型

 
序列到序列AI模型由Google于2014年推出，旨在将定长输入(通常是文本)与定长输出映射，其中输入和输出的长度可能会有所不同。它们被用于文本生成任务，包括摘要，语法错误纠正和句子融合，并且最近的体系结构突破使它们比以前更具功能。但是它们并不完善，因为它们(1)需要大量的训练数据才能达到可接受的性能水平，并且(1)通常逐字生成输出(这会使它们固有地变慢)。
因此，Google的研究人员开发了LaserTagger，这是一种开放源代码的文本编辑模型，可预测一系列将源文本转换为目标文本的编辑操作。他们断言LaserTagger以一种不易出错的方式处理文本生成，并且更易于训练和执行。
LaserTagger的发布紧随Google在自然语言处理和理解领域做出的杰出贡献。本周，这家科技巨头完成了Meena的开发，Meena是一个具有26亿个参数的神经网络，可以处理多圈对话。本月早些时候，谷歌发表了一篇描述改革者的论文，该模型可以处理所有小说。
LaserTagger利用了以下事实：对于许多文本生成任务，输入和输出之间通常存在重叠。例如，在检测和纠正语法错误或融合多个句子时，大多数输入文本可以保持不变-只需修改一小部分单词。然后，LaserTagger会产生一系列的编辑操作，而不是实际的单词，例如keep(将单词复制到输出，delete(删除单词)，以及keep-addx或delete-addx(在标记前添加短语X)字，并可以选择删除已标记的字)。
新增的词组来自经过限制的词汇表，该词汇表经过了优化，可最大程度地减少词汇量，并增加训练示例的数量。添加到目标文本的唯一单词仅来自词汇表，从而避免了模型添加任意单词并减轻了幻觉的问题(即产生输入文本不支持的输出)。而且LaserTagger可以高精度地并行预测编辑操作，与顺序执行预测的模型相比，可以实现端到端的加速。
对多个文本生成任务进行了评估，LaserTagger的性能“相当强大”，并且比使用大量训练示例的基线模型快100倍。即使仅使用几百或几千个培训示例进行培训，它也会产生“合理”的结果，可以手动编辑或整理。
该团队写道：“ LaserTagger的优势在大规模应用时变得更加明显，例如，通过缩短响应时间并减少重复性，改进了某些服务中语音应答的格式。” “高推理速度使该模型可以插入现有技术堆栈中，而不会在用户端增加任何明显的延迟，而改进的数据效率可以收集多种语言的训练数据，从而使来自不同语言背景的用户受益。 ”