基于TensorRT优化的Machine Translation

基于TensorRT优化的Machine Translation

机器翻译系统用于将文本从一种语言翻译成另一种语言。递归神经网络(RNN)是机器翻译中最流行的深度学习解决方案之一。

TensorRT机器翻译示例的一些示例包括:

Neural Machine Translation (NMT) Using A Sequence To Sequence (seq2seq) Model Building An RNN Network Layer By Layer

4.1. Neural Machine Translation (NMT) Using A Sequence To Sequence (seq2seq) Model

此示例sample, sampleNMT演示了使用TensorRT API基于TensorFlow seq2seq模型实现的神经机器翻译(NMT)。TensorFlow seq2seq模型是一个开源的NMT项目,它使用深层神经网络将文本从一种语言翻译成另一种语言。

What does this sample do?

具体地说,这个示例是一个端到端的示例,它采用TensorFlow模型,构建一个引擎,并使用生成的网络运行推理。该示例是模块化的,因此可以作为机器翻译应用程序的起点。 此示例使用TensorFlow NMT(seq2seq)教程提供并培训的数据来实现德语到英语的翻译。

Where is this sample located?

此示例保存在GitHub: sampleNMT存储库中的samples/opensource/sampleNMT目录下。如果使用Debian或RPM包,则示例位于/usr/src/tensorrt/samples/sampleNMT。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleNMT。

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleNMT/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

4.2. Building An RNN Network Layer By Layer

这个示例sampleCharRNN使用TensorRT API逐层构建RNN网络,设置权重和输入/输出,然后执行推理。

What does this sample do?

具体地说,这个示例创建了一个CharRNN网络,它是在莎士比亚的小数据集上训练出来的。有关字符级建模的详细信息,请参见char rnn。

TensorFlow有一个有用的RNN教程,可以用来训练单词级模型。单词级模型学习所有可能单词序列的概率分布。因为我们的目标是训练一个char级别的模型,它学习一组所有可能特征的概率分布,所以需要做一些修改才能使TensorFlow样本工作。

Where is this sample located?

此示例保存在GitHub: sampleCharRNN存储库中的samples/opensource/sampleCharRNN目录下。如果使用Debian或RPM包,则示例位于

/usr/src/tensorrt/samples/sampleCharRNN。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleCharRNN。

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleCharRNN/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页