Recommenders with TensorRT

Recommenders with TensorRT

推荐系统用于向社交网络、媒体内容消费和电子商务平台的用户提供产品或媒体推荐。基于MLP的神经协作滤波器(NCF)推荐器使用一组完全连接或矩阵乘法层来生成推荐。 TensorRT推荐人示例的一些示例包括:

Movie Recommendation Using Neural Collaborative Filter (NCF)
Movie Recommendation Using MPS (Multi-Process Service)
“Hello World” For Multilayer Perceptron (MLP)

3.1. Movie Recommendation Using Neural Collaborative Filter (NCF)

这个示例sampleMovieLens是一个端到端的示例,它导入一个经过训练的TensorFlow模型,并为每个用户预测最高收视率的电影。这个例子演示了一个简单的电影推荐系统,它使用了基于多层感知器(MLP)的神经协作滤波器(NCF)推荐器。

What does this sample do?

具体地说,这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。

Where is this sample located?

此示例保存在GitHub: sampleMovieLens存储库中的samples/opensource/sampleMovieLens目录下。如果使用Debian或RPM包,则示例位于

/usr/src/tensorrt/samples/sampleMovieLens。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleMovieLens。

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleMovieLens/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

这个示例sampleMovieLensMPS是一个端到端的示例,它导入经过训练的TensorFlow模型,并使用MPS(多进程服务)为每个用户预测最高评级的电影。

What does this sample do?

MPS允许多个CUDA进程共享一个GPU上下文。使用MPS,可以同时调度来自不同进程的多个重叠内核执行和memcpy操作,以实现最大利用率。对于资源利用率低的小型网络,例如主要由一系列小型MLP组成的网络,这对于提高并行性尤其有效。

此示例在功能上与使用神经协作过滤器(NCF)的电影推荐相同,但经过修改以支持多个进程中的并发执行。具体地说,这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。

注:目前,sampleMovieLensMPS只支持Linux x86-64(包括Ubuntu和RedHat)桌面用户。

Where is this sample located?

此示例保存在GitHub: sampleMovieLensMPS存储库中的

samples/opensource/sampleMovieLensMPS目录下。如果使用Debian或RPM包,则示例位于/usr/src/tensorrt/samples/sampleMovieLensMPS。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleMovieLensMPS。

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleMovieLensMPS/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

3.2. Movie Recommendation Using MPS (Multi-Process Service)

这个示例sampleMovieLensMPS是一个端到端的示例,它导入经过训练的TensorFlow模型,并使用MPS(多进程服务)为每个用户预测最高评级的电影。

What does this sample do?

MPS允许多个CUDA进程共享一个GPU上下文。使用MPS,可以同时调度来自不同进程的多个重叠内核执行和memcpy操作,以实现最大利用率。对于资源利用率低的小型网络,例如主要由一系列小型MLP组成的网络,这对于提高并行性尤其有效。
此示例在功能上与使用神经协作过滤器(NCF)的电影推荐相同,但经过修改以支持多个进程中的并发执行。具体地说,这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。

注:目前,sampleMovieLensMPS只支持Linux x86-64(包括Ubuntu和RedHat)桌面用户。

Where is this sample located?

This sample is maintained under the samples/opensource/sampleMovieLensMPS
directory in the GitHub: sampleMovieLensMPS
repository. If using the Debian or RPM package, the sample is located at
/usr/src/tensorrt/samples/sampleMovieLensMPS. If using the tar or zip package, the sample is at <extracted_path>/samples/sampleMovieLensMPS.

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub:sampleMovieLensMPS/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

3.3. “Hello World” For Multilayer Perceptron (MLP)

这个示例sampleMLP是一个简单的hello world示例,演示了如何创建一个触发多层感知器(MLP)优化器的网络。生成的MLP优化器可以加速TensorRT。

Where is this sample located?

此示例保存在GitHub:sampleMLP存储库中的samples/opensource/sampleMLP目录下。如果使用Debian或RPM包,则示例位于/usr/src/tensorrt/samples/sampleMLP。如果使用tar或zip包,则示例位于<extracted_path>/samplesMLP。

How do I get started?

有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleMLP/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页