Recommenders with TensorRT
作者：互联网
Recommenders with TensorRT
推荐系统用于向社交网络、媒体内容消费和电子商务平台的用户提供产品或媒体推荐。基于MLP的神经协作滤波器（NCF）推荐器使用一组完全连接或矩阵乘法层来生成推荐。 TensorRT推荐人示例的一些示例包括：
- Movie Recommendation Using Neural Collaborative Filter (NCF)
- Movie Recommendation Using MPS (Multi-Process Service)
- “Hello World” For Multilayer Perceptron (MLP)
3.1. Movie Recommendation Using Neural Collaborative Filter (NCF)
这个示例sampleMovieLens是一个端到端的示例，它导入一个经过训练的TensorFlow模型，并为每个用户预测最高收视率的电影。这个例子演示了一个简单的电影推荐系统，它使用了基于多层感知器（MLP）的神经协作滤波器（NCF）推荐器。
What does this sample do?
具体地说，这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。
Where is this sample located?
此示例保存在GitHub: sampleMovieLens存储库中的samples/opensource/sampleMovieLens目录下。如果使用Debian或RPM包，则示例位于
/usr/src/tensorrt/samples/sampleMovieLens。如果使用tar或zip包，则示例位于<extracted_path>/samples/sampleMovieLens。
How do I get started?
有关入门的更多信息，请参见使用C++示例开始。有关此示例的详细信息，请参阅GitHub: sampleMovieLens/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
这个示例sampleMovieLensMPS是一个端到端的示例，它导入经过训练的TensorFlow模型，并使用MPS（多进程服务）为每个用户预测最高评级的电影。
What does this sample do?
MPS允许多个CUDA进程共享一个GPU上下文。使用MPS，可以同时调度来自不同进程的多个重叠内核执行和memcpy操作，以实现最大利用率。对于资源利用率低的小型网络，例如主要由一系列小型MLP组成的网络，这对于提高并行性尤其有效。
此示例在功能上与使用神经协作过滤器（NCF）的电影推荐相同，但经过修改以支持多个进程中的并发执行。具体地说，这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用户。
Where is this sample located?
此示例保存在GitHub: sampleMovieLensMPS存储库中的
samples/opensource/sampleMovieLensMPS目录下。如果使用Debian或RPM包，则示例位于/usr/src/tensorrt/samples/sampleMovieLensMPS。如果使用tar或zip包，则示例位于<extracted_path>/samples/sampleMovieLensMPS。
How do I get started?
有关入门的更多信息，请参见使用C++示例开始。有关此示例的详细信息，请参阅GitHub: sampleMovieLensMPS/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
3.2. Movie Recommendation Using MPS (Multi-Process Service)
这个示例sampleMovieLensMPS是一个端到端的示例，它导入经过训练的TensorFlow模型，并使用MPS（多进程服务）为每个用户预测最高评级的电影。
What does this sample do?
MPS允许多个CUDA进程共享一个GPU上下文。使用MPS，可以同时调度来自不同进程的多个重叠内核执行和memcpy操作，以实现最大利用率。对于资源利用率低的小型网络，例如主要由一系列小型MLP组成的网络，这对于提高并行性尤其有效。 此示例在功能上与使用神经协作过滤器（NCF）的电影推荐相同，但经过修改以支持多个进程中的并发执行。具体地说，这个示例演示了如何为TensorRT可以加速的MovieLens数据集生成权重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用户。
Where is this sample located?
This sample is maintained under thesamples/opensource/sampleMovieLensMPS directory in the GitHub: sampleMovieLensMPS repository. If using the Debian or RPM package, the sample is located at /usr/src/tensorrt/samples/sampleMovieLensMPS. If using the tar or zip package, the sample is at<extracted_path>/samples/sampleMovieLensMPS.
How do I get started?
有关入门的更多信息，请参见使用C++示例开始。有关此示例的详细信息，请参阅GitHub:sampleMovieLensMPS/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
3.3. “Hello World” For Multilayer Perceptron (MLP)
这个示例sampleMLP是一个简单的hello world示例，演示了如何创建一个触发多层感知器（MLP）优化器的网络。生成的MLP优化器可以加速TensorRT。
Where is this sample located?
此示例保存在GitHub:sampleMLP存储库中的samples/opensource/sampleMLP目录下。如果使用Debian或RPM包，则示例位于/usr/src/tensorrt/samples/sampleMLP。如果使用tar或zip包，则示例位于<extracted_path>/samplesMLP。
How do I get started?
有关入门的更多信息，请参见使用C++示例开始。有关此示例的详细信息，请参阅GitHub: sampleMLP/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
标签：sampleMovieLensMPS,GitHub,示例,TensorRT,sample,Recommenders,MPS,samples 来源： https://www.cnblogs.com/wujianming-110117/p/13924019.html