CUDA推理不够快英伟达专家教你用TensorRT搞定深度模型

责任编辑NO。卢泓钢04692019-12-10 15:00:56  阅读:7054

NVIDIA TensorR是一个高功能深度学习推理渠道。它包括深度学习推理优化器和供给低推迟和高通量的深度学习推理应用程序的运行时。运用 TensorRT,您能够在干流框架下优化神经网络练习模型, 在确保高精度输出成果的一起校准低精度数据类型,并终究布置到超大型数据中心、嵌入式或许汽车产品渠道。

12 月 12 日,NVIDIA 开发者社区高档讲师何琨将来带线上共享。本次共享针对有模型练习常识布景的技术人员,首要介绍 TensorRT 6.0 的最新特性,以及怎么运用 CUDA和 cuDNN 创立新的组件。经过本次共享,您将了解以下内容:

TensorRT 6.0 的功能特色

TensorRT Plugin 的完结办法

TensorRT Plugin 的开发办法细节

cuDNN 的运用技巧

本次线上共享概况如下:

主题:运用 TensorRT 加快推理成果核算—运用 CUDA 和 cuDNN 创立组件

日期:2019 年 12月12日, 周四

时刻:20:00-21:30

讲演嘉宾

何琨 (KEN HE)

NVIDIA开发者社区高档讲师

具有多年 GPU 及人工智能开发经历。在人工智能、核算机视觉、高功能核算范畴从前独立完结过多个项目,并且在机器人和无人机范畴有丰厚的研制经历。曾针对图像识别、方针检测与盯梢等方面完结多种解决方案 , 作为首要研制者参加 GP 版气候形式 GRAPES。

TensorRT介绍参阅:https://developer.nvidia.com/deep-learning-software。

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!