4)gpu在四年时间里提速65倍
我们先从训练开始。全新pascal gpu的项目投资约20亿美元,是数千名工程师花费三年多时间的工作成果。作为首款经深度学习优化的图形处理器,pascal的网络处理速度比kepler图形处理器要快65倍。如果一台计算机配备八台通过vida nvlink连接的pascal图形处理器,即可创建有史以来最高吞吐量的互连结构,其网络处理速度比250台传统服务器还要快。”
‘’每天数百亿次互联网查询很快将需要人工智能,这意味着每次查询将需要进行数十亿次的数学运算。云服务的总负载将很庞大,以确保实时响应。为了得到更快速的数据中心推理性能,我们公布了tesla p40和p4 gpu。 p40使数据中心推理吞吐量加速40倍。这是超大规模数据中心的典型。”
”软件是vida深度学习平台的重要组成部分。在训练方面,我们有cuda和cudnn。在推理方面,我们公布了一款优化推理引擎tensorrt。tensorrt通过融合一个层级和多个层级内的操作,简化低贡献权重,将精确度降至fp16或int8,以及采用许多其他技术,从而改善性能,同时不损害准确度。”
”将来,数十亿计的人工智能设备,将利用深度学习来执行智能的任务。无人机将自主导航通过一个仓库,找到相关物品并捡取。便携式医疗仪器将利用人工智能,现场诊断血液样本。智能摄像机将学会向我们警告我们关心的情况。我们已经针对此类智能物联网设备,创建了一台高效能人工智能超级计算机。jetson tx1是一个信用卡大小的模块,只用10瓦功率就可以达到1 teraflop fp16性能。其架构与我们最强大的gpu相同,可以运行所有相同软件。”
”简而言之,我们提供一个端到端人工智能计算平台——从gpu到深度学习软件和算法,从训练系统到车载人工智能计算机,从云到数据中心到个人电脑到机器人。vida的人工智能计算平台无处不在,方便ai开发者使用。”
他的专业理解能力,让他能跟得上朱教授的节奏。
旁边专业速记的记者,打字速度都没他快,不时探头过来抄录。
一只小白手伸过来,不停地扯他的衣袖。
以为是小孩子捣乱,林燃看都懒得看,将小白手拨拉到一边。