选择语言
凯时官网NF5568M4助力猿题库深度学习应用
猿题库
网站：http://www.yuantiku.com/
组织规模：
行业：
凯时官网倚天系列产品NF5568M4基于最新Intel Haswell EP-2600V3平台 ，用于构建面向GPU异构超算、Intel MIC微异构盘算及NVidia Grid虚拟事情站解决计划。 凯时官网倚天超算提供优异的盘算性能、稳固的可靠性以及超高 IO 扩展能力 ， 适用于生命科学、数据剖析、金融盘算、量化盘算、石油能源、天气气象、工程科学、可视化、互联网深度学习、机械学习等应用领域 ，以及高端虚拟事情站应用。
项目剖析
猿题库是中国首个智能在线题库服务提供商 ，基于大数据应用的在线教育平台。
2013年2月 ，在线教育平台粉笔网推出新产品猿题库(yuantiku.com) ，猿题库提供了一个革命性的学习产品。提供历年考试最权威真题供考生训练 ，还能凭证考生的水平一对一智能出题考生只要在猿题库上最先答题训练 ，系统就会清晰的告诉他目今的能力水平、他的薄弱考点有哪些、若是加入今年考试预计能得几多分以及接下来需要 做什么问题。相关于古板的温习备考 ，这种在线智能做题的备考方法将大幅提升温习效率和效果。
这是猿题库基于大数据的剖析及人工智能算法等多项专利手艺而实现的。
营业应用
猿题库需要采购高性能 ，高效 ，稳固的服务器 ，可以提供高性能的并行盘算能力 ，作为其深度学习模子训练和人工智能应用的焦点IT硬件。猿题库深度学习训练和应用模子主要分为两种:卷积神经网络模子和递归神经网络模子 ，这两种神经网络法都是参考人类神经网络的仿生学盘算要领 ，将大宗的数据源通过神经网络法盘算之后获得切合需求的模子为最终的使用提供服务。
在模子训练及应用阶段面临大宗的手艺问题的挑战 ，总结下来至少有以下几个方面：
1）天天万万张级别的图片搜索请求；
2）天天十个亿级别的ORC识别（将图像转换为盘算机文字的历程）；
3）数理化重至公式的识别
4）手写内容识别
5）模糊/扭曲/明暗图片问题的修正
关于图像转换为文字的历程或许分为：图像预处置惩罚 ，图像切分 ，匹配 ，纠错和搜索。关于这几个问题里最大的挑战在于手写内容的识别和重至公式的识别。
由于每小我私家的手写习惯差别 ，识别手写体成为了图像预处置惩罚和切分之后首先要面临的挑战 ，通过大宗的样本找到手写习惯的配合特征 ，如习惯向右倾斜着写或者中文之间没有空格等。
然而不管是在基础教育阶段 ，照旧高等教育阶段 ，数学总是让人以为永无止境的难度学科。以是 ，在搜题请求里 ，有凌驾一半的搜索请求都是与数学有关 ，这就意味着有大宗的重至公式需要识别 ，好比根号 ，、分式、上下标的种种组合。这不但要举行准确的切分 ，还需要有合理的匹配识别。
凭证对客户需求的剖析 ，为了实现并行盘算的高性能、高可靠、高可用的特征 ，提高深度模子逊з、效果和线上服务的稳固可靠 ，降低一样平常运维本钱 ，我们接纳NF5568M4作为其人工智能应用的基础硬件平台。NF5568M4是专为盘算而设计的超算服务器 ，最大化精简了不须要的功效 ，并针对高性能并行盘算增添响应的功效和优化 ，为用户提供了更为稳固、可靠的盘算平台。
产品优势:
(1)支持GPGPU异构盘算架构
倚天超算引入GPU盘算单位,突破了简单CPU盘算单位的限制,接纳Intel最新Haswell处置惩罚器与NVIDIA GPU加速盘算手艺的协同,CPU和GPU协同盘算,CPU主要肩负越发善于的逻辑选择、判断跳转和IO通讯方面的职责,而GPU则专职盘算麋集型、高度并行的盘算事情,使得盘算资源合理的分派,盘算力被充分释放,盘算性能抵达从几倍到几百倍的增添.
(2)支持Intel MIC微异构
倚天超算引入MIC微异构盘算单位,微异构盘算单位坚持了与CPU编程的最大复用.至强处置惩罚器是古板多焦点CPU,而至强融核协处置惩罚器MIC则拥有众多的微内核,这些内核与CPU拥有相同的x86架构,可以在相同的编程情形下,甚至险些不必改动原有代码就可以在系统上顺遂运行.
(3)支持基于Grid手艺的虚拟事情站
倚天超算是构建高性能虚拟事情站的基础平台,将Nvidia Grid手艺、虚拟桌面手艺完善融合于凯时官网倚天产品,给桌面提供专业的图形盘算支持,并通过云端随时随地无缝地提供应恣意装备,用户不但得以充分体验清静、可管理、无邪的虚拟化优势,更能尊享媲美外地体验的互动性能.
(4)协调解理单位间高速IO交流手艺
凯时官网倚天为加速卡提供高速PCI-E3.0毗连, 确保所有板卡在全速IO速率运行.相关于古板PCI总线在简单时间周期内只能实现单向传输,PCI-E的双单工毗连能提供更高的传输速率和质量,它们之间的差别与半双工和全双工类似.凯时官网倚天接纳了PCI-E 3.0 x16,带宽抵达32GB/s.
(5)接纳Intel最新的QPI手艺
为了更好的施展CPU和GPU的协同效应,凯时官网“倚天”桌面超等盘算机接纳了Intel 公司的QPI(Quick Path Interconnect)手艺,最大可以实现高达9.6GT/s的传输速率,使通讯越发迅捷.QPI总线实现了多核处置惩罚器内部的直接互联,在多处置惩罚器作业下,每颗处置惩罚器可以相互传送资料,并不需要经由芯片组,从而大幅提升整系一切性能.
(6)CUDA编程情形
在GPU情形下,接纳CUDA(Compute Unified Device Architecture)通用并行盘算架构使GPU能够解决重大的盘算问题.它包括了CUDA指令集架构(ISA)以及GPU内部的并行盘算引擎.开发职员现在可以使用C语言来为CUDA?架构编写程序,C语言是应用最普遍的一种高级编程语言.
(7)微异构编程情形
在MIC微异构情形下,接纳与Intel通用编程情形相同的编译情形,可以接纳Intel Cluster Studio工具包举行统一软件情形的装置、调试等事情.Intel Cluster Studio工具包括了C/C++/Fortran编译器、MKL数学库、MPI通讯库、Inspector线程检查工具、Vtune调优工具等.
可靠&清静：
深度学习模子训练及应用支持 ，是在大宗数据源在并行算法下举行多条理、一连性迭代盘算的应用。并行盘算平台的稳固和清静是整个深度学习盘算能否完成的必备包管 ，是人工智能能力的要害组成部分 ，是典范的要害性应用。凯时官网NF5568M4通过最周全的现实测试和大宗的行业应用 ，并经由严酷的测试和验证 ，实时监控包管系统7*24小时不中止的运行。NF5568M4在上一代互联网行业大客户占有率100%的NF5588M3基础上举行全方位优化升级 ，进一步提高单机并行盘算能力 ，降低了每盘算焦点TCO。
高效&经济
GPU卡的麋集水平从某种水平上影响着深度学习的效果 ，在一最先我们就为猿题库提供了业内GPU麋集度最高的NF5568M4超算服务器。在相同CPU盘算能力下 ，该服务器的GPU设置数目比业内平均水平横跨50% ，并且最高支持的单卡盘算能力比业内主流水准横跨50%。在每台机械均具有“一机多卡”的GPU集群搭建能力 ，在设置高性能网卡情形下 ，可支持业内最高标准的“多机多卡”深度学习集群的组建 ，后期扩展性能强盛。
通过合理的盘算硬件选型 ，在线下模子训练时可以将训练时间提升5-6倍 ，而线上展望速率也获得2-4倍的提升 ，再经由语言模子的纠错 ，小猿搜题最终实现问题照相之后“秒懂你的心”的效果。
