单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,*,并行计算基础知识,*,单击此处编辑母版标题样式,,,,,单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,单击此处编辑母版标题样式,,*,并行计算基础知识,*,2024/10/5,并行计算,概述,1,并行计算概述,,,安俊秀,,软件工程学院,,并行计算实验室,6412,,云计算云搜索中心（成都,）,,如何满足不断增长的计算力需求？,用速度更快的硬件，也就是减少每一条指令所需时间,,,优化算法（或者优化编译）,,,用多个处理机,(,器,),同时解决一个问题,,并行计算,2,并行计算,概述,并行计算概述,3,并行,:,古老的思想,!,“...,并行计算并不是什么新的思想,,,只是将它扩展应用于计算机而已”,.,作者也不认为这种扩展应用会存在什么无法克服的困难,.,但也不要期待有效的并行编程方法与技术能够在一夜之间诞生,.,期间还需要有许多的工作和实验要做,.,毕竟,,,今天的编程技术,(,串行,),是若干年来艰苦的探索才取得的,.,现在编程工作似乎成了一种令人单调乏味的工作,,,事实上,,,并行编程的出现将会使重新恢复编程工作者们的探索精神,...”,(,Gill, S. (1958),,“Parallel Programming”,,The Computer Journal, vol. 1, April, pp. 2-10.),Parallel Programming with MPI,,by Peter Pacheco(2000),并行计算--高性能计算,,并行计算,(Parallel Computing,）,,,高端计算,(High-end Parallel Computing),,,高性能计算,(High Performance Computing),,,超级计算,(Super Computing),,,任何高性能计算和超级计算都离不开使用并行技术,,,The simultaneous use of more than one computer to solve a problem.,,由,由运行在多个部件上的小任务合作来求解一个规模很大的计算问题的一种方法,4,什么是高性能并行计算机,由,多个计算单元,组成，,运算速度快,、,存储容量大,、,可靠性高,的计算机系统。
也称为：巨型计算机、超级计算机,,,目前,任何高性能计算和超级计算都离不开使用并行技术,，所以高性能计算机肯定是并行计算机5,并行计算的概念,6,串行计算与并行计算,并行计算,概述,7,为什么要做并行计算？ －－应用需求,,8,9,计算科学,与传统的两种科学，即,理论科学,和,实验科学,，并列被认为是人类认识自然的三大支柱，他们彼此相辅相成地推动科学发展与社会进步在许多情况下，或者是理论模型复杂甚至理论尚未建立，或者实验费用昂贵甚至无法进行时，计算就成了求解问题的唯一或主要的手段为什么要做并行计算？ －－应用需求,10,为什么要做并行计算？,,人类对计算及性能的要求是无止境的,,从系统的角度,：集成系统资源，以满足不断增长的对性能和功能的要求,,从应用的角度,：适当分解应用，以实现,更大规模,或,更细致,的计算,11,为什么要做并行计算？,,问题,:,科学和工程问题的数值模拟与仿真,,计算密集,,数据密集,,网络密集,,三种混合,,,要求,:,在合理的时限内完成计算任务,,秒级 制造业,,分钟级 短时天气预报,(,当天,),,小时级 中期天气预报,(3~10,日,),,尽可能快 长期天气预报,(,气候,),,可计算 湍流模拟,12,13,其发展历程可以简单的分为两个时代,专用时代,,包括向量机，,MPP,系统，,SGI NUMA,系统，,SUN,大型,SMP,系统，也包括我国的神威，银河，曙光,1000,等。
之所以称为“专用”，并不是说它们只能运行某种应用，是指它们的组成部件是专门设计的，它们的,CPU,板，内存板，,I/O,板，甚至操作系统，都是不能在其它系统中使用的由于技术上桌面系统与高端系统的巨大差异，和用户群窄小普及时代,高性能计算机价格下降，应用门槛降低，应用开始普及两个技术趋势起到重要作用商品化趋势,使得大量生产的商品部件接近了高性能计算机专有部件,标准化趋势,使得这些部件之间能够集成一个系统中，其中,X86,处理器、以太网、内存部件、,Linux,都起到决定性作用机群系统,是高性能计算机的一种，它的技术基础和工业基础都是商品化和标准化14,Top500中的超级计算机,,地球模拟器,,ASCI Q,,ASCI White,,,15,Earth Simulator,,Earth simulator center,,Nec,,Rmax:35.86Tflops,,8*8*640,Earth Simulator,,,Earth Simulator,,ASCI Q,,1024 nodes,,8cpu/node,,10240Gflops,,7727Gflops,ASCI white,,LLNL IBM SP power3 Rmax 7.22Tflops,曙光,1000,曙光,1000,有,36,个结点机,;,,峰值计算速度为浮点,25.6,亿次,/,秒，实际达到,15.8,亿次,/,秒；,,内存容量为,1024,兆字节；,,基于,Wormhole,机制的二维,Mesh,通讯网，结点与网络通讯总带宽为,2.88GB/,秒；,,采用基于,UNIX,的并行操作系统和并行文件系统；,并行计算机,-CRAY,System Name Jaguar 1059000 GFlops,,System Family Cray XT,,Operating System CNL,,Interconnect XT4 Internal Interconnect,,Processor AMD Opteron Quad Core 2300 MHz (9.2 GFlops),并行计算机,-IBM,System Name Roadrunner 1105000 GFlops,,System Family IBM Cluster,,Operating System Linux,,Interconnect Infiniband,,Processor PowerXCell 8i 3200 MHz (12.8 GFlops),并行计算机,-DAWNING,System Name Dawning 5000A 180600 GFlops,,System Family Dawning Cluster,,Operating System Windows HPC server 2008 and SUSE,,Interconnect Infiniband DDR,,Processor AMD Opteron Quad Core 1900 MHz (7.6 GFlops),并行计算机所用的处理器,AMD Opteron,,Xeon Nocona,,Intel Itanium,,Compaq Alpha,,HP PA-RISC,,Sun UltraSPARC,,IBM POWER5+,POWER6,,IBM BlueGene processor,,MIPS R10000,,龙芯,最新TOP500cpu分布,,并行机处理器,-AMD,PERFORMANCE 1-WAY,PERFORMANCE 2-WAY,PERFORMANCE 4-WAY AND 8-WAY,AMD Opteron™ 200 Series & 2000 Series Processors,,Designed for 2-way Server / Workstation solutions,,First native x86 dual-core solution for 2-way computing,,,AMD Opteron™ 100 Series & 1000 Series Processors,,Designed for 1-way Server / Workstation solutions,,First native x86 dual-core solution for 1-way computing,,AMD Opteron™ 800 Series & 8000 Series Processors,,Designed for 4-way and 8-way Server solutions,,First native x86 dual-core solution for 4-way / 8-way computing,AMD Opteron™ Processors for Servers and Workstations,并行机处理器,-Intel,数据要求苛刻,双核英特尔,®,,至强,®,7000,系列处理器,,,最大限度提高性能、可靠性和可扩展性,双核英特尔,®,,安腾,®,,处理器,9000,,大型机级服务器,,,具有顶级的灵活性和可靠性,RISC,与大型机 现代化,基本 计算,四核英特尔,®,,至强,®,3000,系列处理器,经济、可靠的单路服务器,高密度 基础设施,四核英特尔,®,,至强,®,5000,系列处理器,利用四核处理最大限度提高性能密度,RISC,与大型机 现代化,并行机处理器,-,龙芯,Godson,意思为“教子”，相对于此的另一个词叫教父（,Godfather,）,。
