东莞网站营销推广,常州网站搜索优化,广州注册公司的流程及费用,wordpress代码发布文章网络 一、数据读写二、数据处理三、数据传输在平衡不同硬件资源的时候,相比于CPU、内存、磁盘,网络开销处理延迟最高
一、数据读写 对于大多数应用来说,第一步都是从分布式系统中读取数据,不论什么文件格式,也不管哪种文件存储系统,访问数据源是否会引入网络开销,取决于任务与… 网络 一、数据读写二、数据处理三、数据传输 在平衡不同硬件资源的时候,相比于CPU、内存、磁盘,网络开销处理延迟最高
一、数据读写
对于大多数应用来说,第一步都是从分布式系统中读取数据,不论什么文件格式,也不管哪种文件存储系统,访问数据源是否会引入网络开销,取决于任务与数据的本地性关系,也就是任务的本地性级别本地性级别process_level任务与数据在同个JVM进程中local_level任务与数据在同一个计算节点上,任务可能在磁盘或者另一个JVM进程中rack_level任务与数据不在同一节点,但在同一个物理机架上any任务与数据是跨机架,甚至是跨数据中心(DC)的关系在读取数据源阶段,数据还未加载到内存,无法到process_level,调度的最高级别是node_level此外还有一些内存文件系统,如Alluxio,数据读取的时候,有可能是process_level因此,要想是node_level,spark与外部存储系统在物理上需要是紧紧耦合在一起的,物理上紧耦合,spark会用磁盘I/O代替网络开销,物理上分离,网络开销就无法避免Spark调度的核心是数据不动代码动,若是process_level或node_level就可能做到这一点,若是rack_l
