产品设计网站制作,Wordpress标题颜色怎么修改,个人做网站哪种类型的网站好,做一家影视网站赚钱吗Linux 内存管理模型非常直接明了#xff0c;因为 Linux 的这种机制使其具有可移植性并且能够在内存管理单元相差不大的机器下实现 Linux#xff0c;下面我们就来认识一下 Linux 内存管理是如何实现的。
一#xff0c;基本概念
每个 Linux 进程都会有地址空间#xff0c;这…Linux 内存管理模型非常直接明了因为 Linux 的这种机制使其具有可移植性并且能够在内存管理单元相差不大的机器下实现 Linux下面我们就来认识一下 Linux 内存管理是如何实现的。
一基本概念
每个 Linux 进程都会有地址空间这些地址空间由三个段区域组成text 段、data 段、stack 段。下面是进程地址空间的示例。 数据段(data segment) 包含了程序的变量、字符串、数组和其他数据的存储。数据段分为两部分已经初始化的数据和尚未初始化的数据。其中尚未初始化的数据就是我们说的 BSS。数据段部分的初始化需要编译就期确定的常量以及程序启动就需要一个初始值的变量。所有 BSS 部分中的变量在加载后被初始化为 0 。
和 代码段(Text segment) 不一样data segment 数据段可以改变。程序总是修改它的变量。而且许多程序需要在执行时动态分配空间。Linux 允许数据段随着内存的分配和回收从而增大或者减小。为了分配内存程序可以增加数据段的大小。在 C 语言中有一套标准库 malloc 经常用于分配内存。进程地址空间描述符包含动态分配的内存区域称为 堆(heap)。
第三部分段是 栈段(stack segment)。在大部分机器上栈段会在虚拟内存地址顶部地址位置处并向低位置处向地址空间为 0 处拓展。举个例子来说在 32 位 x86 架构的机器上栈开始于 0xC0000000这是用户模式下进程允许可见的 3GB 虚拟地址限制。如果栈一直增大到超过栈段后就会发生硬件故障并把页面下降一个页面。
当程序启动时栈区域并不是空的相反它会包含所有的 shell 环境变量以及为了调用它而向 shell 输入的命令行。举个例子当你输入 cp cxuan lx时cp 程序会运行并在栈中带着字符串 cp cxuan lx 这样就能够找出源文件和目标文件的名称。
当两个用户运行在相同程序中例如编辑器(editor)那么就会在内存中保持编辑器程序代码的两个副本但是这种方式并不高效。Linux 系统支持共享文本段作为替代。下面图中我们会看到 A 和 B 两个进程它们有着相同的文本区域。 数据段和栈段只有在 fork 之后才会共享共享也是共享未修改过的页面。如果任何一个都需要变大但是没有相邻空间容纳的话也不会有问题因为相邻的虚拟页面不必映射到相邻的物理页面上。
除了动态分配更多的内存Linux 中的进程可以通过内存映射文件来访问文件数据。这个特性可以使我们把一个文件映射到进程空间的一部分而该文件就可以像位于内存中的字节数组一样被读写。把一个文件映射进来使得随机读写比使用 read 和 write 之类的 I/O 系统调用要容易得多。共享库的访问就是使用了这种机制。
如下所示 我们可以看到两个相同文件会被映射到相同的物理地址上但是它们属于不同的地址空间。
映射文件的优点是两个或多个进程可以同时映射到同一文件中任意一个进程对文件的写操作对其他文件可见。通过使用映射临时文件的方式可以为多线程共享内存提供高带宽临时文件在进程退出后消失。但是实际上并没有两个相同的地址空间因为每个进程维护的打开文件和信号不同。
资料直通车最新Linux内核源码资料文档视频资料https://docs.qq.com/doc/DTmFTc29xUGdNSnZ2
内核学习地址Linux内核源码/内存调优/文件系统/进程管理/设备驱动/网络协议栈https://ke.qq.com/course/4032547?flowToken1040236
二Linux 内存管理系统调用
下面我们探讨一下关于内存管理的系统调用方式。事实上POSIX 并没有给内存管理指定任何的系统调用。然而Linux 却有自己的内存系统调用主要系统调用如下 如果遇到错误那么 s 的返回值是 -1a 和 addr 是内存地址len 表示的是长度prot 表示的是控制保护位flags 是其他标志位fd 是文件描述符offset 是文件偏移量。
brk 通过给出超过数据段之外的第一个字节地址来指定数据段的大小。如果新的值要比原来的大那么数据区会变得越来越大反之会越来越小。
mmap 和 unmap 系统调用会控制映射文件。mmp 的第一个参数 addr 决定了文件映射的地址。它必须是页面大小的倍数。如果参数是 0系统会分配地址并返回 a。第二个参数是长度它告诉了需要映射多少字节。它也是页面大小的倍数。prot 决定了映射文件的保护位保护位可以标记为 可读、可写、可执行或者这些的结合。第四个参数 flags 能够控制文件是私有的还是可读的以及 addr 是必须的还是只是进行提示。第五个参数 fd 是要映射的文件描述符。只有打开的文件是可以被映射的因此如果想要进行文件映射必须打开文件最后一个参数 offset 会指示文件从什么时候开始并不一定每次都要从零开始。
三Linux内存管理实现
内存管理系统是操作系统最重要的部分之一。从计算机早期开始我们实际使用的内存都要比系统中实际存在的内存多。内存分配策略克服了这一限制并且其中最有名的就是 虚拟内存(virtual memory)。通过在多个竞争的进程之间共享虚拟内存虚拟内存得以让系统有更多的内存。虚拟内存子系统主要包括下面这些概念。
大地址空间
操作系统使系统使用起来好像比实际的物理内存要大很多那是因为虚拟内存要比物理内存大很多倍。
保护
系统中的每个进程都会有自己的虚拟地址空间。这些虚拟地址空间彼此完全分开因此运行一个应用程序的进程不会影响另一个。并且硬件虚拟内存机制允许内存保护关键内存区域。
内存映射
内存映射用来向进程地址空间映射图像和数据文件。在内存映射中文件的内容直接映射到进程的虚拟空间中。
公平的物理内存分配
内存管理子系统允许系统中的每个正在运行的进程公平分配系统的物理内存。
共享虚拟内存
尽管虚拟内存让进程有自己的内存空间但是有的时候你是需要共享内存的。例如几个进程同时在 shell 中运行这会涉及到 IPC 的进程间通信问题这个时候你需要的是共享内存来进行信息传递而不是通过拷贝每个进程的副本独立运行。
下面我们就正式探讨一下什么是 虚拟内存
3.1虚拟内存的抽象模型
在考虑 Linux 用于支持虚拟内存的方法之前考虑一个不会被太多细节困扰的抽象模型是很有用的。
处理器在执行指令时会从内存中读取指令并将其解码(decode)在指令解码时会获取某个位置的内容并将他存到内存中。然后处理器继续执行下一条指令。这样处理器总是在访问存储器以获取指令和存储数据。
在虚拟内存系统中所有的地址空间都是虚拟的而不是物理的。但是实际存储和提取指令的是物理地址所以需要让处理器根据操作系统维护的一张表将虚拟地址转换为物理地址。
为了简单的完成转换虚拟地址和物理地址会被分为固定大小的块称为 页(page)。这些页有相同大小如果页面大小不一样的话那么操作系统将很难管理。Alpha AXP系统上的 Linux 使用 8 KB 页面而 Intel x86 系统上的 Linux 使用 4 KB 页面。每个页面都有一个唯一的编号即页面框架号PFN。 上面就是 Linux 内存映射模型了在这个页模型中虚拟地址由两部分组成偏移量和虚拟页框号。每次处理器遇到虚拟地址时都会提取偏移量和虚拟页框号。处理器必须将虚拟页框号转换为物理页号然后以正确的偏移量的位置访问物理页。
上图中展示了两个进程 A 和 B 的虚拟地址空间每个进程都有自己的页表。这些页表将进程中的虚拟页映射到内存中的物理页中。页表中每一项均包含
有效标志(valid flag) 表明此页表条目是否有效该条目描述的物理页框号访问控制信息页面使用方式是否可写以及是否可以执行代码
要将处理器的虚拟地址映射为内存的物理地址首先需要计算虚拟地址的页框号和偏移量。页面大小为 2 的次幂可以通过移位完成操作。
如果当前进程尝试访问虚拟地址但是访问不到的话这种情况称为 缺页异常此时虚拟操作系统的错误地址和页面错误的原因将通知操作系统。
通过以这种方式将虚拟地址映射到物理地址虚拟内存可以以任何顺序映射到系统的物理页面。
3.2按需分页
由于物理内存要比虚拟内存少很多因此操作系统需要注意尽量避免直接使用低效的物理内存。节省物理内存的一种方式是仅加载执行程序当前使用的页面这何尝不是一种懒加载的思想呢。例如可以运行数据库来查询数据库在这种情况下不是所有的数据都装入内存只装载需要检查的数据。这种仅仅在需要时才将虚拟页面加载进内中的技术称为按需分页。
3.3交换
如果某个进程需要将虚拟页面传入内存但是此时没有可用的物理页面那么操作系统必须丢弃物理内存中的另一个页面来为该页面腾出空间。
如果页面已经修改过那么操作系统必须保留该页面的内容以便以后可以访问它。这种类型的页面被称为脏页当将其从内存中移除时它会保存在称为交换文件的特殊文件中。相对于处理器和物理内存的速度对交换文件的访问非常慢并且操作系统需要兼顾将页面写到磁盘的以及将它们保留在内存中以便再次使用。
Linux 使用最近最少使用(LRU)页面老化技术来公平的选择可能会从系统中删除的页面这个方案涉及系统中的每个页面页面的年龄随着访问次数的变化而变化如果某个页面访问次数多那么该页就表示越 年轻如果某个呃页面访问次数太少那么该页越容易被换出。
3.4物理和虚拟寻址模式
大多数多功能处理器都支持 物理地址模式和虚拟地址模式的概念。物理寻址模式不需要页表并且处理器不会在此模式下尝试执行任何地址转换。 Linux 内核被链接在物理地址空间中运行。
Alpha AXP 处理器没有物理寻址模式。相反它将内存空间划分为几个区域并将其中两个指定为物理映射的地址。此内核地址空间称为 KSEG 地址空间它包含从 0xfffffc0000000000 向上的所有地址。为了从 KSEG 中链接的代码按照定义内核代码执行或访问其中的数据该代码必须在内核模式下执行。链接到 Alpha 上的 Linux内核以从地址 0xfffffc0000310000 执行。
3.5访问控制
页面表的每一项还包含访问控制信息访问控制信息主要检查进程是否应该访问内存。
必要时需要对内存进行访问限制。 例如包含可执行代码的内存自然是只读内存 操作系统不应允许进程通过其可执行代码写入数据。 相比之下包含数据的页面可以被写入但是尝试执行该内存的指令将失败。 大多数处理器至少具有两种执行模式内核态和用户态。 你不希望访问用户执行内核代码或内核数据结构除非处理器以内核模式运行。 访问控制信息被保存在上面的 Page Table Entry 页表项中上面这幅图是 Alpha AXP的 PTE。位字段具有以下含义
V表示 valid 是否有效位FOR读取时故障在尝试读取此页面时出现故障FOW写入时错误在尝试写入时发生错误FOE执行时发生错误在尝试执行此页面中的指令时处理器都会报告页面错误并将控制权传递给操作系统ASM地址空间匹配当操作系统希望清除转换缓冲区中的某些条目时将使用此选项。GH当在使用单个转换缓冲区条目而不是多个转换缓冲区条目映射整个块时使用的提示。KRE内核模式运行下的代码可以读取页面URE用户模式下的代码可以读取页面KWE以内核模式运行的代码可以写入页面UWE以用户模式运行的代码可以写入页面页框号对于设置了 V 位的 PTE此字段包含此 PTE 的物理页面帧号页面帧号。对于无效的 PTE如果此字段不为零则包含有关页面在交换文件中的位置的信息。
除此之外Linux 还使用了两个位
_PAGE_DIRTY如果已设置则需要将页面写出到交换文件中_PAGE_ACCESSEDLinux 用来将页面标记为已访问。
3.5缓存
上面的虚拟内存抽象模型可以用来实施但是效率不会太高。操作系统和处理器设计人员都尝试提高性能。 但是除了提高处理器内存等的速度之外最好的方法就是维护有用信息和数据的高速缓存从而使某些操作更快。在 Linux 中使用很多和内存管理有关的缓冲区使用缓冲区来提高效率。
缓冲区缓存
缓冲区高速缓存包含块设备驱动程序使用的数据缓冲区。
还记得什么是块设备么这里回顾下
块设备是一个能存储固定大小块信息的设备它支持以固定大小的块扇区或群集读取和可选写入数据。每个块都有自己的物理地址。通常块的大小在 512 - 65536 之间。所有传输的信息都会以连续的块为单位。块设备的基本特征是每个块都较为对立能够独立的进行读写。常见的块设备有 硬盘、蓝光光盘、USB 盘
与字符设备相比块设备通常需要较少的引脚。 缓冲区高速缓存通过设备标识符和块编号用于快速查找数据块。 如果可以在缓冲区高速缓存中找到数据则无需从物理块设备中读取数据这种访问方式要快得多。
页缓存
页缓存用于加快对磁盘上图像和数据的访问它用于一次一页地缓存文件中的内容并且可以通过文件和文件中的偏移量进行访问。当页面从磁盘读入内存时它们被缓存在页面缓存中。
交换区缓存
仅仅已修改脏页被保存在交换文件中只要这些页面在写入交换文件后没有修改则下次交换该页面时无需将其写入交换文件因为该页面已在交换文件中。 可以直接丢弃。 在大量交换的系统中这节省了许多不必要的和昂贵的磁盘操作。
硬件缓存
处理器中通常使用一种硬件缓存。页表条目的缓存。在这种情况下处理器并不总是直接读取页表而是根据需要缓存页的翻译。 这些是转换后备缓冲区 也被称为 TLB包含来自系统中一个或多个进程的页表项的缓存副本。
引用虚拟地址后处理器将尝试查找匹配的 TLB 条目。 如果找到则可以将虚拟地址直接转换为物理地址并对数据执行正确的操作。 如果处理器找不到匹配的 TLB 条目 它通过向操作系统发信号通知已发生 TLB 丢失获得操作系统的支持和帮助。系统特定的机制用于将该异常传递给可以修复问题的操作系统代码。 操作系统为地址映射生成一个新的 TLB 条目。 清除异常后处理器将再次尝试转换虚拟地址。这次能够执行成功。
使用缓存也存在缺点为了节省精力Linux 必须使用更多的时间和空间来维护这些缓存并且如果缓存损坏系统将会崩溃。
四Linux页表
Linux 假定页表分为三个级别。访问的每个页表都包含下一级页表 图中的 PDG 表示全局页表当创建一个新的进程时都要为新进程创建一个新的页面目录即 PGD。要将虚拟地址转换为物理地址处理器必须获取每个级别字段的内容将其转换为包含页表的物理页的偏移量并读取下一级页表的页框号。这样重复三次直到找到包含虚拟地址的物理页面的页框号为止。
Linux 运行的每个平台都必须提供翻译宏这些宏允许内核遍历特定进程的页表。这样内核无需知道页表条目的格式或它们的排列方式。
4.1页分配和取消分配
对系统中物理页面有很多需求。例如当图像加载到内存中时操作系统需要分配页面。
系统中所有物理页面均由 mem_map 数据结构描述这个数据结构是 mem_map_t 的列表。它包括一些重要的属性
count 这是页面的用户数计数当页面在多个进程之间共享时计数大于 1age这是描述页面的年龄用于确定页面是否适合丢弃或交换map_nr 这是此mem_map_t描述的物理页框号。
页面分配代码使用 free_area向量查找和释放页面free_area 的每个元素都包含有关页面块的信息。
4.2页面分配
Linux 的页面分配使用一种著名的伙伴算法来进行页面的分配和取消分配。页面以 2 的幂为单位进行块分配。这就意味着它可以分配 1页、2 页、4页等等只要系统中有足够可用的页面来满足需求就可以。判断的标准是nr_free_pages min_free_pages如果满足就会在 free_area 中搜索所需大小的页面块完成分配。free_area 的每个元素都有该大小的块的已分配页面和空闲页面块的映射。
分配算法会搜索请求大小的页面块。如果没有任何请求大小的页面块可用的话会搜寻一个是请求大小二倍的页面块然后重复直到一直搜寻完 free_area 找到一个页面块为止。如果找到的页面块要比请求的页面块大就会对找到的页面块进行细分直到找到合适的大小块为止。
因为每个块都是 2 的次幂所以拆分过程很容易因为你只需将块分成两半即可。空闲块在适当的队列中排队分配的页面块返回给调用者。 如果请求一个 2 个页的块则 4 页的第一个块从第 4 页的框架开始将被分成两个 2 页的块。第一个页面从第 4 页的帧开始将作为分配的页面返回给调用方第二个块从第 6 页的页面开始将作为 2 页的空闲块排队到 free_area 数组的元素 1 上。
4.3页面取消分配
上面的这种内存方式最造成一种后果那就是内存的碎片化会将较大的空闲页面分成较小的页面。页面解除分配代码会尽可能将页面重新组合成为更大的空闲块。每释放一个页面都会检查相同大小的相邻的块以查看是否空闲。如果是则将其与新释放的页面块组合以形成下一个页面大小块的新的自由页面块。 每次将两个页面块重新组合为更大的空闲页面块时页面释放代码就会尝试将该页面块重新组合为更大的空闲页面。 通过这种方式可用页面的块将尽可能多地使用内存。
例如上图如果要释放第 1 页的页面则将其与已经空闲的第 0 页页面框架组合在一起并作为大小为 2页的空闲块排队到 free_area 的元素 1 中
4.4内存映射
内核有两种类型的内存映射共享型(shared) 和私有型(private)。私有型是当进程为了只读文件而不写文件时使用这时私有映射更加高效。 但是任何对私有映射页的写操作都会导致内核停止映射该文件中的页。所以写操作既不会改变磁盘上的文件对访问该文件的其它进程也是不可见的。
4.5按需分页
一旦可执行映像被内存映射到虚拟内存后它就可以被执行了。因为只将映像的开头部分物理的拉入到内存中因此它将很快访问物理内存尚未存在的虚拟内存区域。当进程访问没有有效页表的虚拟地址时操作系统会报告这项错误。
页面错误描述页面出错的虚拟地址和引起的内存访问RAM类型。Linux 必须找到代表发生页面错误的内存区域的 vm_area_struct 结构。由于搜索 vm_area_struct 数据结构对于有效处理页面错误至关重要因此它们以 AVLAdelson-Velskii和Landis树结构链接在一起。如果引起故障的虚拟地址没有 vm_area_struct 结构则此进程已经访问了非法地址Linux 会向进程发出 SIGSEGV 信号如果进程没有用于该信号的处理程序那么进程将会终止。
然后Linux 会针对此虚拟内存区域所允许的访问类型检查发生的页面错误类型。 如果该进程以非法方式访问内存例如写入仅允许读的区域则还会发出内存访问错误信号。
现在Linux 已确定页面错误是合法的因此必须对其进行处理。
