摘自:http://blog.csdn.net/kickxxx/article/details/9322701
當buddy系統(tǒng)還有大量的連續(xù)物理內(nèi)存時,我們可以通過__pages_alloc成功分配很大的一塊連續(xù)物理內(nèi)存空間,隨著系統(tǒng)運行時間加長,buddy系統(tǒng)內(nèi)很難中找到一塊大的連續(xù)物理內(nèi)存空間,因此__pages_alloc可能會失敗,即便通過kswapd進行頁面的回收和交換,buddy仍然不可避免的碎片化
首先我們要明確的是,連續(xù)物理內(nèi)存的分配并不是必要的。對于大部分DMA操作,我們的確需要連續(xù)的物理內(nèi)存;但是對于某些分配內(nèi)存情況:比如,模塊加載,設(shè)備和聲音驅(qū)動程序中,可以在內(nèi)核源碼中關(guān)鍵字vmalloc查找,對vmalloc的使用有個感性認識。
vmalloc把buddy系統(tǒng)內(nèi)的不連續(xù)物理內(nèi)存,映射到內(nèi)核中一段連續(xù)的地址空間內(nèi),因此對于那些無法直接映射的高端物理內(nèi)存Highmem來說,vmalloc是主要用途之一(另外一個用途是應(yīng)用程序的地址映射,之前我一直搞不清它和vmalloc的關(guān)系。實際二者沒關(guān)系,只是看起來很像)。因此vmalloc理應(yīng)優(yōu)先使用廉價的Highmem內(nèi)存,而把寶貴的低端內(nèi)存,留給其他的內(nèi)核操作。事實上也是如此,vmalloc實現(xiàn)函數(shù)的分配標志,指明了從Highmem分配
- void *vmalloc(unsigned long size)
- {
- return __vmalloc(size, GFP_KERNEL | <strong>__GFP_HIGHMEM</strong>, PAGE_KERNEL);
- }
對于vmalloc來說是需要預留一定的地址空間的,我個人覺得地址空間也算是一種資源,尤其對于IA32體系結(jié)構(gòu)和大部分32bit體系結(jié)構(gòu),整個內(nèi)核地址空間只有1G bytes(3:1 split)。而DMA和Normal內(nèi)存zone 又需要占用數(shù)百M的地址空間,參見下面這個經(jīng)典的kernel地址空間劃分圖
Persistent mappings和Fixmaps地址空間都比較小,這里我們忽略它們,這樣只剩下直接地址映射和VMALLOC區(qū),這個劃分應(yīng)該是平衡兩個需求的結(jié)果
1. 盡量增加DMA和Normal區(qū)大小,也就是直接映射地址空間大小,當前主流平臺的內(nèi)存,基本上都超過了512MB,很多都是標配1GB內(nèi)存,因此注定有一部分內(nèi)存無法進行線性映射。
2. 保留一定數(shù)量的VMALLOC大小,這個值是應(yīng)用平臺特定的,如果應(yīng)用平臺某個驅(qū)動需要用vmalloc分配很大的地址空間,那么最好通過在kernel參數(shù)中指定vmalloc大小的方法,預留較多的vmalloc地址空間。
3. 并不是Highmem沒有或者越少越好,這個是我的個人理解,理由如下:高端內(nèi)存就像個垃圾桶和緩沖區(qū),防止來自用戶空間或者vmalloc的映射破壞Normal zone和DMA zone的連續(xù)性,使得它們碎片化。當這個垃圾桶較大時,那么污染Normal 和DMA的機會自然就小了。
下面的圖是VMALLOC地址空間內(nèi)部劃分情況
在直接地址映射和VMALLOC區(qū)之間有一個8MiB的隔離帶,隔離帶是做什么的呢? 隔離帶是用來針對內(nèi)核故障的保護措施,當訪問虛擬地址越界時,則會產(chǎn)生一個page fault異常,也就是說這個內(nèi)核地址空間沒有對應(yīng)相應(yīng)的物理地址,這在內(nèi)核地址空間是不允許的。如果不存在隔離帶,那么越界訪問不知不覺的跨越直接映射和VMALLOC區(qū),內(nèi)核卻沒注意到這個錯誤。
在VMALLOC內(nèi)部,會劃分為多個vmalloc_area,每個vmalloc_area直間有一個4KB的地址空隙,通過這個小的隔離,可以防止不同映射區(qū)直接的越界訪問。
數(shù)據(jù)結(jié)構(gòu)
在進入vmalloc代碼實現(xiàn)之前,我們先了解相關(guān)的數(shù)據(jù)結(jié)構(gòu)。
- struct vm_struct {
- /* keep next,addr,size together to speedup lookups */
- struct vm_struct *next;
- void *addr;
- unsigned long size;
- unsigned long flags;
- struct page **pages;
- unsigned int nr_pages;
- unsigned long phys_addr;
- };
內(nèi)核在管理虛擬內(nèi)存地址空間時,必須通過數(shù)據(jù)結(jié)構(gòu)來跟蹤哪些子區(qū)域被使用,哪些是空閑的。所有的這些數(shù)據(jù)連接到一個鏈表中
@next:所有的vm_struct通過next 組成一個單鏈表,表頭為全局變量vmlist
@addr:定義了這個虛擬地址空間子區(qū)域的起始地址
@size:定義了這個虛擬地址空間子區(qū)域的大小
@flags:存儲了與該內(nèi)存區(qū)關(guān)聯(lián)的標志
@pages是一個指針,指向page指針的數(shù)組,每個數(shù)組成員都表示一個映射到這個地址空間的物理頁面的實例。
@nr_pages:page指針數(shù)據(jù)的長度
@phys_addr:僅當用ioremap映射了由物理地址描述的物理內(nèi)存區(qū)域才有效。
注意 vm_struct和vm_area_struct是完全不同的,雖然二者都是做虛擬地址空間映射的:
1. 前者是內(nèi)核虛擬地址空間映射,而后者則是應(yīng)用進程虛擬地址空間映射。
2. 前者不會產(chǎn)生page fault,而后者一般不會提前分配頁面,只有當訪問的時候,產(chǎn)生page fault來分配頁面。
vmalloc 映射示例
下圖給除了vmalloc映射的一個實例,這個vmalloc區(qū)映射了三個物理內(nèi)存頁面
從VMALLOC_START+100開始,大小為3*PAGE_SIZE的內(nèi)核地址空間,被映射到物理頁面725, 1023和7311
vmalloc 代碼實現(xiàn)
因為大部分體系結(jié)構(gòu)都支持mmu,這里我們只考慮有mmu的情況。實際上沒有mmu支持時,vmalloc就無法實現(xiàn)非連續(xù)物理地址到連續(xù)內(nèi)核地址空間的映射,vmalloc退化為kmalloc實現(xiàn)
- 506 void *__vmalloc(unsigned long size, gfp_t gfp_mask, pgprot_t prot)
- 507 {
- 508 return __vmalloc_node(size, gfp_mask, prot, -1);
- 509 }
- 510 EXPORT_SYMBOL(__vmalloc);
-
-
- 512 /**
- 513 * vmalloc - allocate virtually contiguous memory
- 514 * @size: allocation size
- 515 * Allocate enough pages to cover @size from the page level
- 516 * allocator and map them into contiguous kernel virtual space.
- 517 *
- 518 * For tight control over page level allocator and protection flags
- 519 * use __vmalloc() instead.
- 520 */
- 521 void *vmalloc(unsigned long size)
- 522 {
- 523 return __vmalloc(size, GFP_KERNEL | __GFP_HIGHMEM, PAGE_KERNEL);
- 524 }
- 525 EXPORT_SYMBOL(vmalloc);
非常清楚,vmalloc優(yōu)先使用HIGHMEM內(nèi)存。返回值為內(nèi)核虛擬地址空間地址,這個地址以及@size決定的分配空間,一定在VMALLOC范圍之內(nèi)。
__vmalloc也僅僅是__vmalloc_node包裝函數(shù)
- 479 /**
- 480 * __vmalloc_node - allocate virtually contiguous memory
- 481 * @size: allocation size
- 482 * @gfp_mask: flags for the page level allocator
- 483 * @prot: protection mask for the allocated pages
- 484 * @node: node to use for allocation or -1
- 485 *
- 486 * Allocate enough pages to cover @size from the page level
- 487 * allocator with @gfp_mask flags. Map them into contiguous
- 488 * kernel virtual space, using a pagetable protection of @prot.
- 489 */
- 490 static void *__vmalloc_node(unsigned long size, gfp_t gfp_mask, pgprot_t prot,
- 491 int node)
- 492 {
- 493 struct vm_struct *area;
- 494
- 495 size = PAGE_ALIGN(size);
- 496 if (!size || (size >> PAGE_SHIFT) > num_physpages)
- 497 return NULL;
- 498
- 499 area = get_vm_area_node(size, VM_ALLOC, node, gfp_mask);
- 500 if (!area)
- 501 return NULL;
- 502
- 503 return __vmalloc_area_node(area, gfp_mask, prot, node);
- 504 }
495 把請求的@size按照頁面對齊,說明分配是按照4K對齊的
非常自然的,分配過程分為兩個步驟:1 分配地址空間,2 進行映射
499 從VMALLOC地址空間申請一塊合適的地址空間
503 有了地址空間后,就需要對地址空間進行頁面映射,也就是說分配頁面物理頁面
分配地址空間
- 263 struct vm_struct *get_vm_area_node(unsigned long size, unsigned long flags,
- 264 int node, gfp_t gfp_mask)
- 265 {
- 266 return __get_vm_area_node(size, flags, VMALLOC_START, VMALLOC_END, node,
- 267 gfp_mask);
- 268 }
在VMALLOC_START和VMALLOC_END指定的范圍內(nèi)查找
- 169 static struct vm_struct *__get_vm_area_node(unsigned long size, unsigned long flags,
- 170 unsigned long start, unsigned long end,
- 171 int node, gfp_t gfp_mask)
- 172 {
- 173 struct vm_struct **p, *tmp, *area;
- 174 unsigned long align = 1;
- 175 unsigned long addr;
- 176
- 177 BUG_ON(in_interrupt());
- 178 if (flags & VM_IOREMAP) {
- 179 int bit = fls(size);
- 180
- 181 if (bit > IOREMAP_MAX_ORDER)
- 182 bit = IOREMAP_MAX_ORDER;
- 183 else if (bit < PAGE_SHIFT)
- 184 bit = PAGE_SHIFT;
- 185
- 186 align = 1ul << bit;
- 187 }
- 188 addr = ALIGN(start, align);
- 189 size = PAGE_ALIGN(size);
- 190 if (unlikely(!size))
- 191 return NULL;
- 192
- 193 area = kmalloc_node(sizeof(*area), gfp_mask & GFP_RECLAIM_MASK, node);
- 194
- 195 if (unlikely(!area))
- 196 return NULL;
- 197
- 198 /*
- 199 * We always allocate a guard page.
- 200 */
- 201 size += PAGE_SIZE;
- 202
- 203 write_lock(&vmlist_lock);
- 204 for (p = &vmlist; (tmp = *p) != NULL ;p = &tmp->next) {
- 205 if ((unsigned long)tmp->addr < addr) {
- 206 if((unsigned long)tmp->addr + tmp->size >= addr)
- 207 addr = ALIGN(tmp->size +
- 208 (unsigned long)tmp->addr, align);
- 209 continue;
- 210 }
- 211 if ((size + addr) < addr)
- 212 goto out;
- 213 if (size + addr <= (unsigned long)tmp->addr)
- 214 goto found;
- 215 addr = ALIGN(tmp->size + (unsigned long)tmp->addr, align);
- 216 if (addr > end - size)
- 217 goto out;
- 218 }
- 219
- 220 found:
- 221 area->next = *p;
- 222 *p = area;
- 223
- 224 area->flags = flags;
- 225 area->addr = (void *)addr;
- 226 area->size = size;
- 227 area->pages = NULL;
- 228 area->nr_pages = 0;
- 229 area->phys_addr = 0;
- 230 write_unlock(&vmlist_lock);
- 231
- 232 return area;
- 233
- 234 out:
- 235 write_unlock(&vmlist_lock);
- 236 kfree(area);
- 237 if (printk_ratelimit())
- 238 printk(KERN_WARNING "allocation failed: out of vmalloc space - use vmalloc=<size> to increase size.\n");
- 239 return NULL;
- 240 }
@start是進行掃描的首地址,@end是掃描的終止地址。在start和end指定的地址空間內(nèi)分配。
193 首先分配一個vm_struct 結(jié)構(gòu),因為這個機構(gòu)很小,自然使用kmalloc進行分配了,至于在哪個node分配,不用care
198~201 每個vm_struct之間都有4KB的隔離區(qū),所以這里多分配4KB
204 ~ 218 循環(huán)遍歷已經(jīng)創(chuàng)建的vm_struct區(qū),找到能夠創(chuàng)建地址空間的位置
205 ~ 209 如果start大于當前vm_struct的起始位置,那么我們嘗試下一個。同時判斷start是否落在這個vm_struct內(nèi),如果是還要修改start
213 ~ 214 如果size + addr小于當前的vm_struct,說明匹配了一個可用位置,直接跳到found標號
221 ~ 222 把這個vm_struct增加到vmlist中去
從這個函數(shù)我們可以看出來,vm_struct的分配并不會考慮最優(yōu)匹配,而是在碰到一個夠用空間后直接返回。
分配物理頁面 并映射
__vmalloc_area_node
- 426 void *__vmalloc_area_node(struct vm_struct *area, gfp_t gfp_mask,
- 427 pgprot_t prot, int node)
- 428 {
- 429 struct page **pages;
- 430 unsigned int nr_pages, array_size, i;
- 431
- 432 nr_pages = (area->size - PAGE_SIZE) >> PAGE_SHIFT;
- 433 array_size = (nr_pages * sizeof(struct page *));
- 434
- 435 area->nr_pages = nr_pages;
- 436 /* Please note that the recursion is strictly bounded. */
- 437 if (array_size > PAGE_SIZE) {
- 438 pages = __vmalloc_node(array_size, gfp_mask | __GFP_ZERO,
- 439 PAGE_KERNEL, node);
- 440 area->flags |= VM_VPAGES;
- 441 } else {
- 442 pages = kmalloc_node(array_size,
- 443 (gfp_mask & GFP_RECLAIM_MASK) | __GFP_ZERO,
- 444 node);
- 445 }
- 446 area->pages = pages;
- 447 if (!area->pages) {
- 448 remove_vm_area(area->addr);
- 449 kfree(area);
- 450 return NULL;
- 451 }
- 452
- 453 for (i = 0; i < area->nr_pages; i++) {
- 454 if (node < 0)
- 455 area->pages[i] = alloc_page(gfp_mask);
- 456 else
- 457 area->pages[i] = alloc_pages_node(node, gfp_mask, 0);
- 458 if (unlikely(!area->pages[i])) {
- 459 /* Successfully allocated i pages, free them in __vunmap() */
- 460 area->nr_pages = i;
- 461 goto fail;
- 462 }
- 463 }
- 464
- 465 if (map_vm_area(area, prot, &pages))
- 466 goto fail;
- 467 return area->addr;
- 468
- 469 fail:
- 470 vfree(area->addr);
- 471 return NULL;
- 472 }
432 根據(jù)area的size計算需要的物理頁面數(shù)目,減去1個PAGE_SIZE是因為這個vmalloc區(qū)包含一個4KB的隔離區(qū)
433 ~ 445 為area->pages數(shù)組分配內(nèi)存,理論上一個頁面只能保證1000個page指針,所以area->pages也使用vmalloc分配就很正常了
453 ~ 463調(diào)用alloc_pages_node一個一個的分配page,所以vmalloc的分配速度自然沒有使用alloc_pages的kmalloc高,但是vmalloc的成功率就很高了。
465 目前為止,還有一件事沒完成,那就是物理地址對邏輯地址的映射,map_vm_area就是做這事的
線性地址到物理地址映射
- 148 int map_vm_area(struct vm_struct *area, pgprot_t prot, struct page ***pages)
- 149 {
- 150 pgd_t *pgd;
- 151 unsigned long next;
- 152 unsigned long addr = (unsigned long) area->addr;
- 153 unsigned long end = addr + area->size - PAGE_SIZE;
- 154 int err;
- 155
- 156 BUG_ON(addr >= end);
- 157 pgd = pgd_offset_k(addr);
- 158 do {
- 159 next = pgd_addr_end(addr, end);
- 160 err = vmap_pud_range(pgd, addr, next, prot, pages);
- 161 if (err)
- 162 break;
- 163 } while (pgd++, addr = next, addr != end);
- 164 flush_cache_vmap((unsigned long) area->addr, end);
- 165 return err;
- 166 }
- 167 EXPORT_SYMBOL_GPL(map_vm_area);
153 別忘了,減去隔離區(qū)的一個PAGE_SIZE大小
158 ~ 163 對addr和end范圍內(nèi)的頁表進行映射,包括pgd pud pmd和pte。
164 這是一個體系結(jié)構(gòu)相關(guān)的函數(shù),有些體系結(jié)構(gòu)無法察覺到頁表的變化,因此在修改頁表后,需要程序主動的去刷新以下;有些CPU有感知變化的能力,會自動的刷新高速緩存,IA32就是如此。
GOOD,分析完了,vmalloc的代碼還是簡明清晰的,這次閱讀解決了幾個以前迷惑的問題
1. vmalloc區(qū)域是不是和應(yīng)用空間內(nèi)存映射一樣,通過page fault來裝載頁面的。
答案:不是,vmalloc映射建立好后,邏輯地址,物理頁面全部分配好,而且頁表也已經(jīng)更新好,和用戶空間映射完全一樣。這是合理的,因為如果像用戶空間映射那樣,訪問地址產(chǎn)生page fault,會使得vmalloc獲得的內(nèi)存使用上受到極大的限制,比如不能在禁止調(diào)度的地方訪問vmalloc分配的地址。