mm, page_alloc: simplify list handling in rmqueue_bulk()
authorVlastimil Babka <>
Thu, 16 Nov 2017 01:38:07 +0000 (17:38 -0800)
committerLinus Torvalds <>
Thu, 16 Nov 2017 02:21:06 +0000 (18:21 -0800)
rmqueue_bulk() fills an empty pcplist with pages from the free list.  It
tries to preserve increasing order by pfn to the caller, because it
leads to better performance with some I/O controllers, as explained in
commit e084b2d95e48 ("page-allocator: preserve PFN ordering when
__GFP_COLD is set").

To preserve the order, it's sufficient to add pages to the tail of the
list as they are retrieved.  The current code instead adds to the head
of the list, but then updates the list head pointer to the last added
page, in each step.  This does result in the same order, but is
needlessly confusing and potentially wasteful, with no apparent benefit.
This patch simplifies the code and adjusts comment accordingly.

Signed-off-by: Vlastimil Babka <>
Acked-by: Mel Gorman <>
Cc: Andi Kleen <>
Cc: Dave Chinner <>
Cc: Dave Hansen <>
Cc: Jan Kara <>
Cc: Johannes Weiner <>
Signed-off-by: Andrew Morton <>
Signed-off-by: Linus Torvalds <>

index 370b64d03e3fd27bf674424c8331ebfda73f81ae..7ca668e946e5c9077e71a5705aa9ee1e7474b6c1 100644 (file)
@@ -2350,16 +2350,16 @@ static int rmqueue_bulk(struct zone *zone, unsigned int order,
-                * Split buddy pages returned by expand() are received here
-                * in physical page order. The page is added to the callers and
-                * list and the list head then moves forward. From the callers
-                * perspective, the linked list is ordered by page number in
-                * some conditions. This is useful for IO devices that can
-                * merge IO requests if the physical pages are ordered
-                * properly.
+                * Split buddy pages returned by expand() are received here in
+                * physical page order. The page is added to the tail of
+                * caller's list. From the callers perspective, the linked list
+                * is ordered by page number under some conditions. This is
+                * useful for IO devices that can forward direction from the
+                * head, thus also in the physical page order. This is useful
+                * for IO devices that can merge IO requests if the physical
+                * pages are ordered properly.
-               list_add(&page->lru, list);
-               list = &page->lru;
+               list_add_tail(&page->lru, list);
                if (is_migrate_cma(get_pcppage_migratetype(page)))
                        __mod_zone_page_state(zone, NR_FREE_CMA_PAGES,