sched/clock: Provide local_clock_noinstr()
authorPeter Zijlstra <peterz@infradead.org>
Fri, 19 May 2023 10:21:10 +0000 (12:21 +0200)
committerPeter Zijlstra <peterz@infradead.org>
Mon, 5 Jun 2023 19:11:09 +0000 (21:11 +0200)
commitfb7d4948c4da2dbd26da4b7ec76bbd2f19ff862a
tree2ba5554afc9632b70edef76bd257121b3a33e51a
parent5c5e9a2b25b6a79d4b7a5f2a54d02ef1c36dc35a
sched/clock: Provide local_clock_noinstr()

Now that all ARCH_WANTS_NO_INSTR architectures (arm64, loongarch,
s390, x86) provide sched_clock_noinstr(), use this to provide
local_clock_noinstr().

This local_clock_noinstr() will be safe to use from noinstr code with
the assumption that any such noinstr code is non-preemptible (it had
better be, entry code will have IRQs disabled while __cpuidle must
have preemption disabled).

Specifically, preempt_enable_notrace(), a common part of many a
sched_clock() implementation calls out to schedule() -- even though,
per the above, it will never trigger -- which frustrates noinstr
validation.

  vmlinux.o: warning: objtool: local_clock+0xb5: call to preempt_schedule_notrace_thunk() leaves .noinstr.text section

Signed-off-by: Peter Zijlstra (Intel) <peterz@infradead.org>
Tested-by: Michael Kelley <mikelley@microsoft.com> # Hyper-V
Link: https://lore.kernel.org/r/20230519102715.978624636@infradead.org
include/linux/sched/clock.h
kernel/sched/clock.c