en el núcleo, esta fórmula ejecuta dos pruebas en un valor como este:

=D5>MIN(B5,C5) // is D5 greater than smaller?=D5<MAX(B5,C5)) // is D5 less than larger?

 en la primera expresión, el valor se compara con el menor de los dos números, determinado por la función MIN.
en la segunda expresión, el valor se compara con el mayor de los dos números, determinado por la función MAX.
 la función AND devolverá TRUE solo cuando el valor sea mayor que el número más pequeño y menor que el número más grande.,
 Include boundaries
para incluir los números de límite (num1 y num2), simplemente ajuste la lógica de la siguiente manera:
=AND(D5>=MIN(B5,C5),D5<=MAX(B5,C5))

ahora la función AND devolverá TRUE solo cuando el valor sea mayor o igual al número más pequeño y menor o igual al número más grande.
versión simple
la fórmula en el ejemplo es más compleja porque no se asume que num1 sea menor que num2 (o viceversa).
Si es seguro asumir que num1 es menor que num2, la fórmula se puede simplificar:
=AND(value>num1,val<num2))