Николай Павлович Ефимов родился 13 января 1872 года. Он окончил 2-й кадетский корпус, 1-е Павловское военное училище в 1892 году и Николаевскую академию Генштаба в 1899 году. После окончания академии Ефимов был назначен обер-офицером для особых поручений при штабе 4-го армейского корпуса. В 1901 году, после возвращения из Китая, он стал старшим адъютантом штаба Виленского военного округа.

Во время войны с Японией Ефимов занимал должность старшего адъютанта штаба 55-й пехотной дивизии, а затем стал штаб-офицером при управлении Сибирской отдельной пехотной бригады. В 1908 году он был полковником и штаб-офицером для поручений при штабе Виленского военного округа. В январе 1912 года Ефимов стал начальником штаба 43-й пехотной дивизии. Во время Первой мировой войны он командовал 103-м Петрозаводским полком с ноября 1914 года, а с августа 1915 года получил звание генерал-майора.

В 1916 году Ефимов занимал должность начальника штаба 23-й пехотной дивизии, а 23 октября 1916 года стал начальником штаба 5-го Кавказского армейского корпуса. Он был участником Белого движения и вступил в Добровольческую армию в 1918 году. В мае 1919 года Ефимов заменил генерала В. П. Агапеева на должности начальника штаба Добровольческой армии, но был заменен генералом П. Н. Шатиловым в ноябре 1919 года.

В марте 1920 года Ефимов был назначен членом Военного совета, собранного для выборов нового Главнокомандующего ВСЮР. В том же году он эмигрировал в ходе Крымской эвакуации с Русской армией генерала Врангеля. Ефимов проживал сначала в Титель, в Королевстве СХС, а затем переехал во Францию. Он скончался в Париже 19 января 1943 года и был похоронен на русском кладбище в Сент-Женевьев де Буа.