Николай Иванович Путилов родился в 1820 году в Коломенке, Боровичский уезд, Новгородская губерния. Он происходил из семьи мелкопоместных дворян. Отец Николая Ивановича, Иван Никифорович, был титулярным советником и служил помощником полицмейстера водной полиции по Мстинской части Вышневолоцкого отделения.

В 1830 году Николай Иванович поступил в морскую роту Александровского кадетского корпуса в Санкт-Петербурге, а в 12 лет был переведен в Морской кадетский корпус. В 1840 году он окончил Морской кадетский корпус и офицерские классы, после чего был оставлен там на должности преподавателя математики. Николай Иванович занимался научной работой, опубликовал статью, посвященную ошибке математика Огюстена Коши, и публиковал научные труды, в том числе в соавторстве с М. В. Остроградским.

В 1843 году Николай Иванович перевёлся в VI округ Корпуса инженеров военных поселений в Кременчуг, где прослужил до 1847 года, отвечая за строительство различных объектов. В 1847 году он был уволен от службы. В 1854 году, во время Крымской войны, Путилов был рекомендован великому князю Константину Николаевичу в качестве талантливого организатора и был назначен младшим чиновником для особых поручений Кораблестроительного департамента Морского министерства.

Николай Иванович организовал производство паровых машин, котлов и материалов для винтовых канонерских лодок, корветов и клиперов. За свои заслуги в создании винтового парового флота он был повышен в должности и награждён орденом св. Станислава 2-й степени. В 1856 году Путилов был произведён в надворные советники, а в 1857 году вышел в отставку в чине коллежского советника.

После отставки Николай Иванович вновь был зачислен на государственную службу и перестроил 4 завода в Финляндии. Он также начал переплавку металлического лома в промышленном масштабе. В 1863 году совместно с полковником Корпуса горных инженеров Павлом Матвеевичем Обуховым и купцом 1-й гильдии С. Г. Кудрявцевым организовал металлургический завод, после смерти П. М. Обухова названный Обуховским.

В 1868 году Николай Иванович купил обанкротившийся механический, литейный и железоделательный завод, который в 1872 году стал основой учрежденного им Общества путиловских заводов. На этом заводе он организовал оружейное производство и выплавку стали, в том числе на экспорт. Николай Иванович также разработал технологию изготовления чугунозакалённых снарядов и лишил тем самым немецких промышленников монополии на производство этого вида боеприпасов.

Николай Иванович Путилов скончался 18 апреля 1880 года в Петербурге. Согласно его завещанию, он был похоронен рядом с Путиловским заводом на восточном берегу Гладкого острова. В 1907 году прах Путилова и его супруги Екатерины Ивановны был торжественно перезахоронен в новой заводской церкви. В советское время церковь была перестроена, и прах Путилова, по слухам, был уничтожен.

Николай Иванович Путилов был женат на Екатерине Ивановне, урождённой Томиловой. У них было двое детей от первого брака Екатерины Ивановны. После смерти Николая Ивановича его усадьба «Кирьяново» стала принадлежать его дочери Марии Николаевне Печниковой, в замужестве Божуковой. Дачу рядом с территорией завода унаследовал сын Александр Николаевич Печников.

Память о Николае Ивановиче Путилове увековечена в названии набережной Морского канала на Канонерском острове, которая носит его имя. В 2020 году у проходной Кировского (Путиловского) завода был открыт памятник Николаю Ивановичу Путилову. В том же году СПб ГБПОУ «Промышленно-технологический колледж» получил его имя. В 2025 году в петербургском метрополитене открылась станция «Путиловская».