Флор Яковлевич Ермаков родился в Коломенском уезде Московской губернии в крестьянской семье. Он получил в наследство от отца, купца 1-й гильдии Якова Яковлевича Ермакова, ситценабивную и красильную фабрики за Трехгорной заставой в Москве. Позже стал владельцем бумаготкацкой фабрики в селе Мещерино, а также шерстяной и камвольной фабрик в Москве в Сокольниках и текстильной фабрики в Вышнем Волочке Тверской губернии. Также Ермаков возглавлял учреждённый отцом торговый дом «Яков Ермаков с сыновьями». Имел доходные дома в Москве и в Петербурге.

Флор Ермаков стал филантропом во время Крымской войны, внося средства на ополчение. С 1854 года он участвовал в деятельности Дамского попечительства о бедных, исполняя обязанности казначея Пресненского отделения. В 1870-х годах Флор Яковлевич отошёл от дел и целиком посвятил себя благотворительности. В 1876 году он открыл в Сокольниках Ермаковскую богадельню для призрения 1 тысячи человек из крестьянского сословия. В 1881—1883 годах на его средства была отреставрирована древнейшая Успенская церковь Брусенского монастыря в городе Коломне. В 1889 году устроил богадельню в помещениях упразднённой фабрики за Трехгорной заставой. А в собственном доме открыл бесплатную народную столовую на 500 человек.

В 1890 году Ермаков пожертвовал 300 тысяч рублей на призрение душевнобольных Московскому городскому общественному управлению. В 1896 году на эти средства было устроено Ермаковское отделение на 100 человек в Алексеевской психиатрической больнице. В 1909 году был открыт Городской ночлежный дом им. Ф. Я. Ермакова, построенный на средства оставленные по его завещанию. Умер в 1895 году. Был похоронен в церкви Живоначальной Троицы при Ермаковской богадельне в Сокольниках. Прах Ермакова тайно был перенесён и захоронен рядом с Успенским храмом в Вышнем Волочке.

Наиболее крупная доля из завещанных Ермаковым капиталов была израсходована на строительство и оборудование ремесленного училища им. Ермакова, готовившего техников и электротехников, открытого в 1907 году в специально построенном здании на Пречистенской набережной. За благие деяния в 1877 году он получил дворянство, в 1890 году — чин действительного статского советника. Был женат дважды, имел детей: дочь Александру, сыновей Андрея, Павла и Дмитрия.