Иван Андреевич Арапов родился 21 ноября 1844 года в селе Воскресенская Лашма бывшего Наровчатского уезда Пензенской губернии. Он был старшим сыном Андрея Николаевича Арапова и братом Николая Андреевича Арапова. Иван Арапов воспитывался дома, затем получал образование в Петербургском университете.

На службу Иван Арапов поступил 6 апреля 1862 года юнкером в Кавалергардский полк. 5 сентября 1863 года он был произведён в корнеты. В 1866 году Арапов был назначен адъютантом к военному министру Д. А. Милютину. В последующие годы он последовательно получал повышения в звании: в 1867 году был произведён в штабс-ротмистры, в 1869 году - в ротмистры, а в 1874 году - в полковники.

Иван Арапов участвовал в русско-турецкой войне 1877-1878 годов, состоял при графе Д. А. Милютине и принимал участие во взятии Плевны. После войны он продолжал служить, занимая различные должности, включая членство в совете главного управления государственного коннозаводства и Совете министра земледелия и государственных имуществ. В 1882 году Арапов был произведён в генерал-майоры, а в 1904 году - в генерал-лейтенанты.

Иван Арапов был женат на Александре Петровне Ланской, дочери Натальи Николаевны Ланской-Пушкиной, и имел от неё детей: Елизавету, Петра и Андрея. Он скончался 24 июня 1913 года в селе Воскресенская Лашма и был похоронен в Александро-Невской лавре. В честь Ивана Арапова была названа железнодорожная станция Арапово, которая позже была переименована в Ковылкино. Он также был награждён многочисленными российскими и иностранными орденами за свою службу.