Ока Иванович Городовиков родился на хуторе Мокрая Ельмута на Дону в бедняцкой семье бузава (казака-калмыка) Хаби Хардагина. Его отец работал табунщиком у частных коннозаводчиков. Ока Городовиков трудился пастухом с 8 лет, помогая родителям содержать 6 братьев и сестёр. В 1903 году он был призван на действительную военную службу в Русскую императорскую армию. После обучения в учебной команде 9-го Донского казачьего полка, он выпустился в звании младшего урядника и служил в том же полку.

В 1907 году Ока Городовиков был уволен в запас старшим урядником. Вернувшись в родные края, он жил в станицах Платовская и Торговая, работал сельскохозяйственным рабочим, разносчиком на ярмарке, всадником в частном охранном отряде и т. д. С 1910 по 1915 годы он был инструктором в лагерях подготовки молодых казаков для службы. В декабре 1915 года он вновь был призван в армию и стал взводным командиром третьеочередного 43-го Донского казачьего полка. Ока Городовиков был участником Первой мировой войны, воевал в составе 21-го армейского корпуса на Юго-Западном фронте и был ранен.

После Февральской революции Ока Городовиков был членом ревкома в станице Платовской и формировал калмыцкий полуэскадрон Красной Гвардии. После Октябрьской революции он был избран на съезд казачьих и солдатских депутатов. Во время гражданской войны в России он сражался на стороне красных. В ноябре 1917 года он стал командиром калмыцкого полуэскадрона в Платовском партизанском отряде, а вскоре и командиром этого отряда. В боях в феврале 1918 года против отряда походного атамана Войска Донского генерала П. Х. Попова полуэскадрон был разбит, Ока Городовиков попал в плен и был приговорён к расстрелу, но бежал и продолжил воевать.

В 1919 году Ока Городовиков вступил в РКП(б). В 1923 году он окончил Высшие академические курсы в Москве и продолжил командовать дивизией. С мая 1925 года он служил инспектором кавалерии войск Северо-Кавказского военного округа. С сентября 1925 по июнь 1932 года он командовал 1-м конным корпусом Червонного казачества. С июня 1932 года он был помощником командующего войсками Среднеазиатского военного округа по кавалерии, а с декабря 1934 года - заместителем командующего этим округом.

Во время Великой Отечественной войны Ока Городовиков был представителем Ставки Главного командования на Северо-Западном фронте, где он занимался организацией обороны на рубеже Западной Двины. Он также руководил формированием кавалерийских частей на Западном фронте и был представителем Ставки по руководству кавалерийскими рейдами в тылу противника. В 1943 году он был представлен к присвоению воинского звания "генерал армии" и к награждению орденом Кутузова I степени, но не получил их. В 1947 году он был уволен в отставку.

В 1958 году Ока Городовикову было присвоено звание Героя Советского Союза. Он умер в 1960 году в Москве и был похоронен на Новодевичьем кладбище. Ока Городовиков написал несколько работ, посвящённых истории кавалерии в России, включая книги "Рождение Первой Конной", "Конница прошлого и 2-я Конная в Северной Таврии" и "Воспоминания". Его именем названы город Городовиковск в Калмыкии, улицы в нескольких городах и сёлах, а также 111-я отдельная Калмыцкая кавалерийская дивизия.