Дмитрий Петрович Жлоба родился 3 июня (15 июня) 1887 года в Киеве в семье украинского батрака. Его отец, Пётр Акимович Жлоба, был выходцем из семьи безземельных казаков села Шибириновки Черниговской губернии. Дмитрий работал на заводе «Наваль» в городе Николаеве и участвовал в столкновениях с полицией во время Первой российской революции 1905—1907 годов. Он освоил навыки обращения с шахтным оборудованием и работал машинистом на шахтах Донбасса.

В 1916 году Жлоба был арестован за участие в Горловско-Щербиновской стачке и призван в армию. Он был зачислен в Русскую императорскую армию и направлен на учёбу в Московскую школу авиационных мотористов, которую окончил в 1917 году. Жлоба стал членом РСДРП(б) в 1917 году и был избран членом Московского совета. Он командовал красногвардейским отрядом во время Октябрьского вооружённого восстания в Москве и участвовал в боях на Донбассе и в Киеве.

В 1918 году Жлоба командовал полком, бригадой и 1-й «Стальной» стрелковой дивизией в боях против белогвардейцев на Кубани и Северном Кавказе. Он был дважды награждён орденом Красного Знамени за умелое руководство частями и личную храбрость. В 1920 году Жлоба командовал конной группой, которая была разгромлена белыми войсками. После этого он был отстранён от командования и служил заместителем командира 18-й кавалерийской дивизии.

В 1922 году Жлоба был демобилизован и находился на хозяйственной работе. Он руководил различными организациями, включая Помгол, Последгол и Крайколхозобъединение. В 1928 году Жлоба был снят с должности и находился в длительном отпуске. В 1929 году он был поставлен во главе «Плавстроя», который занимался мелиоративными работами на Кубани.

В 1937 году Жлоба был арестован НКВД по ложному обвинению и в 1938 году был расстрелян. Он был реабилитирован в 1956 году в связи с отсутствием состава преступления. Жлоба был награждён двумя орденами Красного Знамени и наградным золотым революционным оружием. Его имя было присвоено различным улицам и объектам в России и на Украине.