Ян Борисович Гамарник родился в Житомире в семье мещанина Цудика Мошковича Гамарника и его жены Иты-Леи Мошковны. Учился в Одесской мужской гимназии, с 15 лет подрабатывал репетиторством. В 17 лет заинтересовался марксизмом. В 1913 году окончил гимназию с серебряной медалью, переехал в Малин Киевской губернии и стал репетитором. В 1914 году поступил в Петербургский психоневрологический институт, но в 1915 году перевёлся на юридический факультет Киевского университета.

Познакомившись с руководителями большевистского подполья на Украине, Гамарник в 1916 году стал членом РСДРП(б). Вёл пропаганду на киевском заводе «Арсенал». После Февральской революции Гамарник возглавлял Киевский комитет РСДРП(б). В 1917 году был арестован властями вместе с руководителями киевских большевиков, но был освобождён вооружённым восстанием. В январе 1918 года был избран членом Киевского ревкома, затем работал на подпольной партийной работе на Украине. Летом 1918 года приехал в Москву, познакомился с В. И. Лениным и был избран в состав ЦК КП(б)У.

Гамарник участвовал в подавлении мятежа левых эсеров. В 1918 году был заместителем председателя Киевского Совета, с мая 1919 года — председателем Одесского губкома партии. В августе 1919 года был назначен членом РВС Южной группы войск 12-й армии. С февраля 1920 года был председателем Киевского губкома партии, с 18 октября 1920 года — председателем Киевского губернского революционного комитета, а с 25 апреля 1921 года — председателем Киевского губисполкома. С июля 1923 года был председателем Приморского губисполкома, в июне 1924 года — председателем Дальревкома, а с марта 1926 года — Дальневосточного крайисполкома. В 1927—1928 годах был первым секретарём Дальневосточного крайкома партии.

В 1929—1937 годах Гамарник занимал должность начальника Политуправления РККА и был ответственным редактором газеты «Красная звезда». Он поддержал Сталина в разгроме «правой оппозиции» и оказывал содействие Тухачевскому в технической реконструкции Красной армии. В 1934—1937 годах был первым заместителем наркома обороны СССР. Выступил в защиту Тухачевского, заявив Сталину, что в его отношении совершена ошибка. Гамарнику было присвоено воинское звание армейского комиссара 1-го ранга.

20 мая 1937 года Гамарника сняли с поста начальника Политуправления РККА и понизили до должности члена Военного совета Среднеазиатского военного округа. 30 мая Политбюро ЦК ВКП(б) приняло решение об отстранении Гамарника от работы в Наркомате обороны. 31 мая Гамарник застрелился накануне неизбежного ареста. В 1955 году Гамарник был реабилитирован решением Комитета партийного контроля при ЦК КПСС.