Анатолий Ильич Геккер родился в Тифлисе в семье военного врача. Он окончил Тифлисскую классическую гимназию в 1907 году и поступил в военное училище. В 1909 году Геккер окончил Владимирское военное училище в Санкт-Петербурге и начал службу в 102-м Вятском пехотном полку. С 1912 года он проходил службу в Отдельном корпусе пограничной стражи.

Геккер был участником Первой мировой войны, воевал в должностях обер-офицера для поручений при штабе 3-й Заамурской пограничной дивизии, исполняющим должность старшего адъютанта штаба 3-го армейского корпуса. В 1917 году он окончил ускоренный курс Императорской Николаевской академии Генерального штаба и был направлен старшим адъютантом штаба в 33-й армейский корпус на Румынский фронт. В сентябре 1917 года Геккер входил в состав делегации Румынского фронта на съезде в Петрограде и был избран членом корпусного солдатского комитета. Он стал одним из первых офицеров, вступивших в партию большевиков в сентябре 1917 года.

После Октябрьской революции Геккер был избран начальником штаба 33-го корпуса, а затем командующим 8-й армией Румынского фронта. Он также состоял членом армейского военно-революционного комитета. В марте 1918 года Геккер вступил в Красную Армию и был назначен членом Центроштаба Советов в Донбассе, где стал одним из организаторов советских частей. В том же месяце он был назначен командующим советскими войсками в Донбассе — Донецкой армией РККА.

В дальнейшем Геккер занимал различные должности, включая начальника штаба командующего Украинским фронтом, комиссара Беломорского военного округа, командующего Вологодским тыловым районом и Котласским районом. Он руководил подавлением Ярославского восстания и был командующим Северного Ярославского района. Геккер также был командующим Астраханским укреплённым районом Каспийско-Кавказского фронта и одним из организаторов обороны Астрахани.

В 1919 году Геккер был командующим 13-й армией Южного фронта, которая участвовала во всех важнейших операциях фронта против армий А. И. Деникина. В 1920 году он служил начальником штаба Войск внутренней охраны (ВОХР) Республики, а затем командовал 11-й армией, которая занималась подавлением антисоветского восстания в Дагестане и обеспечила приход к власти в Армении коммунистов и создание Армянской ССР.

В последующие годы Геккер занимал различные должности, включая военного атташе в Китае и Турции, начальника отдела внешних сношений Разведывательного управления РККА. Он был арестован в 1937 году по обвинению в участии в контрреволюционной, шпионской и террористической организации и приговорен к смертной казни. Геккер был расстрелян в 1937 году, но реабилитирован в 1956 году.

Геккер был награждён орденами Красного Знамени, Красного Знамени Армянской ССР, Красного Знамени Азербайджанской ССР, Святой Анны 3-й степени с мечами и бантом, Святого Станислава 3-й степени с мечами и бантом, Святой Анны 4-й степени с надписью «За храбрость». Он был женат на Евгении Борисовне, у них были сын Борис и дочь Татьяна. После ареста Геккера его семья также была арестована и приговорена к различным срокам заключения в исправительно-трудовых лагерях.