Александр Павлович Виноградов родился 9 августа 1895 года в Петрецово, Ярославской губернии. Его семья была семьей государственных крестьян, которые занимались земледелием и периодически отправлялись на заработки в Санкт-Петербург. В 1907 году Виноградов окончил Первое Спасское городское начальное училище в Санкт-Петербурге с отличием. Среднее образование он завершил в 1916 году в Петрограде при Военном округе.

С 1919 года Виноградов начал учиться в Военно-медицинской академии и одновременно на химическом отделении физико-математического факультета Ленинградского университета. Он окончил академию в 1924 году и университет в 1925 году. С 1924 года работал в московской лаборатории академика Н. Д. Зелинского, а в 1925 году стал штатным сотрудником кафедры физиологической химии Военно-медицинской академии.

В 1926 году Виноградов начал работать в качестве научного сотрудника АН СССР, где он принимал участие в организации Биогеохимической лаборатории академии. В 1934 году ему была присуждена ученая степень доктора химических наук за работы по изучению химического элементарного состава морских организмов. В 1936 году он выезжал на две месяца в свою первую научную заграничную командировку для ознакомления с постановкой океанографических исследований во Франции, Англии, Дании.

В 1943 году Виноградов был избран членом-корреспондентом АН СССР по Отделению химических наук. В 1945-1947 годах он работал директором Лаборатории геохимических проблем имени В. И. Вернадского АН СССР. В 1947 году он организовал и возглавил Институт геохимии и аналитической химии имени В. И. Вернадского АН СССР.

Виноградов был одним из крупнейших деятелей советского атомного проекта. В 1941 году он предложил И. В. Курчатову использовать термодиффузионный метод разделения изотопов. В конце 1940-х годов он был привлечен для работ по созданию атомного оружия и атомной промышленности в Советском Союзе. Под его руководством были разработаны высокочувствительные методы химико-аналитических исследований.

В 1949 году Виноградову было присвоено звание Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот». В 1953 году он был избран академиком АН СССР по Отделению геолого-географических наук. С 1954 года жил на набережной Максима Горького, дом № 4/22.

Исследования Виноградова простирались от биогеохимии до космохимии. Он изучал изменения химического состава организмов в связи с их эволюцией, особенно содержание в организмах редких и рассеянных элементов. Виноградов ввел в науку понятие «биогеохимические провинции» и описал связанные с ними биогеохимические эндемии растений и животных.

В 1963-1967 годах Виноградов был академиком-секретарем Отделения наук о Земле АН СССР, а с 1967 года - вице-президентом АН СССР. Он выполнял инструментальные определения химического состава планетных тел. По данным, полученным с помощью межпланетных космических станций, Виноградов впервые установил наличие базальтических пород на поверхности Луны и определил прямыми измерениями химический состав атмосферы Венеры.

Виноградов скончался 16 ноября 1975 года. Он был похоронен в Москве на Новодевичьем кладбище. В его честь были названы минерал виноградовит, разлом Виноградова на дне Атлантического океана, гора Виноградова на Луне, кратер Виноградов на Марсе. Виноградову была учреждена Премия имени А. П. Виноградова Российской Академии наук.