Художник А. А. Климов родился 2 мая 1933 года на станции Волово Тульской области. Его отец был инженером-железнодорожником и художником-любителем, благодаря ему Анатолий тоже стал рисовать. В 1941 году отец ушел на фронт, а мальчик вместе с бабушкой, мачехой и сестрой эвакуировался в Казахстан. Здесь он испытал и голод, и холод, пережил потерю своих близких, рос в чужой семье, до тех пор, пока за ним не приехал отец.

После окончания школы-семилетки (1949) Анатолий Климов успешно сдал вступительные экзамены в Крапивенский лесхоз-техникум (Щекинский район Тульской области), но учиться там не захотел. В этом же году он поступил в Елецкое художественное училище, и Елец стал для него родным городом.

Среди учителей в училище был Виктор Семенович Сорокин, который оказал огромное влияние на становление Анатолия Климова как художника и как человека. Позже Анатолий Александрович вспоминал: «Сорокин не учил нас в примитивном понимании этого слова. Он воспитывал в каждом ученике самостоятельную личность, способную решать профессиональные и творческие задачи, опираясь на свои собственные, дарованные природой способности. Он учил цельному видению как основе живописного восприятия действительности».

После окончания училища (1957) Анатолий Александрович остался в Ельце, работал в училище, в школе рабочей молодежи. С 1992 года он – преподаватель Елецкого государственного училища искусств им. Т. Н. Хренникова.

В 1954 году А. А. Климов начал свою выставочную деятельность. В 1960 году впервые участвовал во Всероссийской выставке, в 1998 году состоялась его первая персональная выставка в г. Ельце. Анатолий Александрович участвовал и в других областных, зональных, региональных и республиканских выставках, получил известность как акварелист. В сентябре 2016 года в Доме Мастера состоялась выставка «Мир акварели Анатолия Климова». Специалисты отмечают особую искренность, поэтичность и утонченную деликатность его работ.

В 1968 году А. А. Климов был принят в члены Союза художников СССР, он –  член правления Липецкой организации Союза художников РФ.

Произведения А. А. Климова хранятся в Липецком областном и Елецком краеведческих музеях, областном художественном музее, Воловском художественно-краеведческом музее (Тульская область), в частных коллекциях России, Европы и США. Среди них такие работы, как «Старый Елец», «Дождливый день», «Ночь в старом городе», «Луна взошла» и другие.

Другой гранью творчества А. А. Климова является поэзия. В 2020 году издана книга его стихотворений «Я придумал тебя», иллюстированная автором.

Умер 25 января 2023 года.