Деревянная Златоустовская церковь при мужском приюте и богадельне находилась на западной окраине Ельца, вблизи мужского Троицкого монастыря и Казанского кладбища на ул. Кладбищенской, ныне Л. Толстого. В 1860-х гг., городским управлением Общественного банка был устроен приют для 50 бедных мальчиков мещанского звания и богадельня на 50 стариков с содержанием из ежегодной прибыли учреждения. Различными благотворителями для размещения призреваемых были приобретены два здания.

В 1872 г. по благословению епископа Орловского Макария (Миролюбова) на средства елецких купцов Н. Е. Назарова, М. Г. Заусайлова, Хренникова, Двойченкова и братьев Калабиных между зданиями приюта и классной комнатой построена была деревянная церковь, оштукатуренная снаружи.

В том же году иждивением купца И. И. Калабина в храме устроен двухъярусный иконостас. По его желанию главный престол храма освящен в честь св. Иоанна Златоуста ‒ небесного покровителя жертвователя.

Как и все домовые храмы, елецкая церковь во имя св. Иоанна Златоуста при мужском приюте и богадельне была закрыта, скорее всего, сразу после революции. В годы советской власти территорию приюта занял детский дом-интернат № 1. В середине XX в. пришедшая в ветхость деревянная часть храма была разобрана, сохранилась лишь его кирпичная пристройка. Ее разделили на два этажа и разместили в ней швейные мастерские интерната.

Возвращение сохранившейся части Златоустовского храма Русской Православной Церкви состоялось в 1996 г. Здание было передано приходу Казанской кладбищенской церкви, расположенной неподалёку. Настоятель её о. Владимир Федюшин и начал восстановление Златоустовского храма. Проект реставрации в 1996 г. выполнил архитектор А.В. Новосельцев. Никаких изображений храма не сохранилось, поэтому проект предусматривал использовать под воссоздаваемый храм лишь сохранившиеся части храма, сложенные из кирпича. При обследовании выяснилось, что деревянная храмовая часть располагалась, вероятно, южнее, и сохранившаяся кирпичная пристройка к ней имела высокий односветный объём, с высокими окнами с полуциркульными завершениями, обрамлёными зубчатыми наличниками. Южная часть после разборки деревянных частей церкви была сложена заново без учета первоначальных форм. Раскрывшиеся в ходе обследования формы кирпичной части выполнены в стиле так называемой кирпичной архитектуры, характерной для последней четверти XIX столетия, и проект приспособления был выполнен с учетом этих форм: над П-образным выступом с северной стороны устроен шатер, над основным объёмом — купол на низком квадратном основании, увенчанный луковичной главкой с крестом. После завершения работ в храме работала воскресная школа.

В 2006 г. Златоустовская церковь передана в ведение монашеской общины, состоящей под руководством архимандрита Севастиана (Щербакова) и готовящей восстановление Троицкого мужского монастыря. В том же году храм был обновлен снаружи и внутри, устроен иконостас. При входе в церковь оборудована звонница.