Появление сети железных дорог в России во второй половине XIX века называют «Российским железнодорожным чудом». За короткое время, практически не имея рельсовых дорог, Россия по их протяженности опередила Великобританию, Францию, Германию, уступая лишь США. Всего за 9 лет Центрально-Черноземные области пересек ряд важнейших магистралей общей длиной 4655 км. Строительство линии Козлов-Воронеж, прошедшей в 1867 году через Усмань, также является частью этого «железнодорожного чуда».

Подряд на постройку Козлово-Воронежской железной дороги продолжительностью 170 верст получил в августе 1866 года Самуил Соломонович Поляков. В этом же году было начато проектирование. Молодой российский предприниматель опирался на протекцию министра почт и телеграфа графа И.М. Толстого и графа С.С. Шереметьева, возглавлявшего строительную контору Императорского двора. Благодаря такой поддержке С.С. Поляков обошел крупного железнодорожного предпринимателя П.П. фон Дервиза и добился утверждения максимальной поверстной строительной стоимости дороги - 75 тысяч рублей серебром. Действительная стоимость дороги составила 9,5 тыс. руб. с версты пути, то есть была в 8 раз дешевле. В организации работы использовался опыт Североамериканских штатов по ускоренному строительству железных дорог. Координировал всю работу лично Поляков. Дорога была построена досрочно.

Первый поезд на станцию Усмань пришел 30 (17 по ст. ст.) ноября 1867 года в 5 часов вечера. Его встречали толпы любопытствующих. 20 декабря через станцию прошел первый пассажирский поезд на Воронеж, а 19 января 1868 года открылось регулярное движение. В это время уездный город Усмань относился к Тамбовской губернии. По переписи 1856 года в нем насчитывалось 5,5 тыс. жителей, было 5 церквей, 600 домов, 90 лавок. Железнодорожное движение благотворно сказалось на развитии городского хозяйства и местной жизни в целом. В конце XIX-начале XX вв. из Усмани ежегодно в Москву и на экспорт отправлялось более 1 млн пудов зерна, большой доход приносила торговля лошадьми местного коневодства, производство махорки. По переписи 1897 года население Усмани составило уже 10 тыс. человек.

В настоящее время станция Усмань является частью Юго-Восточной железной дороги. Кроме составов местного значения, она принимает также поезда дальнего следования.