Генерал-лейтенант В. И. Щербаков родился 14 июля 1901 года в д. Урывки Елецкого уезда Орловской губернии (ныне Елецкого района Липецкой области) в крестьянской семье.
Окончил Елецкие пехотные курсы (1920), курсы «Выстрел» (1928), Военную академию им. М. В. Фрунзе (1938) и курсы при Высшей военной академии (1947).
В рядах Красной Армии с 1917 года. Участник Гражданской войны. В годы советско-финской войны командовал 90-й стрелковой дивизией на Карельском перешейке, сформировал 104-ю стрелковую дивизию, которая сражалась на Мурманском направлении, а в годы Великой Отечественной войны - на Кандалакшском.
В сентябре 1941 года - командующий 8-й армией Ленинградского фронта, в 1942-1945 годах - командующий 14-й армией Карельского фронта, оборонявшей Ленинград и Заполярье.
Впоследствии Владимир Иванович написал книги воспоминаний о событиях войны «Заполярье - судьба моя» (Мурманск, 1994) и «На приморских флангах. Воспоминания командарма» (СПб., 1996). Участник парада Победы 24 июня 1945 года.
После войны с октября 1945 года В. И. Щербаков был заместителем командующего войсками Прибалтийского военного округа, с февраля 1947 – командующим войсками Архангельского военного округа, с мая 1949 – Горьковского военного округа, с января 1953 по август 1957 – первым заместителем командующего войсками Воронежского военного округа.
Депутат Верховного Совета СССР III созыва. Награжден орденами Ленина, Красного Знамени (четырежды), Суворова I степени, многими медалями, а также иностранными орденами.
В. И. Щербаков умер в ноябре 1981 года в Ленинграде. На доме, где он жил в 1957-1981 годах, установлена мемориальная доска. Имя Щербакова носят улица в Мурманске, большой автономный траулер.