Родился в с. Панкеево Льговского уезда Курской губернии (ныне Конышевский р-н Курской области) в дворянской семье рода Волжиных известного с начала XVII в., записанного в VI части Дворянской родословной книги Курской губернии и отмеченного в «Исторической летописи курского дворянства» А.А. Танкова.
Первоначальное образование и воспитание получил в семье. С детства владел французским языком, писал стихи и рисовал.
В числе лучших учеников окончил Курскую мужскую гимназию.
Поступил на медицинский факультет Московского университета.
Позднее перешёл юридический факультет.
Его преподавателями были известные профессора Н.И. Крылов, С.М. Соловьев, Б.Н. Чичерин.
В 1870-1872 гг. В.А. Волжин — помощник секретаря в Орловском окружном суде.
С марта 1872 г. — секретарь при прокуроре в Пензенском окружном суде.
В 1873 г. утверждён судебным следователем 1-го участка Пензенского уезда.
24 марта 1881 г. пожалован чином надворного советника.
10 марта 1882 г. назначен членом Пензенского окружного суда.
В 1889 г. пожалован чином статского советника.
В 1892 г. становится членом Пензенского губернского статистического комитета и членом Попечительского совета общественной библиотеки имени М.Ю. Лермонтова.
В 1894 г. — член комиссии по пересмотру законоположений в суде.
В это время знакомится с известным российским юристом и общественным деятелем А. Ф. Кони.
Это знакомство оказало влияние на представление В.А. Волжиным понятия судебной этики, сочетания законности и морали.
Первые статьи В.А. Волжин начал публиковать в журнале "Криминалист" в 1882 г.
В дальнейшем стал публиковаться в других издания: «Судебная газета», «Юридическая газета», «Юридический вестник», «Юридическая летопись», «Наблюдатель».
Первым отдельным изданием В.А. Волжина стал сборник рассказов и очерков "Картинки из судебной жизни", в основу которых легли факты из судебной практики, напечатанный в Санкт-Петербурге в 1891 г.
В этом же году издал двухтомник работ по юриспруденции «Закон и жизнь», с заметками: по судоустройству, по гражданскому судопроизводству, по уголовному судопроизводству, с авторскими комментариями к статьям Уложения о наказаниях, представлявший собой методическое пособие для начинающих юристов, судебных следователей, прокурорских работников и судей.
В.А. Волжин — автор трёх романов, нескольких повестей и более 80 рассказов.
Все его произведения, кроме автобиографической повести о детстве "Перед эпохой освобождения", написаны на базе его юридической практики.
Скончался в Пензе. Захоронение не сохранилось.