26 марта 1865 г. открыл первый в Курске банк под названием "Городской общественный - Филипцова банк" в доме купца С.П. Сыромятникова на ул. Херсонской (ныне ул. Дзержинского, 21), фасад которого украшала богатая лепнина из цветочных гирляндами с затейливыми оконными наличниками и другими декоративными деталями.
Своим названием банк обязан вкладу А.И. Филипцова в размере 90 тыс. рублей в его уставный капитал.
В течение 53 лет банк выполнял денежные операции, необходимые для обеспечения торговой и промышленной деятельности своих клиентов. Сотрудничал со знаменитым европейским банком "Лионский кредит" (14 декабря 1917, на основании декрета ВЦИК Советской Республики, банк Филипцова национализировали).
Кроме банковской деятельности А.И. Филипцов известен своей благотворительностью.
В 1879 г. пожертвовал городу 90 тыс. руб., проценты с которых должны были выдаваться десяти "бѣднымъ невѣстамъ", а также 200 беднейшим семействам из купечества и мещанства "на вспомоществованiе".
Инициативу А.И. Филипцова поддержали и другие курские купцы.
В последствии получатели пособия определялись по результатам ежегодных апрельских жеребьёвок, которые проводила городская управа.
Скончался в Курске. Похоронен на Никитском кладбище.
На захоронении благодарные горожане установили памятник из белого мрамора — четырёугольная колонна под мраморным покрывалом, на верху водружён золотой крест.
На постаменте надпись:
"Основателю банка, благотворителю бѣднымъ и церквамъ".
С другой стороны стихотворение неизвестного автора:
"Почившій скромно въ жизни росъ,
Всѣ дни трудясь въ тиши незримо
И пользу вѣчную принесъ
Своей странѣ родной и милой."
Всѣ дни трудясь въ тиши незримо
И пользу вѣчную принесъ
Своей странѣ родной и милой."