Во второй половине ХVIII века в Тамбове на пересечении улиц Пензенской и Большой Астраханской (ныне ул. Советская) в начале XIX века были выстроены два кирпичных здания. Дома принадлежали Борису Дмитриевичу Хвощинскому — коллежскому асессору. Оба здания были куплены у него в 1827 году для размещения в них тамбовской мужской гимназии.
В 1866 году оба корпуса были соединены пристройкой в одно двухэтажное здание. Эта пристройка хорошо заметна и сегодня — ее отличают полукруглые формы окон второго этажа. Тогда же в пристройке на средства купца Андрея Михайловичу Носова соорудили гимназическую церковь, освященную в 1869 году во имя Александра Невского. Тамбовская мужская гимназия пользовалась большим авторитетом в середине прошлого века и считалась одной из лучших среди гимназий губернских городов России.
С тех пор улицу Пензенскую, где расположилась гимназия, стали именовать Гимназической. В конце ХIХ века была сооружена еще одна пристройка со стороны двора в северной части гимназического корпуса, с тех пор и до наших дней здание гимназии сохранилось практически без изменений.
Рост популярности гимназии сопровождался увеличением количества учеников до 600. Многие бывшие гимназисты впоследствии прославили свое учебное заведение: писатель Вышеславцев, историк Чичерин, артист Давыдов, революционеры и государственные деятели Чичерин и Подбельский и другие, чьи фамилии можно увидеть на мемориальных досках, размещенных на фасаде.
В 1918-1920 годах в здании гимназии располагался военный госпиталь, а в 1924 году оно было передано в ведение губернского отдела народного образования. Последующие годы здесь располагались различные учебные заведения. В 1958 году открылся филиал Московского института химического машиностроения. В 1964 году вуз стал самостоятельным Тамбовским институтом химического машиностроения. В настоящее время — один из корпусов Тамбовского государственного технического университета.