Здание училища по проекту, разработанному архитекторами из Санкт-Петербурга, было построено в 1900 году. Возводилось училище на средства купца первой гильдии, потомственного гражданина Тамбова А. И. Толмачева. Наблюдал за строительством училища городской архитектор В. С. Любатович.

В архитектурном плане двухэтажное кирпичное здание получилось прямоугольным, нарядным, освещенности внутренней способствовали 24 оконных проема, украшенные наличниками оригинальной формы. Средняя часть постройки выступает вперед и имеет входную дверь с объемным навесом, опирающимся на две чугунные стойки, окна с полуциркулярным завершением и небольшую каменную стенку над карнизом здания и шатровыми башенками.

Для провинциального Тамбова училище предлагало лучшие возможности для учебного процесса. Единовременно в его стенах обучалось до 800 воспитанников. Специализацией училища была начальная общеобразовательная подготовка. Кроме основных предметов в училище преподавали графические искусства и пение. На территории, огороженной каменными столбиками и секциями забора, располагались места для отдыха и игр. Часть расходов училища брали на себя богатейшие тамбовские купцы М. Л. Шоршоров и С. М. Патутин, помогая с закупками школьной формы, обуви и учебников.

После революции здание училища заняла одна из первых вновь образованных городских школ. В 60-х годах здесь находился корпус Тамбовского института химического машиностроения. В период Великой Отечественной войны 1941-1945 гг. в здании размещались эвакуационные госпитали N№2688, 5891. В настоящее время в здании размещается Прокуратура Тамбовской области.