Hasta el año de 1913, la Iglesia Catedral, aun inconclusa, era el único templo de Duitama. Había solamente dos plazoletas: la Plaza de mercado (hoy Parque de los Libertadores) y la Plazuela del ganado (hoy Parque del Carmen). Por motivos políticos y también por devoción a la Virgen del Carmen, un grupo de ciudadanos decidió comenzar la construcción de una Capilla en su honor. En 1913 sobre terrenos donados por don Juan Bautista Becerra en la plazuela del ganado se comenzó la construcción de la capilla en honor a la Virgen del Carmen. Los planos de la fachada (copia del estilo gótico del Santuario del Carmen de Bogotá) fueron obra de don Sergio Felipe Mesa (dibujante) y se destacó como maestro constructor don Argemiro Figueredo quien fue uno de los que más ayudó en la obra en cumplimiento de una promesa de agradecimiento a la Virgen del Carmen por un milagro que ella le hizo.