La chiesa, incassata nella cortina urbana, è di piccole dimensioni e si presenta affacciata su di un piccolo sagrato in acciottolato, sulla vecchia strada per il castello. Oltra alla chiesa ne fanno parte integrante il portico sul lato settentronale, affiancato ad essa e il cmapanile di origini medioevali, caratterizzato da delle bifore in pietra. La facciata non presenta decorazioni, è caratterizzata da un portale aggettante in marmo a con timpano e un rosone centrale. A coronamento è posto un timpano in aggetto. L’interno, che si presenta con una navata laterale sul lato sinistro ed entrambe con volta a botte, è riccamente affrescato, in cui spiccano le soase ligne presenti agli altari laterali. Il presbiterio a pianta rettangolare, è rialzato e separato dall’aula dalle balaustre un marmo, è caratterizzato dall’altare maggiore realizzato anch’esso in marmi policromi, e dalla soasa lignea dorata che incornicia la pala d’altare raffigurante una madonna eretta con bambino con S. Rocco e S. Sebastiano ai lati, opera del XVII secolo.
453 – La chiesa è edificata nel luogo di una chiesa precedente risalente al 453 d. C., costruita dal Vescovo Gaudioso e legata alla chiesa dedidata alla Beata Vergine di Betlemme, quest’ultima situata sul lato est del colle Cidneo, prima della sua demolizione nel XVI secolo.
843 – In un documento dell’843, trovato nell’altare maggiore nel XVII secolo, la chiesa sarebbe stata originariamente dedicata a Ognissanti e Santi Faustino e Giovita.
X – L’antico nome della chiesa era San Faustino in Carceribus o San Faustino in Castro, perchè vi sarebbero stati tenuti prigionieri i patroni della città.
1144 – L’antica chiese viene citata con fatture romaniche in un documento del 1144.
1148 – L’antica chiesa viene menzionata come proprietà del Capitolo della Cattedrale con Bolla papale in data 5 settembre 1148.
1153 – Nel 1153 l’antica chiesa viene annoverata nell’elenco delle chiese consacrate.
XV – All’interno, su di un pilastro della navata viene realizzato da ignoto un affresco raffigurante una Madonna in trono con Bambino, attribuito alla scuola del maestro Gerolamo da Brescia.
1429 – L’antica chiesa, a tre navate con tre absidi, trovandosi in rovina viene riedificata, impostando il campanile sul presbiterio della navata minore.
XVI – A questo periodo risalgono i lavori di ristrutturazione relativi all’intero edificio, che ne definiscono la conformazione attuale.
1511 – Il 15 aprile 1511 viene realizzato da anonimo, un dipinto a fresco commissionato da persona devota.
1527 – Nel 1527 viene installato l’organo.
1581 – Nel 1581 avviene la visita pastorale di S. Carlo Borromeo, e nella quale viene descritta contenente due altari; affiancata ad essa si trova l’omonimo oratorio e la casa del cappellano.
XVII – Nel corso del XVII secolo vengono realizzati affreschi relativi al presbiterio, che rappresentano una Madonna eretta al naturale che reca per mano il figlioletto.
1612 – Il 18 novembre 1612 viene istituita la cofraternita di Santa Maria delle Consolazioni con sede presso l’oratorio omonino affiancato alla chiesa.
1613 – Nel 1613 viene disposto dal Capitano veneto Stefano Vario, il lagato di una messa quotidiana.
XVIII – Nel corso del XVIII secolo vengono realizzati affreschi relativi al presbiterio, che rappresentano la Maria Vergine col Bambino insieme a S. Rocco e S. Sebastiano.
XIX – Vengono rimossi gli antichi apparati decorativi risalenti al XV secolo, e sostituiti con altri dal pittore Lorenzetti.
XX – Nel corso dei primi decenni del XX secolo vengono realizzati affreschi relativi alla navata, opera di Giuseppe Ronchi e Vittorio Trainini, quest’ultimo che si occupa anche delle vetrate del fianco settentrionale.
1919 – Nel 1919 il poeta Angelo Canossi fece dotare il campanile della campana della memoria per i caduti della I guerra mondiale; negli anni successivi se ne aggiunsero altre due più piccole.
1923 – Nel 1923 le campane vengono rimosse e portate al campanile della chiesa dei Santi Cosma e Damiano.
1932 – Nel 1932 lungo il fianco del sagrato viene ricostruito il portico dalla ditta Deltratti, su progetto dell’ingegner Egidio Dabbeni. Il portico è composto da due navate divise da pilastri ed archi a tutto sesto.