Il Borgo si contraddistingue per essere stato sede in passato di importanti abazie. Si ricorda il complesso di S. Stefano fondato in XI sec. da monaci benedettini provenienti da Genova, oggi però molto rimaneggiato; l’abside in origine semicircolare, ora rettangolare conserva una Crocifissione attribuita al XIV sec., mentre la facciata è stata rifatta nel corso del XVIII sec. Di notevole importanza e potenza è stata l’abazia di S. Giustina; fondata da Liutprando, re dei Longobardi, in VIII sec. d. C., viene ricostruita e dotata di notevoli proprietà dopo il 1030 dal marchese Ottoberto della dinastia aleramica che l’affida ai monaci benedettini. Dell’edificio romanico originario rimangono, esternamente, la facciata a salienti e gli archetti binati sostenuti da lesene che ornano l’intero perimetro, internamente, la planimetria a tre navate con possente transetto, il prersbiterio rialzato e la cripta sottostante. Nella seconda metà del XV secolo la copertura a capriate lignee viene sostituita da volte a crociera, i pilastri rettangolari vengono rinforzati da semicolonne e vengono aggiunti i pinnacoli esterni e la torretta in facciata. Alla Fine del XV sec., dopo tre secoli di gloriosa storia e considerevole peso politico, l’abazia perde l’autonomia e i beni passano in commenda.

In epoca napoleonica la chiesa viene trasformata in granaio e suddivisa in più piani. L’intonaco e la calce cancellano quasi interamente la decorazione pittorica. Nel 1863 il complesso viene acquistato dal senatore Frascara che realizza l’attuale villa sulle macerie del convento e, soprattutto, inizia il recupero della chiesa, completato in questo secolo per volontà della figlia.
L’interno, nonostante il restauro, rivela ancora le tracce delle manomissioni e degli sventramenti; tuttavia, si è recuperata la decorazione dell’abside eseguita nel XV secolo con storie della Passione e il Giudizio Universale, parte di quella del transetto nord con storie delle vergine del XIV secolo e tracce di un fregio decorativo con velario sempre in questa zona, unica testimonianza della decorazione Del XI secolo. Tra gli aspetti meglio conservati si ricorda il pavimento musivo della cripta realizzato in tessere bianche e nere e decori geometrici e floreali terminante con una scrittura che, in latino, ricorda l’intervento di Ottoberto.
Papa Pio V celebrò la sua prima Messa nell’antica chiesa parrocchiale di Sezzadio, paese natale delle madre.