Le cappelle laterali, fatte erigere dalle più importanti famiglie castellane tra il XVI e il XVII secolo, sono ricche di affreschi e dipinti su tela. Tra queste un'attenzione particolare merita quella del
SS. Sacramento, detta il "Cappellone", all'interno della quale si trovava la tavola raffigurante
Cristo in Gloria (1528-30) di
Rosso Fiorentino, ora conservata nell'adiacente
Museo del Duomo. Tra le tante opere custodite all'interno della chiesa le tele di
Bernardino Gagliardi, gli affreschi di
Tommaso Conca, la
Caduta da cavallo di San Paolo dipinta da
Niccolò Circignani detto il Pomarancio ed un coro ligneo intagliato e intarsiato del 1540.
Sotto il Duomo si estende la
chiesa Inferiore, suddivisa in due navate da grossi pilastri che sostengono volte a crociera. Qui sono custodite le reliquie dei SS. Florido e Amanzio.
Secondo la tradizione il duomo fu fondato nel VI secolo da San Florido, ma la struttura originaria risale all'XI secolo.
Nel corso dei secoli la chiesa ha subito numerosi interventi di restauro, anche importanti: nel 1356 venne ampliata, tra il 1466 ed il 1529 completamente rinnovata su progetto di Elia di Bartolomeo, del figlio Tommaso e di un maestro, Piero di Lombardia, che la riadattarono alle nuove forme dell'architettura rinascimentale. Infine nel 1632 su disegno di Francesco Lazzari, venne ricostruita la facciata, rimasta purtroppo incompleta nella parte superiore.