La Chiesa fu fondata tra il 382 e il 386 (anno della consacrazione) per volere del vescovo Ambrogio, sull'area di una preesistente necropoli. La nascita della basilica si lega al culto dei Santi e Martiri promosso dal patrono di Milano, tanto che la sua consacrazione avvenne con le reliquie dei Santi Apostoli, dai quali deriva la sua prima titolazione e dei quali si conservano, pare, brandelli di stoffa (brandea) entrati in contatto con il corpo dei Santi sepolti a Roma.
La chiesa, sorta lungo la via per Roma, rivela il desiderio vescovile di contrassegnare questa zona, posta al di fuori del circuito murario ma sulla direttrice verso la capitale, con un evidente simbolo cristiano. La forma a croce della pianta, non nota fino a quel momento in Occidente, riprendendo quella della chiesa degli Apostoli a Costantinopoli voluta dall’imperatore Costantino, sottolinea il legame con quella città, definitivamente purificata dall’arianesimo ai tempi di Teodosio, e costituisce per i fedeli il simbolo concreto della vittoria di Cristo
Nove anni dopo la consacrazione, Ambrogio apporta alcune modifiche per accogliere le reliquie di San Nazaro, il cui ritrovamento è databile al 395 vicino alla necropoli di porta Romana. L'edificio paleocristiano è ancora riconoscibile nella pianta dell'attuale chiesa, che si data all'XI secolo. Dopo i cambiamenti apportati nei secoli all'edificio, l'interno si caratterizza oggi dal contrasto fra il bianco del nuovo intonaco, le linee rossastre dei costoloni in cotto e il grigio della pietra di alcuni ritrovamenti di muratura paleocristiana che sono stati lasciati a vista.
Nell'edificio, che dopo il prolungamento del braccio verso l’ingresso, attualmente presenta la caratteristica pianta a croce latina, si distinguono elementi rinascimentali romanici.
Per le sue antichissime origini, rappresenta una delle principali testimonianze d'arte paleocristiana presenti in città.
Secondo la leggenda, San Nazaro, perseguitato dall’imperatore Nerone, fu decapitato con il giovane Celso a Milano, presso Porta Romana, in una località chiamata “Tre Muri”. Per timore dell’imperatore, i cristiani trafugarono immediatamente i corpi, per seppellirli in un luogo segreto, che, secoli più tardi, il Signore rivelò ad Ambrogio. Il corpo di Celso fu lasciato nel luogo del rinvenimento, dove si trova la basilica a lui dedicata (corso Italia) in cui sono conservate le reliquie, mentre quello di Nazaro fu portato nella basilica degli Apostoli. Miracolosamente, come narra la Leggenda Aurea di Jacopo da Varagine (XIII secolo), “il corpo del Santo aveva ancora il sangue fresco, come se fosse appena stato sepolto, integro e incorrotto, circondato da un odore fragrante, ancora con barba e capelli”.

Nella Cappella di famiglia Trivulzio, Giangiacomo Trivulzio è sepolto tra le due mogli. Sulla lapide, è presente una scritta in latino che alcuni storici traducono in milanese: “L’è staa mai cont i man in man” (non è mai stato inoperoso).
Sant’Ambrogio dedicò la chiesa ai Santi Apostoli Pietro e Paolo dei quali sono custodite alcune reliquie contenute in una teca argentea che si trovava sotto l’altare.

La copertura della chiesa era inizialmente in capriate lignee e solo nel Medioevo fu sostituita dalle volte a crociera. Sempre in questo periodo venne aggiunto il tiburio che sovrasta l'incrocio dei bracci. Durante il Rinascimento fu costruito il Mausoleo Trivulzio ad opera del Bramantino, praticamente addossato alla facciata paleocristiana dell'oratorio di Santa Caterina.
La Cappella Trivulzio - iniziata nel 1512 dal Bramantino - fu pensata come mausoleo della famiglia di Giangiacomo Trivulzio, maresciallo di servizio di Luigi XII di Francia. La pianta, di forma ottagonale, è coperta da una cupola a spicchi compresa entro il tiburio quadrato.
Da non perdere la Cappella di Santa Caterina, attribuita ad Antonio da Lonate (1540) che contiene una statua lignea dell'Addolorata del XVII secolo e un dipinto di Bernardino Lanino che rappresenta l’Ultima Cena.
Ai lati del portale, il transetto sinistro contiene altre opere interessanti come “Il Gesù nella Passione”, una tavola di Bernardino Luini che sovrasta un piccolo tabernacolo rinascimentale. Nella sagrestia ci sono alcune opere di Giovanni da Monte Cremasco.
L'edificio conserva altri dipinti interessanti come un'Annunciazione di Daniele Crespi e “La presentazione al tempio” di Camillo Procaccini.