La chiesa di San Bernardo fu realizzata accanto al quattrocentesco "monastero degli Olivetani", sede attuale del Museo archeologico, fatto costruire dai nobili Degli Azzi sull'area dell'emiciclo sud dell'Anfiteatro romano.
Ad Arezzo nel 1319 i fondatori dell'Ordine benedettino di Monte Oliveto avevano ricevuto dal vescovo Tarlati la sanzione canonica della nuova congregazione.

I lavori della chiesa, successivi a quelli del monastero, cominciarono nel 1340 e terminarono nel 1375. L'edificio attuale, un tempo ricchissimo di opere d'arte andate perdute, si presenta ad una sola navata completamente ricostruita dopo la Seconda guerra mondiale. La Madonna con Bambino tra i santi Benedetto e Bernardo è di Angelo di Lorentino d'Andrea (1511), mentre la tela seicentesca con San Giovanni Battista nel deserto è attribuibile a scuola aretina della prima metà del secolo. Dai bombardamenti è stata meno danneggiata la facciata.

Filippo Lippi, Incoronazione Marsuppini, oggi nella Pinacoteca Vaticana,Dalla lunetta del portale è stato staccato l'affresco con la Visione di san Bernardo di Bartolomeo della Gatta, ora visibile presso il Museo statale d'arte medievale e moderna.