Il prezioso edificio gotico che mantiene nella bicromia dell'esterno rapporti con la tradizione del romanico pistoiese è detto in corte per il legame con la longobarda curtis domini regis.

Fu costruito nelle forme attuali poco oltre la metà del XIV secolo. Tuttavia l'impianto originario deve essere ricondotto ad un'epoca precedente visto che già ai primi del XII secolo è documentato un San Giovanni antistante la Cattedrale. Secondo la tradizione, fu proprio poco dopo la metà di quel secolo che vi trovò sepoltura il vescovo Atto, cui Pistoia deve l'introduzione dell'importante culto per S. Jacopo. Nonostante non se ne conosca l'originaria struttura il battistero, come vuole la più diffusa tipologia di tali edifici, ebbe presumibilmente una pianta centrale e il centro occupato dalla vasca battesimale. Lanfranco da Como realizzò nel 1226 il fonte che ancora oggi ammiriamo. 

La data e la firma si leggono nella bella iscrizione in caratteri onciali che si trova all'interno della vasca. Ai primi del Trecento il Comune stabilì di rinnovare il battistero, ma l'impresa non potè nemmeno avviarsi per la guerra che i Lucchesi e i Fiorentini mossero a Pistoia.Una volta superati il primo quarto del secolo e la crisi politica che aveva afflitto la città si dette avvio ai lavori, e, giunti al rivestimento in marmo, la direzione del cantiere fu affidata a Cellino di Nese, già capomastro del Battistero e del Camposanto di Pisa.

Da allora la fabbrica del San Giovanni proseguì con regolarità: venne ultimata la grande copertura e nella seconda metà del XIV secolo la chiesa poté dirsi compiuta. Cellino di Nese fu quindi il principale artefice del paramento esterno il cui raffinato uso di marmi diversamente colorati offre una particolare interpretazione della tradizione romanica pistoiese; probabilmente Cellino fu anche l'autore di parte della decorazione scultorea che anima l'abbellimento marmoreo. Le sculture della lunetta del portale insieme ai bassorilievi dell'architrave sono invece opera di un artista vicino ai modi del più noto Giovanni d'Agostino. 

Dalla prima metà del Seicento il battistero accoglie l'altare ligneo un tempo altare maggiore della basilica della Madonna dell'Umiltà. Il battistero ha subito nel corso dei secoli più volte importanti interventi di restauro, tra i quali hanno avuto una notevole importanza quelli effettuati attorno alla metà del secolo scorso e i più recenti, che nonostante abbiano restituito al suo primitivo aspetto il fonte battesimale di Lanfranco nascosto dagli interventi tardo-barocchi dello scultore Andrea Vaccà, hanno trasformato l'antico edificio in una semplice e spoglia aula in laterizio.

Il battistero ha oggi perduto la sua funzione liturgica e talvolta ospita avvenimenti culturali.