La tradición dice que la fecha de fundación de la biblioteca es la misma que la creación de la Escuela de la Pia Casa della Sapienza fundada alrededor de la segunda mitad del siglo XV gracias a una donación del cardenal Niccolò Forteguerri. A este personaje, uno de los más famosos de la ciudad que se menciona en el Panteón de la Piazza San Francesco, también se le dedica la estatua ubicada en la cercana Piazza dello Spirito Santo.

La escuela Sapienza fue bienal y completamente gratuita; Además de la educación primaria, proporcionó a doce estudiantes urbanos en condiciones desfavorecidas los medios para mantener los estudios universitarios.
Durante la plaga de la segunda mitad del siglo XV, cuando muchos encontraron refugio en Pistoia, la Casa Pia albergó la Universidad de Pisa en sus instalaciones.

El edificio que ahora alberga la biblioteca y que da a la plaza con una logia de estilo renacentista no es el que albergó originalmente la Casa della Sapienza. De hecho, fue construido durante el siglo XVI en lugar de un edificio más antiguo por la arquitecta florentina Nanni Unghero. Solo después de los cambios realizados por este último, la escuela encontró su sede aquí, convirtiéndose en Collegio Forteguerri.

La verdadera fecha de fundación de la Biblioteca es el año 1696 en el cual, a instancias del Gran Duque, se le impuso a la administración local financiar una biblioteca pública anexada al colegio. Hasta finales del siglo XIX, la biblioteca convivió con la institución escolar que, mientras tanto, se convirtió en el ilustre Regio Liceo Forteguerri, que incluía al poeta Giosuè Carducci entre sus maestros, como recuerda una placa en el pórtico. Sólo en 1923, el año en que la escuela secundaria se transfirió a las instalaciones del antiguo monasterio de San Giovanni en Corso, el Palazzo della Sapienza se convirtió en la sede exclusiva de la biblioteca pública, perdiendo así el carácter de la colección escolar.

La biblioteca fue reabierta al público en 1926. Hoy en día, la Biblioteca Municipal Forteguerriana conserva incunables y manuscritos preciosos, incluidos treinta de los doscientos códigos que el humanista pistoiano Sozomeno dejó en la Comuna en 1458. A lo largo de los siglos, las donaciones son las que han permitido el enriquecimiento del patrimonio del libro, contribuyendo a delinear ese carácter de biblioteca histórica que aún se conserva.

Entre las colecciones, todas las cuales se pueden consultar, se encuentran las de Fernando Martini, de la Academia de Ciencias, Letras y Artes de Pistoia, de Alberto Chiappelli, Alberto Montemagni, la colección Puccini y la colección Macciò.
Las nuevas adhesiones han favorecido al sector humanista a lo largo del tiempo.