Tradycja głosi, że data założenia biblioteki jest taka sama, jak utworzenie Szkoły Pia Casa della Sapienza założonej około drugiej połowy XV wieku dzięki darowiźnie kardynała Niccolò Forteguerri. Do tego bohatera, jednego z najsłynniejszych w mieście, o którym można wspomnieć na Panteonie Piazza San Francesco, poświęcony jest również posąg umieszczony w pobliskim Piazza dello Spirito Santo.

Szkoła Sapienza była co dwa lata i całkowicie bezpłatna; oprócz edukacji podstawowej zapewniło dwanaście studentom miejskim w niekorzystnej sytuacji środki na utrzymanie studiów uniwersyteckich.
Podczas zarazy w drugiej połowie XV wieku, kiedy wielu znalazło schronienie w Pistoii, Pia Casa mieściła w swojej siedzibie Uniwersytet w Pizie.

Budynek, w którym obecnie mieści się biblioteka i który wychodzi na plac z loggią w stylu renesansowym, nie jest tym, który pierwotnie mieścił Casa della Sapienza. W rzeczywistości powstał w XVI wieku na miejscu starszego budynku florenckiego architekta Nanni Unghero. Dopiero po zmianach dokonanych przez tę ostatnią szkoła znalazła tu swoją siedzibę, stając się Collegio Forteguerri.

Prawdziwą datą założenia Biblioteki jest 1696 rok, w którym na polecenie Wielkiego Księcia nałożono na lokalną administrację finansowanie biblioteki publicznej dołączonej do kolegium. Do końca dziewiętnastego wieku biblioteka współistniała z instytucją szkolną, która w międzyczasie stała się znamienitym Regio Liceo Forteguerri, który zaliczył poetę Giosuè Carducciego do swoich nauczycieli, jak przypomina tablica na ganku. Dopiero w 1923 roku, w którym przeniesiono liceum do pomieszczeń dawnego klasztoru San Giovanni na Corso, Palazzo della Sapienza stała się wyłącznie siedzibą biblioteki publicznej, tracąc tym samym charakter kolekcji szkolnej.

Biblioteka została ponownie otwarta dla publiczności w 1926 roku. Dziś Biblioteka Miejska Forteguerriana zachowuje rzadkie inkunabuły i cenne rękopisy, w tym trzydzieści z dwustu kodów, które pistacjowy humanista Sozomeno wyjechał do Komuny w 1458 roku. Przez wieki darowizny to te, które pozwoliły na wzbogacenie ojcowskiego dziedzictwa, przyczyniając się do nakreślenia tego charakteru historycznej biblioteki, która do dziś zachowuje.

Wśród kolekcji, z których wszystkie można się zapoznać, są Fernando Martini, Akademia Nauk Pistoia, Listy i Sztuka, Alberto Chiappelli, Alberto Montemagni, kolekcja Puccini i kolekcja Macciò.
Nowe akcesje z czasem sprzyjały sektorowi humanistycznemu.