À la fin du XIIIe siècle, lorsque la ville de Pistoia connut une période de grande prospérité économique et politique, il devint nécessaire de construire un bâtiment plus grand et plus digne des magistrats de la ville, qui avaient jusque-là trouvé un logement temporaire dans certains puis dans un immeuble ancien dont il ne reste aucune trace.

Une tradition répandue au siècle dernier, mais aucun document ne le confirme, veut que le maire Giano della Bella construise le bâtiment qui est toujours le siège de l'administration municipale, d'où le nom de Palazzo di Giano qui le distingue encore aujourd'hui. En fait, déjà avant la régence de ce dernier, la municipalité avait acheté un noyau d'habitations situées à l'angle entre la place et l'actuelle Ripa del Sale, près du premier mur d'enceinte. Ainsi, selon l’historiographie la plus récente, tout rôle actif de ce maire tombe.

Les événements de construction du bâtiment sont très complexes et ne sont pas encore complètement clarifiés, mais malgré la documentation rare, il est possible de reconstruire les phases principales.

Après la construction du premier noyau, qui s'est déroulée à la fin du XIIIe siècle autour de la cour où fut placé aujourd'hui le miracle du sculpteur Marino Marini, né à Pesaro, le palais des Signori Anziani et de la Gonfaloniere di Justice fut élargi au cours du premier moitié du siècle suivant avec l’ajout, entre autres choses, du porche qui, au début, était limité à quatre arcs seulement. Un nouvel agrandissement a eu lieu lors de la construction des salles bordant la Ripa della Comunità, destinées aujourd'hui à accueillir des expositions temporaires. Le bâtiment a été élevé au deuxième étage. Des dispositions ont également été prises pour la construction du cinquième arc de façade afin de donner une homogénéité à la façade, caractérisée par son originalité par rapport aux formes de l'architecture publique toscane.

Vers le milieu du XIVe siècle, le palais revêt l'aspect qui le caractérise toujours; les intégrations survenues au cours des siècles suivants sont en réalité très limitées et concernent principalement les environnements internes qui ont dû s'adapter au fil du temps aux nouvelles exigences des administrations successives.

De la première moitié du XVIIe siècle, c'est cependant la construction du pont qui relie le palais à la cathédrale afin de permettre aux magistrats de la ville de se rendre directement au choeur pour assister à des services religieux. Pendant l'affirmation maximale du régime des Médicis, le grand blason central a été apposé sur la façade avec les armes des Médicis surmontées du diadème papal et de grandes clés en l'honneur du pape Léon X, membre illustre de cette famille. Cependant, sur la façade, les signes médiévaux ne manquent pas, comme la tête de marbre noir surmontée d'une masse en fer qu'une légende populaire associe à l'effigie du traître de la ville, Filippo Tedici, même s'il s'agit vraisemblablement du portrait du roi Musetto II. de Majorque, tué par le capitaine de Pistoia Grandonio dei Ghisilieri lors de la conquête des Baléares au 12ème siècle. La tête du Tedici se trouve plutôt sur le portail de Sant'Andrea et la tradition veut que ce soit noir parce que, comme signe de mépris, les torches ont été éteintes avant d'entrer dans l'église.