La biblioteca dei canonici esisteva anche prima e si fa l'ipotesi che fosse da qualche parte  nell'edificio delle Canoniche Vecchie, dove i Canonici cominciarono ad abitare fin dall'VIII secolo. Il Capitolo funzionava presso la Cattedrale fin dall'inizio di quel secolo, come risulta da una citazione di Paolo Diacono nella sua Storia dei Longobardi (VI, 45): "... Callisto, Arcidiacono della chiesa di Treviso, assunse, col consenso del re Liutprando, la direzione della chiesa di Aquileia."

Il complesso degli edifici di cui fanno parte le Canoniche Vecchie e Nuove è tra i più antichi della città e ricopre un'area in cui emersero numerosi reperti romani, tra cui i mosaici del IV secolo visibili in via Canoniche, nella quale esisteva forse un teatro citato nella lapide dedicata al conte Giovanni, nel duomo di Treviso.

Le Canoniche Vecchie, secondo il canonico Avogaro, furono fondate intorno all'anno 813 per opera del Vescovo Lupo (o Lupone) e destinate alla vita in comune dei canonici. Verso il 1174 il canonico Dondone fece costruire l'ala sud che arrivava fino all'attuale archivolto di via Canoniche. Questo complesso di edifici si mostrò presto insufficiente e verso la fine del XII secolo erano necessari altri interventi. Nella città di Treviso era in atto un ampio rinnovamento edilizio perché sono di quegli anni il Vescovado (la domus lapidea nei documenti antichi), varie case lungo il Calmaggiore (callis major nei documenti), il Palazzo dei Trecento, la Loggia dei Cavalieri.

L'ampliamento delle canoniche avvenne grazie ad un benefattore: il conte Giovanni, del quale non è ben certa l'identità, né l'epoca in cui visse. Con la sua generosa donazione i canonici poterono restaurare e ampliare le Canoniche Vecchie e in seguito, all'inizio del 1200, sull'area da lui donata fu decisa la costruzione del grande edificio che si chiamò 'Canoniche Nuove' per distinguerlo dalle Vecchie da cui era separato. Le date si deducono dalla pergamena, che documenta l'esistenza del 'poggiolo' tra i due edifici.

Nel 1505 il canonico Pietro Loredan, figlio del Podestà di Treviso Lorenzo Loredan, che abitava nelle Canoniche Nuove, fece eseguire a sue spese il restauro di vari locali che furono adibiti esclusivamente a biblioteca. Una lapide all'interno, poi distrutta nell'incendio del 1944, ricordava i lavori: "Petrus Lauredanus / has haedes turpi senio confectas / aere proprio reparandas exornandasque curavit MDV". L'incarico di custodire e riordinare la biblioteca nei nuovi locali fu dato a Giovanni Aurelio Augurello, canonico originario di Rimini, poeta e umanista.

Nell'edificio delle Canoniche Nuove, in alcuni locali presi in affitto e adattati allo scopo dal Vescovo Giorgio Corner, fu ospitato il Seminario vescovile di Treviso dall'anno della fondazione 1566 fino al 1583.

Durante i lavori di rifacimento del Duomo, il canonico Avogaro affidò all'architetto Giordano Riccati il disegno di ristrutturazione ed ampliamento degli edifici delle Canoniche Vecchie e Nuove. In queste ultime, gli ambienti del secondo piano furono destinati alla Biblioteca e agli Archivi. Quest'opera, veramente imponente, fu eseguita e terminata a sue spese. Il Capitolo, alla morte del canonico (23 settembre 1790), pose un busto e una lapide laudatoria all'interno della sala maggiore della biblioteca, distrutti nell'incendio del 1944. Il testo leggeva: "Rambaldo Actionio Comiti / Marci Antonii filio / Sanctae Tarvisinae Ecclesiae advocato et canonico primicerio / bonae memoriae / quod Bibliothecam hanc / conlegerit auxerit ornaverit / atque annua assignata pecunia / eidem custodem constituerit / Ordo Canonicorum / grati animi monumentum ponere curavere / Anno Salutis MDCCXCI".

Gli interventi del 1700 alterarono l'aspetto degli edifici, compresa la torre del conte Giovanni, che rimase fino al crollo del 1944. La ricostruzione del dopoguerra riportò la torre all'aspetto romanico del 1200. La Biblioteca occupa attualmente l'intero secondo piano dell'edificio e la torre.