Nel 1865 il senatore barese Gerolamo Sagarriga Visconti Volpi lasciava per testamento al Comune di Bari la sua biblioteca personale di circa duemila volumi, con l'obbligo di creare una biblioteca pubblica di cui la città era sprovvista.
Il Comune, accettando il dono e l'obbligo connesso volle dare il nome del donatore alla nuova biblioteca che fu aperta al pubblico nel 1877, arricchita da altre donazioni e da altri fondi librari, in gran parte antichi, provenienti dalle biblioteche dei conventi soppressi della Provincia.
La sua prima sede era nello storico Palazzo di città, nel Borgo antico; il patrimonio era costituito da oltre 14.000 volumi.
Nel 1894, allo scopo di migliorarne il funzionamento, il Comune e la Provincia di Bari diedero vita ad un consorzio di comune gestione dell'ente che diventava così Biblioteca consorziale "Sagarriga Visconti Volpi".
Nel 1895 si trasferì al pian terreno di Palazzo Ateneo, costruito su progetto dell'architetto Giacomo Castelli, con il concorso della Provincia e del Comune di Bari, per sistemare le scuole cittadine.
Il patrimonio librario ha conosciuto nel corso degli anni una crescita notevole, particolarmente attenta alle discipline umanistiche e alla storia locale; vi sono confluite le raccolte private di uomini di cultura e delle più importanti famiglie locali.
Nel 1958 la legge n. 330 del 28 marzo, la trasformava in istituto dello Stato, come biblioteca nazionale, ampliandone gli orizzonti e inserendola in un più vasto circuito culturale.
A partire dagli anni '70 è stata avviata una radicale modernizzazione delle strutture e dei servizi, orientando l'istituto, anche attraverso gli acquisti, verso una più ampia visione dei suoi compiti. La Biblioteca è attualmente in procinto di trasferirsi in una nuova sede più ampia e funzionale.
