Bizkaiko Foru Liburutegiaren jatorria Fidel Sagarminaga jaunaren liburutegi pertsonalean aurkitzen da. Politikaria, idazlea eta ia 12.000 liburuko liburutegi interesgarriaren jabea. Liburutegi horretan, liburu historikoak, nazioko eta atzerriko literaturako liburuak, euskarari buruzkoak, eta atzerriko foiletoak eta aldizkariak eskuragarri ditugu.
Hori hil ondoren, 1894ko martxoaren 21ean, bere jaraunsleek liburu ikusgarria Bizkaiko Aldundiaren presidenteari eskaini zioten.

Dohaintza garrantzitsu hori egiteko unean, Aldundiak ez zuen liburutegirik, zentzu hertsian esanda. Beraz, funtsak Bilboko Plaza Berrian kokatutako Udaletxearen egoitzan gorde ziren. 1890eko otsailean, Gran Via kalean orube irekia eskuratu zen, Orduñako antzinako Arbieto familiaren lursailetan, hain zuzen, Aldundiaren Jauregi berria eraikitzeko xedearekin. Asmo handiko eraikin publikoa proposatu zen, Inprimaketa, Artxiboa eta Liburutegia bezalako arloei zuzendutako eremuekin. Luis Aladrén arkitekto donostiarraren zuzendaritzapean, obren iraupena 10 urtekoa izan zen, eta Aldundiaren egoitza berriaren inaugurazioa 1900eko uztailaren 31n ospatu zen, San Inazioren Jaia, bederen.

Hasieran, Sagarminagaren liburutegia Jauregiaren azken solairuan kokatu zen. Hala ere, liburutegira iristeko zailtasunak zirela medio, funtsak berriro ere eraikinaren behe-solairuan kokatu ziren. Zenbait obra egin ostean, 1907. urtean bukatu zirenak, probintziako liburutegi gisa erabiltzeko hiru areto zabalez eratutako esparrua ezarri zen: horietako batean euskarazko lanak landuko dira, eta, gainerako bi aretoetan, aldiz, izaera orokorreko lanak. Kasu horretan, Karmelo Etxegarai jaunak, Provincias Bascongadas Aldizkariaren kronikariak, paper-sortak antolatzeaz gain, liburuak eta eskuizkribuak erregistratu eta katalogatu zituen, oro har, artxiboa eta liburutegia antolatu eta prestatu zituen. Izan ere, liburutegia dohaintzan eman eta 13 urte igaro ondoren, azkenean ere adituen, ikertzaileen, eta, orokorrean, jendearen esku jarri zen. Zernahi gisaz, Bizkaiko administrazio-arloko bizitzaren konplexutasuna dela bide, Jauregiaren hainbat bulego berehala bete ziren, horien artean, liburutegi eta artxibora zuzendutako bulegoak. Horrenbestez, presakoa zen egoera horri aurre egitea. Hain zuzen ere, 1921. urtean proiektu bat egiteko erabakia hartu zen. Proiektu horretan, Aldundiak aurreko urtean Jauregiaren atzeko aldean kokatutako ondasun higiezina eskuratu ostean, hori Probintziako Artxibo, Liburutegi eta Inprenta bihurtzeko eskaera egin zen. Eraikin horrek, XIX. mendearen amaieran eraikitakoak, bestelako erabilerak izan zituen, hori liburutegi bihurtu aurretik. Halaber, 1893. urtetik, Bilboko Ikasketa Politeknikoa egon zen, eta, 1902. urtean zehar, aldiz, San Fernandoko Ikastegia. Bi ikastetxe horiek Bilboko Merkataritzaren Goi Mailako Eskolari atxikita egon ziren. Bada, lehen hezkuntzako ikasketak, batxilergoko ikasketak, merkataritza-arloko ikasketak eta ikasketa nautikoak eskaini ziren, batez ere, horren ostean Industria Ingeniarien Eskolan sartzeko behar bezala prestatu zitezen. 1914ko abenduan, eraikinaren zati bat Bilboko Arte Ederretako Zirkuluak eta Ateneoak errentan hartu zuen. Horrez gain, "El Liberal" aldizkaria ere bertan egon zen 1915eko martxoaren 29tik 1921eko azaroaren 6ra. Azken data horretan, aldizkaria Obispo Orueta kalera lekualdatu zen

1921eko abenduan egindako bileran, Aldundiak Juan Carlos Guerra arkitektoak eraikina oso-osorik berriztatu eta hori Liburutegi, Artxibo eta Inprenta bihurtzeko aurkeztu duen egitasmoa onetsi zuen. Obrak aurrera eramateko eragozpen asko aurkitu zituzten eta ezinezkoa izan zen horiek nahi besteko bizkortasunaren egitea. Halaber, 1924ko maiatzean, Guerra kexatu egin zen, batik bat, Ateneoa (1925eko urtarrilaren 4an Hotel Carltonen egoitza berria inauguratu zuen), Probintziako Aurrezki Kutxa eta Segurtasun Kidegoa oraindik ere berriztatu beharreko lokaletan zeudelako, behin-behinean kokatuta. Inaugurazio ofiziala 1929ko abuztuaren 22an egin zen. Bestalde, urtebete lehenago, 1928ko abuztuaren 27an, hain zuzen, Artxibo eta Liburutegietako Batzordeak eraikinaren atzeko aldea Bizkaiko Musika Kontserbatorioaren egoitza berri gisa gaitzeko erabakia hartu zuen. Beraz, 1929-1930 ikasturtean, Kontserbatorioa eraikin berrian abian jarrita zegoen.

Inaugurazioa egiteko unean, Liburutegian 18.000 liburuko funtsa zegoen, behar bezala antolatuta eta katalogatuta, eta bi ataletan bereizten zen: orokorra eta Euskal Herria. Bereizketa horren lehenengo arauketa 1907koa da, eta euskal idazle eskoladun ospetsuenetako baten funtsetatik sortutako liburutegia da, eta Bizkaiko Korporazioko kidea izateaz gain, herriko ikertzaileen lana erraztu nahi izan zuen. Euskal Herriko atalari dagokionez, 1919. urtean Artxibo eta Liburutegiko Darío de Areitio arduradun nagusiak egindako egileen Katalogoa argitaratu zen. Areitiok Liburutegi berria hitz hauekin deskribatu zuen: Eraikinean sotoa dago, eta bertan errepikatutako lanak gordetzen dira; behegainean liburuak gordetzen dira; lehenengo solairuan, jendeak eskuragarri ditu katalogoen gela eta irakurketa-gela; bigarren solairuan, ordea, Artxibo Historikoa eta lau bulego daude, liburuak eta agiriak kontsultatu behar dituzten ikertzaileei zuzenduta, euren eguneroko zeregina bukatzen dutenean material guztiak mahai gainean utzi ditzaten, eta giltza kabinan utziko dute. Hurrengo bi solairuetan Administrazio Artxiboa dago. Gisa berean, eraikinean azaleztapen- eta argazkigintza-laborategia daude.

1965. urtean, Rodríguez Arias kaleari begi zeuden leiho ederrak zituen gela zabala atondu zen, ikasleek erabil zezaten. Ikasketa-gela hori zabaldu egin zen 1988. urtean, eta beste leku batean jarri zen, hots, Moldiztegia egon zeneko lekuan bertan (aurreko urtean beste toki batera eroan zuten Moldiztegia). Gela berri horretan bi solairu zeuden: beheko solairuan banako lanak egiteko mahaiak zeuden; bigarren solairuak, berriz, korridore tankera zuen, eta talde-lanak egiteko erabiltzen zen. 1988ko apirilean, Liburutegia eta Artxiboa bereizi egin ziren, eta azken hori María Díaz de Haro kalera lekualdatu zen. Liburutegia, espaziorik ezaren ondorioz gainezkatuta, eta zaharkitua, eskaintzen zituen zerbitzuei begira, esparru fisikoen lehenengo birmoldaketari, hedapenari eta egokitzapenari ekin zitzaion, baina Foru Liburutegiko funts bibliografikoen eta hemerografikoen gehikuntza dela-eta instalazioak berriro ere bete egin ziren. Hori dela eta, 2003ko urriaren 30etik eraikina zabaldu eta berriztatzeko handinahiko proiektua jorratu zen, IMBko arkitektoen zuzendaritzapean. Oro har, Bizkaiko kulturaren errealitatera egokitutako Liburutegia dugu, zerbitzu berrien eskaintzarekin, XXI. mendeko gizartean planteatutako erronkei aurre egiteko xedearekin.