Pada 1 Januari 1998 secara rasminya Universiti Pendidikan Sultan Idris (UPSI) mengambil alih Perpustakaan Za’ba dari Institut Perguruan Sultan Idris (IPSI). Perpustakaan yang diwarisi daripada Sultan Idris Training College for Malay Teachers (SITC) ini mula dikenali dengan nama Bilek Bachaan. Dua buah bilik di tingkat atas Bangunan Suluh Budiman iaitu Bilik Khir dan Bilik Dussek telah digunakan untuk tujuan tersebut. Selaras dengan penukaran nama SITC kepada Maktab Perguruan Sultan Idris (MPSI) pada tahun 1957 sebuah bangunan perpustakaan yang menempatkan sumber rujukan pelajar kemudiannya telah didirikan di sisi jalan menuju ke bangunan Dewan Makan di bahagian belakang bangunan Suluh Budiman. Ia dinamakan Khutub Khanah MPSI.
Selaras dengan pertambahan program dan pelajar, keperluan terhadap perkhidmatan perpustakaan semakin bertambah. Pada tahun 1985, Khutub Khanah MPSI berpindah ke dewan makan Sekolah Datuk Abdul Razak. Pada tahun 1987, institusi dinaiktaraf kepada Institut Perguruan Sultan Idris (IPSI) dan bangunan dinamakan Perpustakaan IPSI. Pada tahun 1994, sempena Sambutan Tahun 75 SITC / MPSI / IPSI bangunan dinamkan Perpustakaan Za’ba. Pada September 1996, Perpustakaan Za’ba dipindahkan semula ke Bangunan Suluh Budiman dan menggunakan seluruh tingkat 1.
Sejak tahun 1998 universiti telah membelanjakan lebih dari RM20 juta untuk melengkapkan koleksi bahan perpustakaan. Ini tidak termasuk perabot, sistem keselamatan perpustakaan dan lain-lain peralatan yang berkaitan. Jumlah kakitangan juga telah meningkat dari 4 orang kakitangan pada awal 1998 menjadi 59 orang pada tahun 2005. Dari jumlah tersebut 17 orang merupakan kakitangan profesional yang terlatih dalam bidang kepustakawanan.
Pada tahun 1999 universiti telah meluluskan pembinaan sebuah bangunan baharu perpustakaan dengan keluasan lantai sebanyak 13,063 meter persegi. Bangunan setinggi 5 tingkat yang dilengkapi dengan lif untuk pengguna ini, siap diduduki pada tahun 2003. Di antara kelengkapan di bangunan tersebut ialah sebuah piazza pameran, kedai buku, ruang bacaan 24 jam, ruang bagasi, bilik perbincangan, auditorium, makmal latihan teknologi maklumat (IT), bilik mesyuarat, bilik tayangan dan surau. Kemudahan lain seperti ruang bacaan serta ruang untuk menempatkan pelbagai jenis koleksi perpustakaan seperti Koleksi Monograf, Terbitan Bersiri dan Multimedia juga disediakan.
Bagi meningkatkan perkhidmatan, perpustakaan kini dilengkapi dengan kemudahan teknologi maklumat dan komunikasi (ICT) dan dirangkaikan dengan UPSINet. Perolehan Sistem ILMU (Integrated Library Management Utility) yang bertaraf dunia telah lengkap pada tahun 2002.
Adalah diharapkan semua kemudahan yang disediakan oleh pihak perpustakaan menjadi pemangkin kepada aktiviti pengajaran, pembelajaran, penyelidikan dan penerbitan di universiti.