Ιδρύθηκε στις 29 Ιανουαρίου 1908 και αρχικά στεγαζόταν στο Διδακτήριο. Τον Νοέμβριο του 1903, πριν από την ίδρυσή της, ο δήμος είχε αποδεχθεί να του παραχωρηθεί η βιβλιοθήκη που ανήκε στη Βιοτεχνική Εταιρεία Πατρών, η οποία αργότερα διαλύθηκε. Στις 28 Ιουνίου 1910 τελούνται τα εγκαίνια και στις 10 Οκτωβρίου ανοίγει για το κοινό στο πρώτο της κτίριο, ιδιοκτησίας του Πτωχοκομείου Αγ. Ανδρέας. Από τότε μέχρι σήμερα έχει δεχτεί αξιόλογες δωρεές χιλιάδων τόμων, όπως του Ασημάκη Ζαΐμη το 1913 (2.550 τόμους), του Δημητρίου Γούναρη το 1922 (4.440 τόμους) και άλλες.

Το 1926 ο δήμος αποφασίζει να κλείσει την βιβλιοθήκη. Τα βιβλία τοποθετούνται σε ξύλινα κιβώτια και θα παραμείνουν εκεί έως το 1944. Παράλληλα, το 1928 και το 1931 αγοράζει οικόπεδα για την ανέγερση νέου κτιρίου. Τελικά, ο θεμέλιος λίθος τίθεται το 1933 σε σχέδια του αρχιτέκτονα Π. Καραντινού. Το 1938, μετά τον θάνατο του Ανδρέα Μιχαλακόπουλου, η βιβλιοθήκη εμπλουτίζεται με 19.600 τόμους. Κατά την διάρκεια του Β’ Παγκοσμίου Πολέμου, τα βιβλία τοποθετήθηκαν σε κιβώτια στα υπόγεια της δημαρχίας και αργότερα μεταφέρθηκαν από τον τότε δήμαρχο Πατρών Ιωάννη Βλάχο.

Το 1955, η βιβλιοθήκη μεταφέρθηκε στην οδό Μαιζώνος 110 σε ένα νεοκλασικό κτίριο και εγκαινιάζεται το 1957 παρουσία του τότε βασιλιά Παύλου Α’. Το 1986, ο πολιτικός Π. Κανελλόπουλος κληροδοτεί 2.200 ξενόγλωσσους τόμους, και το 2002 ο Κ. Τριανταφύλλου, 4000 τόμους. Το 2011 συγχωνεύεται με το Δημοτικό Ωδείο, τη Δημοτική Μουσική και το Πνευματικό Καλλιτεχνικό Κέντρο και δημιουργείται έτσι ένας ενιαίος φορέας με την ονομασία «Δημοτική Βιβλιοθήκη-Πολιτιστικός Οργανισμός Δήμου Πατρέων». 

Σήμερα φιλοξενεί 200.000 τόμους και 853 τίτλους περιοδικών και εφημερίδων, διαθέτει σπάνια βιβλία, πολύτιμα αρχεία, πάνω από 120.000 τόμους βιβλίων, πλήθος περιοδικών και ιστορικών εγγράφων. Στο ειδικό τμήμα της φυλάσσονται βιβλία και έγγραφα με υπογραφές Ρίτσου, Παλαμά, Μουσολίνι κ.ά, ενώ διατηρεί ακόμα και τα τρία παραρτήματά της. Στο πέρασμα του χρόνου εμπλουτίστηκε σημαντικά από δωρεές και αγορές. Τα σπάνια βιβλία που διαθέτει, αποτελούν ένα ιδιαίτερο τμήμα της που είναι κλειστό και η πρόσβαση επιτρέπεται μόνο σε εξαιρετικές περιπτώσεις έπειτα από ειδικό αίτημα και πάντα με την παρουσία υπαλλήλου, ενώ απαγορεύονται οι φωτοτυπίες βιβλίων και ο δανεισμός τους.

Επίσης, η βιβλιοθήκη διαθέτει πίνακες ζωγραφικής, χαρακτικά, προσωπογραφίες και σχέδια.