Библиотека открылась как юношеская 1 сентября 1955 г. на проспекте имени О. Ю. Шмидта (теперь – Ленина), в 1978 г. получила новую прописку на проспекте Толбухина. Имя русского поэта М. Ю. Лермонтова было присвоено 31 августа 1956 г., а в 1966 г. получен статус городской центральной библиотеки. В октябре 1976 г. библиотека стала во главе Централизованной библиотечной системы города Ярославля.
Книжный универсальный фонд библиотеки насчитывает почти 300 тыс. экз. Выписывается 80 наименований журналов и газет. У библиотеки более 22 тыс. постоянных читателей и более 270 тыс. посещений за год.
В 2020 г. ЦБ стала победителем конкурса на создание модельных библиотек, проводимого в рамках нацпроекта «Культура». В 2021 г. прошла модернизация внутреннего пространства библиотеки, приобретены новые книги и современное оборудование.
Центральная библиотека – центр изучения жизни и творчества М. Ю. Лермонтова. Проводимые с 2000 г. ежегодные чтения имеют статус международных.