در عهد مظفرالدین شاه كه آشنایی ایرانیان با تمدن غرب بیشتر شد، در 1315ق./ 1276ش.، به منظور اشاعه فرهنگ و تأسیس مـدارس جـدیـد، انجمـن معـارف تهران تشكیل شد. انجمن یك سال بعد، در 17 جمادی الثانی 1316/1277 ش. «كتابخانه ملی معارف» را با مجموعه ای كه با كوشش فراوان گردآوری كرده بود، در جنب مدرسه دارالفنون، در محل انجمن، تأسیس نمود.
نكته مهم اینكه واژه «ملّی» كه در نـام ایـن كتابخانه بـه كـار رفتـه، بـه هیچ وجه به معنای «ملیتی» و «ملی گرایانه» نبـود، بلكـه بیـانگـر آن بـود كـه این كتابخانه هیچ گونه وابستگی به دولت ندارد و مؤسسه ای است غیرانتفاعی و مردمی. از این رو، بی جا نیست اگر آن را نخستیـن كتابخانه عمـومی ایران بدانیم كه در تهران تأسیس شد؛ کما اینكه تا چند دهه بعد كتابخانه ملی تبریز، كتابخانه ملی فارس، كتابخانه ملی كرمان، و كتابخانه ملی رشت نیز، كه جملگی كتابخانه عمومی بودند، در ایران تأسیس شدند. والا در هركشوری فقط یك كتابخانه ملّی می تواند وجود داشته باشد. از این رو، صحیح نیست «كتابخانه ملی معارف» را سلف كتابخانه ملـی ایـران بدانیم.
مرکز اسناد و کتابخانه ملی در خیابان حافظ در کنار باغ جهان نما و همین طور آرامگاه حافظ قرار گرفته. این مجموعه از قدیم یکی از بهترین کتابخانه های شهر بوده و هست. برخورد مناسب پرسنل، آرامش و محیط خوب از مزایای این کتابخانه به حساب می آید.
همچنین این مجموعه فضای سبز بسیار زیبا و دلنشینی دارد که یک حوض بسیار بزرگ در میان آن قرار گرفته و بازدید از فضای بیرون مجموعه برای عموم آزاد هست.