قبل أن يصبح مكتبة، كان مبنى المكتبة الخُتَنيّة، يستخدم مدخلا للمسجد الأقصى من الجهة الجنوبية، ثم أغلق وتعددت استخداماته عبر العصور إلى أن أصبح مكتبة بها 52 ألف كتاب.
وفق الموظف بالمكتبة وحارس المسجد الأقصى بدر حامد بدر، فإن المكان أهمل بعد سقوط الخلافة العثمانية عام 1924، وأعيد ترميمه وافتتاحه كمكتبة عام 1999.
وأوضح في حديثه للجزيرة نت أن المكتبة لا تقتصر على وجود الكتب، إنما تنظم نشاطات ودورات مختلفة ودروسا علمية وشرعية.
وذكر أن مساحة المكتبة أكثر من 500 متر مربع، وبها 52 ألف كتاب.