इ.स. १८५० साली त्यावेळेचे कोल्हापूरचे पोलिटिकल सुपरिंटेंडेंट कर्नल एच.एल.अंडरसन यांच्या हस्ते या संस्थेची स्थापना झाली. साहेब मजकुरांनी रविवार वाड्यात सार्वजनिक सभा बोलावून संस्था स्थापन करण्याचा उद्देश व तिच्यापासून होणारे फायदे निवेदन केले. सरदार व श्रीमंत नागरिक यांच्याकडून जागच्याजागी ५००० रुपये जमा झाले. या संस्थेस जोडून म्यूझियम काढण्याचा कर्नल अंडरसन यांचा विचार होता व तशी त्यांनी जुळवाजुळवही केली होती. स्थापनेच्यावेळी देणगीदारांची संख्या १७ व दरमहा उत्पन्न १५ रुपये होते. प्रथम पुस्तकांची संख्या ४४२ होती.
१८६७ ओक्टोबरपूर्वी युरोपियन लोक व नागरिक यांची एकत्रित लायब्ररी होती. ही सोमवार पेठेत मारुतीचे देवळानजीक होती. युरोपियन लोकांनी आपली स्वतंत्र लाईब्ररी काढल्यावर ता. ६ ऑक्टोबर १८६७ रोजी त्यावेळचे देणगीदार व प्रतिष्ठित नागरिक यांनी सभा घेवून लायब्ररी व्यवस्थित चालवण्यासाठी काही नियम तयार केले. या साली संस्था नागपूरकर वाड्यांत आणण्यात आली. १८६९ मध्ये विद्यार्थांच्यासाठी कमी वर्गणीचा वर्ग काढण्यात आला. १८७० मध्ये गुजरीतील फरीदभाई बोहरी यांची हवेली दहा वर्षांच्या कराराने गहाण हक्काने संस्थेस २५०० रुपयांस मिळाली. इंग्रजी व मराठी पुस्तके बक्षिस मिळण्याकरिता डायरेक्टर ऑफ पब्लिक इन्सट्रक्शनकडे रजिस्टर करण्यात आली.
संस्थेचा व्याप वाढू लागल्याने बोहरी यांची इमारत अपूरी पडू लागली. म्हणून चालकांनी स्वतंत्र इमारतीसाठी प्रयत्न चालविले. त्यास यश येवून १८७९ साली इमारतीच्या कामास प्रारंभ होवून १८८१ मध्ये ते पुरें झाले. इमारतीस एकूण २७००० खर्च आला. १५ जानेवारी १८८२ साली झालेली जनरल सभा या नवीन इमारतीत भरली होती. त्यानंतर ग्रंथसंग्रहालय व वाचनालय अशा वेगवेगळ्या शाखा स्वतंत्र इमारतीत ठेवण्याचे ठरले व ता. २६-०६-१९२१ रोजी जुन्या इमारतीशेजारी नवी इमारत बांधण्यात येवून तिला कै. श्रीमंत प्रिन्स शिवाजी रीडिंग हॉल असे नावं देण्यात आले.
संस्थेस नावं प्रथम कोल्हापूर नेटिव्ह लायब्ररी असें होते. ता. ४-५-१९२४ रोजी भरलेल्या संस्थेच्या सर्व साधारण सभेंत कोल्हापूर जनरल लायब्ररी असें नावं ठेवावे असें ठरले. त्यानंतर २४ फेब्रुवारी १९३४ रोजी भरलेल्या सर्व साधारण सभेमध्ये लायब्ररीचे इंग्रजी नावं बदलून करवीर नगर वाचन मंदिर असे मराठी नावं ठेवावे असें ठरले आणि त्याप्रमाणे प्रचारांत आणले गेले. ता. २६-९-१९३९ रोजी संस्था सोसायटीज रजिस्ट्रेशन अॅक्ट अन्वयें रजिस्टर करण्यात आली. त्यानंतर संस्थेचे जिल्हा वाचनालयात रूपांतरित करण्यांत आले. प्रारंभी १०० रुपये देण्यांत येत। पुढे पुढे ही रक्कम वाढवण्यात आली. हल्ली १००० रू. ग्रँट मिळते. कोल्हापूर संस्थात होते तोपर्यंत कोल्हापूर दरबारची वाचन मंदिरास ग्रँट मिळत असे. आज महाराष्ट्र सरकारकडून ग्रँट मिळते.