भागलपुर मुख्यालय से 45 किमी दूर कहलगांव से 16 किमी यात्रा करने पर प्रकृति की गोद में गंगा किनारे वशिष्टेश्वर धाम अवस्थित है संपूर्ण विश्व में यह पहला मंदिर है जहां भोलेनाथ के मंदिर के आगे मां काली का मंदिर विराजमान है इस प्राचीन स्थल को गुप्त काशी भी कहा जाता है।इस मंदिर के पुजारी पंकज झा बताते हैं कि सवा जौ भूमि कम हो जाने के कारण काशी यहां से चला गया नहीं तो इस प्राचीन स्थल को काशी कहा जाता इसलिए पास के गांव का नाम कासड़ी हुआ वहीं इस प्राचीन मंदिर परिसर में एक प्राचीन गुफा भी है जहां अभी भी 3 हवनकुंड और 3 आसन विराजमान हैं।
इस गुफा में 3 ऋषि क्रमशः वशिष्ठ ऋषि,कोहल ऋषि और दुर्वासा ऋषि तपस्या किया करते थे सर्वप्रथम महादेव की पूजा वशिष्ट जी ने यहां की थी इसलिए इस पवित्र धाम का नाम वशिष्टेश्वर धाम उर्फ बटेश्वर स्थान हुआ दुर्वासा ऋषि का भी मंदिर यहां से कुछ किमी दूर स्थित है तथा कहलगांव में शांतिकुंज नामक कोहल ऋषि का धाम अवस्थित है कहलगांव का नाम पूर्व में कोहलगंज था अर्थात कोहल ऋषि का गांव कहलगांव अब आप भलि भांति समझ गये होंगे कि कहलगांव बहुत ही प्राचीन दैविक स्थल है वहीं पुजारी जी ने यह भी कहा कि विक्रमशिला विश्वविद्यालय में संस्कृत की पढ़ाई होती थी और उस सभी संस्कृत के मंत्रो की सिद्धि वशिष्टेश्वर धाम में होती थी अतः इसे सिद्ध पीठ भी कहते हैं जो भी श्रद्धालु अपनी मनोकामना लेकर यहां आते हैं उसकी मनोरथ अवश्य पूर्ण होती है हर हर महादेव भोलेनाथ सब की मनोकामना पूरी करे।