ऐसा विश्वास है कि इस मंदिर का निर्माण इस क्षेत्र के राजा नौं करण ने करवाया था जो देवी चामुंडा के महान भक्त थे। पहाड़ी के नीचे निर्मित यह मंदिर शहर के हृदय स्थल में स्थित है। कुछ वर्षों के बाद नारनौल तथा उसके आसपास का क्षेत्र मुग़ल शासकों के अधीन आ गया जिन्होनें यहाँ मस्जिद का निर्माण करवाया।
स्वतंत्रता के पश्चात लोगों ने इस क्षेत्र की खुदाई की और तब इस मंदिर के बारे में पता चला, हालाँकि यह जीर्ण शीर्ण स्थिति में था। आज यह इस शहर का सबसे प्रसिद्ध मंदिर है और दूर दूर से भक्तों को आकर्षित करता है जो यहाँ अपनी इच्छाएं पूरी करने के लिए यहाँ आते हैं।