देश के हर मंदिर से एक परंपरा या मान्यता जुड़ी है। अब उज्जैन के इस देवी शक्तिपीठ को ही ले लीजिए। धर्म ग्रंथों के मुताबिक माँ सती ने जहां जहां अपने अंग गिराए वहाँ वहाँ शक्तिपीठ के रूप में उनकी उपासना होने लगी। हिंदू धर्म में कुल 51 शक्तिपीठों का जिक्र है। उज्जैन (Ujjain) स्थित मां हरिसिद्धि (Devi Harsiddhi) मंदिर में माता सती की कोहनी गिरी थी।
देवी हरसिद्धी के बारे में कहा जाता है कि वह रात में उज्जैन और दिन में गुजरात के हर्षद माता मंदिर (Harshad Mata Temple) में रहती हैं। गुजरात में ये मंदिर पोरबंदर से लगभर किमी दूर मूल द्वारका के समीप समुद्र की खाड़ी के किनारे मियां गांव में है। माता के दो जगहों पर रहने के पीछे एक दिलचस्प कथा है।
कहते हैं कि सम्राट विक्रमादित्य गुजरात से ही आराधना कर देवी को उज्जैन लाए थे। ऐसे में देवी ने कहा कि वह रात में उज्जैन नागरी और दिन में गुजरात स्थित मंदिर में वास करेंगी। मान्यता है कि आज भी माँ दिन में गुजरात और रात में उज्जैन में वास करती हैं।

हरसिद्धि देवी असल में भगवती चंडी है। स्कंदपुराण के मुताबिक जब चंड-प्रचंड नाम के दो दानव ने कैलास पर्वत पर चढ़ने का प्रयास किया तो नदी ने उन्हें रोका, लेकिन असुरों ने नंदी को भी घायल कर दिया। फिर भगवान शिव ने भगवती चंडी का स्मरण किया। उन्होंने इन दोनों असुरों का वध किया। खुश होकर भोलेनाथ ने उनका नाम हरसिद्धि रख दिया।
कहते हैं सम्राट विक्रमादित्य माता हरसिद्धि के इतने भक्त थे कि उन्होंने 12 बार अपना सिर माँ के चरणों में चढ़ा दिया था। हालांकि माँ की कृपा से उन्हें फिर नया सिर मिल जाता था। लेकिन 12वीं बार उन्हें सिर वापस नहीं मिला तो उनका जीवन समाप्त हो गया।