राजवंश की स्थापना 9 वीं या 10 वीं शताब्दी में हुई थी, और इसके प्रारंभिक शासकों ने संभवतः मान्याखेत के राष्ट्रकूटों के जागीरदारों के रूप में शासन किया था। 10 वीं शताब्दी के शासक सियाका द्वारा जारी किए गए सबसे पुराने विस्तार परमार शिलालेख गुजरात में पाए गए हैं। 972 ई। के आसपास, सियाका ने राष्ट्रकूट राजधानी मान्याखेता को बर्खास्त कर दिया, और पराक्रम को एक संप्रभु शक्ति के रूप में स्थापित किया। उनके उत्तराधिकारी मुंजा के समय तक, वर्तमान मध्य प्रदेश में मालवा क्षेत्र कोर परमारा क्षेत्र बन गया था, जिसमें धरा (अब धार) उनकी राजधानी थी। राजवंश मुंजा के भतीजे भोज के अधीन उसके क्षेत्र में पहुँच गया, जिसका राज्य उत्तर में चित्तौड़ से लेकर दक्षिण में कोंकण तक और पश्चिम में साबरमती नदी से लेकर पूर्व में विदिशा तक फैला हुआ था।
गुजरात की चालुक्यों, कल्याणी के चालुक्यों, त्रिपुरी के कलचुरियों और अन्य पड़ोसी राज्यों के साथ उनके संघर्ष के परिणामस्वरूप परमार शक्ति कई बार बढ़ी और घट गई। बाद में परमार शासकों ने अपनी राजधानी को मंडपा-दुर्गा (अब मांडू) में स्थानांतरित कर दिया, जब धरा को उनके दुश्मनों द्वारा कई बार बर्खास्त कर दिया गया था। अंतिम परमारा राजा, महालकदेव, 1305 ई। में दिल्ली के अलाउद्दीन खिलजी की सेनाओं से हार गए और मारे गए, हालाँकि इस बात के प्रमाण मिलते हैं कि उनकी मृत्यु के कुछ वर्षों बाद तक परमाराव शासन जारी रहा।
मालवा ने परमारों के तहत एक बड़े स्तर की राजनीतिक और सांस्कृतिक प्रतिष्ठा का आनंद लिया। परमार संस्कृत के कवियों और विद्वानों के संरक्षण के लिए जाने जाते थे, और भोज स्वयं एक प्रसिद्ध विद्वान थे। परमारा राजाओं में से अधिकांश शैव थे और उन्होंने कई शिव मंदिरों का निर्माण किया, हालांकि उन्होंने जैन विद्वानों का संरक्षण भी किया।