Bila kita menarik mundur sejarah konstitusi pada masa pra-masehi, maka akan sampailah kita pada topic tentang terminologi klasik yaitu constitution. Pada mulanya istilah constitution ini tidaklah bersifat tekstual seperti hari ini, melainkan hanya sebagai gagasan yang terbatas pada pengekspresian daripada makna itu sendiri. Sehingga bila mempelajari literatur sejarah tentang konstitusi maka didapati Yunani yang merupakan kota dengan usia paling tua dalam sumbangannya terhadap sejarah konstitusi yang pada saat itu konstitusinya masih bersifat materiil.

Melangkah dari zaman Yunani kuno ke Romawi kuno, berkembanglah warisan Yunani tentang hukum di tangan para filsuf Romawi. Salah satu hal baru yang seblumnya tidak dibahas di Yunani dan kemudian dikembangkan oleh para filsuf saat itu adalah pembagian ranah hukum yang kini kita kenal dengan nama hukum privat dan hokum public yang nantinya berkat pengkodifikasian hukum ini, lalu mindset para pencari hokum mulai mengarah kearah yang lebih kreatif dan inovatif serta sistematis.

Salah atu pemikir yang terkenal di zaman Romawi kuno bernama Cicero mengatakan “One common master and rule of men, namely god, who is the author of this law, its interpreter, and its sponsor.” Interpretasinya adalah, menurut pandangannya, manusia bukanlah insan politik seperti yang dikatakan oleh para pemikir Yunani, tapi merupakan insan hukum. Pada masa ini constitution telah mulai berkembang kearah yang lebih sistematis dan tegas karena dipengaruhi juga oleh sistem monarki yang menekankan bahwa keputusan raja merupakan keputusan Tuhan sehingga dalam social contract yang terjadi, dengan mudah raja seringkali menggunakan kekuasaan yang bersifat absolute dengan alasan adanya interupsi dari Tuhan. Di masa inilah kemudian manusia akan menghujani intervensi terhadap sistem hukum yang nantinya membawa manusia ke masa-masa dimana hukum melalui perenungan secara mendalam untuk kemudian mengalami perkembangan.

Pada masa-masa selanjutnya ketika bangsa Eropa mengalami masa kegelapan atau yang kita kenal dengan abad pertengahan, tidak banyak inovasi dan temuan segar dalam kaitannya mengenai  perkembangan konsepsi tentang constitution. Namun pada abad-abad itu di bagian Bumi lain yang sering disebut dengan bagian Timur, tengah berkembang budaya dan kepercayaan Islam di tempat itu. Atas pengaruh Nabi Muhammad SAW, banyak inovasi-inovasi penting bagi sejarah komstitusi yang luput dari pandanga para ahli hukum. Salah satunya adalah peyusunan dan penandatanganan perjanjian atau persetujuan antara kelompok-kelompok penduduk Madinah untuk bersama-sama membagun kehidupan damai yang kemudian hari berkembang menjadi kehidupan kenegaraan dalam pengertian modern hari ini. Naskah persetujuan bersama itulah yang kemudian dikenal dengan nama Piagam Madinah (Madinah Charter).

Para pihak yang mengikatkan diri atau terikat dalam Piagam Madinah yang berisi perjanjian masyarakat Madinah (social contract) pada 622 Masehi ini, ada tiga belas kelompok kumunitas yqng secara eksplisit disebut dalam teks piagam. Ketiga belas komunitas tersebut adalah : (i) Kaum Mukmin dan Muslimin Muhajirin dari suku Quraisy Makkah, (ii) Kaum Mukmin dan Muslimin dari suku Yatsrib, (iii) Kaum Yahudi dari Banu ‘Awf, (iv) Kaum Yahudi dari BanuSya’idah, (v) Kaum Yahudi dari Banu ar-Hars, (vi) Banu Jusyam, (vii) Kaum Yahidi dari Banu al-Najjar, (viii) Kaum Yahudi dari Banu ‘Amr, (ix) Banu al-Nabit, (x) Banu al-Aws, (xi) Kaum Yahudi dari Banu Sya’labah, (xii) Suku Jafnah dari Banu Sa’labah, dan (xiii) Banu Syuthaybah.

Secara keseluruhan, Piagam Madinah tersebut berisi 47 pasal. Dalam Pasal 1 menegaskan prinsip persatuan dengan menyatakan : “Innahun ummatan wahidatan min duuni al-naas.”  (Sesungguhnya mereka adalah umat yang satu, lain dari (komunitas) manusia yang lain). Dalam pasal 24 dinyatakan :Kaum Yahudi memikul biaya bersama kaum Mukminin selama dalam peperangan.” Sehingga walaupin penduduk kota Madinah pada saat itu terdiri dari berbagai macam sukiu dan kepercayaan tapi tetap harus saling menjaga toleransi dan apabaila ada gangguan dari eksternal terhadap kota Madinah, maka pada saat itu juga seluruh penduduk Madinah baik dari Yahudi dan Mukminin wajib bersatu padu membela tanah mereka. Prinsip kebersamaan dalam perbedaan ini sebeumnya telah tegas dinyatakan dalam al-Quran mengenai doktrin lakum dinukum walya diin (bagimu agamamu dan bagiku agamaku). Dalam Piagam Madinah, digunakan kata mereka, baik dari kalngan Yahudi maupun Mukminin dengan jarak yang sama dengan Nabi mUhammad SAW yang saat itu ditunjuk sebagai hakim yang adil.

Dapat dikatakn bahwa Piagam Madinah pada abad ke 7 Masehi itu merupakan suatu inovasi yang paling penting selama abad-abad pertengahan yang lalu menyumbangkan suatu tradisi baru tentang perjanjian sosial lainnya dalam kaitannya dengan negara dan hokum dalam bentuk tertulis. Piagam Madinah merupakan konstitusi pertama yang dinaskahkan dalam sejarah umat manusia, meskipun  dalam pengertiannya sebagai konstitusi modern yang dikenal dewasa ini, Konstitusi Amerika Serikat tahun 1787-lah yang ada umumnya dianggap sebagai konstitusi tertulis pertama.

Peristiwa penandatanganan Piagam Madinagh ini merupakan perkembangan yang sangat modern pada masanya sehingga mempengaruhi peradaban lain pada kemudian hari. Pada masa itu setelah sepeninggalan Baginda Rasulullah SAW, kepemimpinan lalu dilanjutkan oleh empat khalifah pertama yang dikenal dengan sebutan Khilafah al-Rasyidin yaitu Abubakar, Umar bin Khattab, Utsman bin Affan dan Ali bin Abi Thalib, Jenis kepemimpinan yang bersistem politk demokrasi konstitusional. Tapi sayangnya jenis kepemimpinan ini relatif sebentar setelah peristiwa kudeta yang dilakukan oleh Mu’awiyah terhadap Ali bin Abi Thalib yang lalu sistem kepemimpinan diteruskan oleh dinasti Umayyah yang kembali ke tradisi kepemimpinan yang dipilih karena hubungan darah. Meskipun relatif sebentar, tetapi jenis kepemimpinan Khulafah al-Rasyid menginpirasi sistem kenegaraan di kemudian hari.
Meskipun Piagam Madinah merupakan konstitusi tertulis pertama di dunia, pengaruh yang ditimbulkan kepada Negara-negara lain belum langsung berdampak pada saat itu juga. Slah satu factor yang melatarbelakangi adalah penjajahan dari dunia Barat yang menghambat kesempatan berkembangnya inovasi-inovasi yang di perkenalkan oleh dunia Timur. Ini menunjukan bahwa dunia Timur mengalami degradasi intelektual dalam skala yang sangat besar. Barulah kemudian konstitusi tertulis  pertama yang berbentuk UUD ada pada tahun 1839 di Turki Utsmani, Selanjutnya melahirkan konstitusi lain sebagai bentuk penympurnaan kea rah yang lebih fleksibel dan berakhir setelah keruntuhan dinasti Usmani yaitu dengan terbentuknya konstitusi Turki pada 1924. Di Arab sendiri, dewasa ini UUD dikenal dengan istilah al-Qanun al-Asasi. Semua ini merujuk pada pengertian UUD sebagai konstitusi dalam arti tertulis.