Sistem penanggalan masyarakat Arab dahulu sebelum ditetapkannya kalender Islam adalah menjadikan peristiwa-peristiwa besar sebagai acuan menetapkan tahun. Seperti tahun renovasi Ka’bah, yang digunakan sebagai penamaan tahun karena pada tahun tersebut Ka’bah direnovasi ulang akibat banjir, adapula tahun Fiil (gajah), karena saat itu terjadi penyerbuan Ka’bah oleh pasukan bergajah dan masih banyak lainnya. Adapun penggunaan sistem bulan qomariyah (penetapan awal bulan berdasarkan fase-fase bulan) digunakan untuk acuan bulan pada masa itu.
Peristiwa penanggalan seperti ini berlanjut sampai era Rasulullah SAW dan Abu Bakar Ash-Shiddiq, kemudian pada era Khalifah Umar bin Khattab barulah kalender Hijriyah menjadi pedoman penanggalan yang digunakan hingga saat ini.
Ide penetapan kalender hijriyah ini muncul dari Abu Musa Al-Asy’ari yang menjabat sebagai gubernur Basrah kala itu yang mengeluhkan surat-surat yang di kirim Khalifah Umar kepadanya tidak memiliki tanggal, dengan itu ia mengirimkan sepucuk surat yang mengeluhkan tentang hal itu, ia menulis dalam suratnya “Telah sampai kepada kami surat-surat dari Amirul Mukminin, namun kami tidak tau apa yang harus kami perbuat terhadap surat-surat itu. Kami telah membaca salah satu surat yang dikirim di bulan Sya’ban. Kami tidak tahu apakah Sya’ban tahun ini ataukah tahun kemarin.”
Khalifah Umar yang menerima surat itu kemudian langsung mengajak para sahabat untuk memusyawarahkan penanggalan yang akan digunakan oleh kaum muslimin.
Ada yang mengusulkan penanggalan dimulai dari tahun diutus Nabi SAW, ada pula yang mengusulkan agar penanggalan dibuat sesuai dengan kalender Romawi, yang mana mereka memulai hitungan penanggalan dari masa raja Iskandar (Alexander) dan ada lagi mengusulkan agar memulai penanggalan dari tahun hijrahnya Rasulullah SAW ke kota Madinah, usulan ini disampaikan oleh sahabat Ali bin Abi Thalib, dan hati Umar bin Khatab condong kepada usulan Khalifah Ali bin Abi Thalib. Akhirnya para sahabatpun sepakat untuk menjadikan peristiwa hijrah sebagai acuan tahun bagi ummat Islam.
Adapun mengenai penetapan awal bulan, sahabat Umar bin Khatab dan Ustman bin Affan mengusulkan bulan Muharram sebagai awal bulan dalam hijriyah.
Hingga pada akhirnya para sahabatpun sepakat menentukan sistem penanggalan untuk kaum muslimin dari hijrahnya Rasulullah SAW yang berlaku hingga hari ini dan bulan muharam sebagai awal bulan. Maka dari itu penamaan tahun Islam dinamakan dengan Kalender Hijriyah.
