Umar bin Abdul Aziz atau seringkali disebut Umar II merupakan cicit dari Amirul Mukminin Umar bin Khattab. Beberapa puluh tahun sebelum kelahirannya, Khalifah Umar bin Khattab pernah berkata bahwa setelah beliau wafat akan lahir seorang Umar muda yang akan meneruskan pengabdiannya kepada umat Islam. Perkataan Amirul Mukminin tersebut berdasarkan pengalaman pribadinya ketika sedang ronda malam, kemudian dari sebuah rumah penduduk beliau mendengar percakapan antara seorang ibu penjual susu dan anak perempuannya.
Kata ibu “Wahai anakku, segeralah kita tambah air dalam susu ini supaya terlihat banyak sebelum terbit matahari”
Anaknya menjawab “Kita tidak boleh berbuat seperti itu ibu, Amirul Mukminin melarang kita berbuat begini”
Si ibu masih mendesak “Tidak mengapa, Amirul Mukminin tidak akan tahu”.
Balas si anak “Jika Amirul Mukminin tidak tahu, tapi Tuhan Amirul Mukminin tahu”.
Mendengar percakapan antara si ibu dan anak perempuannya tersebut, Khalifah Umar bin Khattab meneteskan air mata. Beliau sangat tersentuh dengan kekuatan iman akan perempuan penjual susu itu. Khalifah menyuruh anak laki-lakinya yang bernama Asim datang ke rumah ibu penjual susu untuk meminang anak perempuannya. Dari pernikahan putra Khalifah dengan seorang gadis miskin ini lahir seorang anak perempuan bernama Laila. Ketika beranjak dewasa Laila dipersunting oleh Abdul Aziz bin Marwan, kemudian mereka memiliki putra yang diberi nama Umar bin Abdul Aziz.
Umar bin Abdul Aziz mewarisi akhlaq kakek buyutnya baik ketika menjadi gubernur maupun setelah duduk sebagai Khalifah. Pada hari pelantikannya sebagai khalifah, Umar bin Abdulm aziz menyampaikan pidato sambil berlinang air mata, “Wahai manusia, tiada nabi selepas Muhammad saw dan tiada kitab selepas Al-Qur’an, aku bukan penentu hukum malah aku pelaksana hukum Allah, aku bukan ahli bid’ah malah aku seorang yang mengikut sunnah, aku bukan orang yang paling baik dikalangan kamu sedangkan aku cuma orang yang paling berat tanggungannya dikalangan kamu, aku mengucapkan ucapan ini sedangkan aku tahu aku adalah orang yang paling banyak dosa di sisi Allah”
Setelah menyampaikan pidatonya yang sangat menyentuh, Khalifah Umar bin Abdul Aziz pulang ke rumahnya dan kembali menangis. Fatimah, istri beliau menegur suaminya yang tidak henti-hentinya menangis, “Apa yang Amirul Mukminin tangiskan?” Beliau menjawab “Wahai isteriku, aku telah diuji oleh Allah dengan jabatan ini dan aku sedang teringat kepada orang-orang yang miskin, ibu-ibu yang janda, anaknya ramai, rezekinya sedikit, aku teringat orang-orang dalam tawanan, para fuqara’ kaum muslimin. Aku tahu mereka semua ini akan mendakwahku di akhirat kelak, dan aku bimbang aku tidak dapat jawab hujah-hujah mereka sebagai khalifah kerana aku tahu, yang menjadi pembela di pihak mereka adalah Rasulullah saw’’ Isterinya juga turut mengalir air mata.
Umar bin Abdul Aziz dilantik sebagai Khalifah tahun 717 Masehi, pada usia 35 tahun lebih beberapa bulan. Meskipun masa jabatanya hanya berlangsung selama 2 tahun lebih (717-720), penulis sejarah bersepakat bahwa pada masa pemerintahan Umar bin Abdul Aziz umat Islam berada dalam puncak kemakmuran. Bahkan mereka menulis bahwa pada masa itu sangat sulit mencari orang yang berhak mendapatkan sedekah.
Kebaikan budi pekerti serta ketaatan Umar bin Abdul Aziz kepada Allah dan Rasul-Nya menjadikan beliau dianggap sebagai penerus khulafa’ur rasyidin. Beberapa ahli sejarah bahkan menulis nama Umar bin Abdul Aziz sebagai khalifah ke-lima setelah Abu Bakr, Umar bin Khattab, Utsman bin Affan dan Ali bin Abi Thalib.
Khalifah Umar bin Abdul Aziz wafat setelah beberapa hari menderita sakit yang oleh beberapa ahli sejarah dikatakan akibat racun yang diberikan oleh pembantunya. Beliau tidak meninggalkan apa-apa bagi keturunannya, kecuali suri tauladan menjalani hidup dalam keimanan meskipun serba kekurangan. Ketika ditanya perihal tersebut, Umar bin Abdul Aziz menjawab,
”Jika anak-anakku orang soleh, Allah lah yang menguruskan orang-orang soleh. Jika mereka orang-orang yang tidak soleh, aku tidak mau meninggalkan hartaku di tangan orang yang mendurhakai Allah lalu menggunakan hartaku untuk mendurhakai Allah”
