فقبيل وفاة سليمان بن عبدالملك طلب منه كاتبه ان يعهد لعمر بن عبدالعزيز ومن بعده يزيد بن عبدالملك وكما اسلفنا فان عمر كان مقربا لسليمان وكان مستشاره ففعل سليمان ثم استدعى كبار بنو امية ومنهم عمر ويزيد كان في جيش مسلمة على حدود الروم فطلب منهم ان يبايعوا لمن ولاه عليهم بالسمع والطاعة فوضعوا ايديهم على الكتاب وبايعوا كلهم على السمع والطاعة لمن ولاه امير المؤمنين عهده من بعده فلما مات سليمان خرج رجاء بن حيوة للناس فقال لهم هل تبايعون لمن في هذا الكتاب قالوا نعم فلقد بايعنا امير المؤمنين ونحن على عهدنا فقال لهم بايعوا مرة اخرى فبايعوا فقال لهم ان امير المؤمنين قد انتقل للرفيق الاعلى وانه ترك لكم هذه الوصية فاسمعوا واطيعوا فلما قرا عليهم الوصية الى ان وصل واني قد وليت امر المسلمين من بعدي لعمر بن عبدالعزيز تغيرت وجوه بني مروان حتى دارت بهم الارض من حولهم فلما سمعوا ومن بعد عمر يزيد بن عبدالملك تنفسوا الصعداء قليلا فقاموا وبايعوا الا هشام بن عبدالملك رفض فامر رجاء بضرب عنقه لانه خالف الجماعة فاطاع وبايع
وقد بويع له بالخلافة سنة تسع وتسعين في شهر صفر فكان اول عهده خير حيث رد الاموال ليبت المال وسكن بدار غير قصور بني مروان فكان عهده خيرا وازدهار ففي عهده كانت اموال الصدقات تخرج الى كل الامصار فتعود لبيت المال لانها لا تجد من ياخذها
وفي عهده بنيت نزل الراحة للمسافرين وبنيت المستشفيات وهو اول من جعل الرواتب شهريه لذوي الحاجات
فلم يعجب بنو مروان هذا التصرف لانهم تعودوا على البذخ والصرف فاخذو يحقدون عليه واخذ حقدهم هذا يكبر يوما بعد يوم
الى ان جاء اليوم الموعود فدسوا له السم في طعامه بالاتفاق مع احد غلمانه فلما احس عمر بنوا اجله دعا ذلك الغلام فساله لما فعلت ما فعلت فقال اجبرت ولم اكن محبا لما فعلت فاعتقه وطلب منه الرحيل حتى لا يقتص منه
سبحان الله والحمد لله ولا إله إلا الله والله أكبر |
وكان رحمه الله قد جعل لنفسه رجلا مهمته اذا راى من عمر خطا او ميلا لظلم اخذه من مجامع ملابسه وقال له اتق الله فانك ميت
ويوم وفاته طلب من اهله الخروج عنه لانه يرى قوما غير القوم ثيابهم بيضاء ضاكين له وقد ساد غرفته نور لا يعرف مصدره فسمعوه يتـلو " تلك الدار الاخرة نجعلها للذين لا يريدون علوا في الارض ولا فسادا والعاقبة للمتقين "
فلما دخلوا عليه وجدوه ميتا فرحمة الله عليه وبركاته