Мусульмане увидев, каким истинным, порядочным, честным мусульманином является Умар ибн абд аль Азиз, назначили его вскоре наместником Медины, Мекки и Тайфа. Тогда ему было 26 лет. За 6 лет правления Умар проделал гигантскую по масштабам работу: были проложены дороги, созданы каналы и колодцы для сельскохозяйственных работ.

Но потом покинув кресло наместника и бросив все, Умар отправляется простым солдатом в армии халифата на войну с Византией. В это время его двоюродный брат Сулейман ибн Абд аль-Малик, правитель халифата, чувствуя приближение смерти, намеревается завещать власть своему любимому племяннику. Боясь, что Умар откажется от власти, халиф скрывает от него свое завещание. Приближенные халифа хранили тайну, дав обет молчания. Когда после смерти халифа Сулеймана, при большом стечении народа, было оглашено завещание, Умар публично отказался принять власть. Однако все присутствующие единогласно присягнули ему. Когда он узнал об этом, то от страха упал в обморок. Он испугался большой ответственности власти и сказал людям, что отказывается от правления, но все мусульмане настояли на этом.

Тогда Умар сказал: “Я не самый лучший из вас, но теперь самый ответственный”.

После избрания халифом, когда он выходил из мечети, к нему пригнали самого дорогого коня, но халиф отказался от него и сел на своего старого верблюда.

Так Умар стал правителем огромной державы, включавшей в себя Аравийский полуостров, Северную Африку, Индию, Среднюю Азию, Иран, Ирак, Северный Китай, Закавказье,Северный Кавказ, Египет, Испанию, юг Франции.