Masyarakat Madinah memang kaget. Tidak ada yang menyangka Nabi Muhammad Saw akan wafat begitu cepat. Namun karena seÂbagai manusia biasa, ia wafat persis pada hari, tanggal, dan bulan kelahirannya, yaitu Senin 12 Rabiul Awal tahun 632 M. Ia waÂfat hari Senin dan baru dikuburkan pada hari Rabu. Tertundanya pemakaman Nabi selama tiga hari disebabkan karena dua hal. Pertama Umar ibn Khaththab berdiri dengan pedang terÂhunus di samping Nabi dan mengatakan siapa yang mengatakan Nabi wafat akan aku tebas lehernya, begitu dalam cinta Umar terhadap Nabi. Ia mengatakan, Nabi hanya pingsan sepÂerti pingsannya Nabi Musa tiga bulan saat meÂnatap sinar Ilahi di Bukit Turisinin. Nabi tidak diizinkan dikuburkan oleh Umar. Penyebab kedua, rumitnya persoalan siapa yang akan menjadi pengganti Nabi sebagai kepala peÂmerintahan dan sebagai pemimpin spiritual.
Sehari setelah Nabi wafat, berkumpullah sekelompok orang di Balai Pertemuan Bani Sa’adah di Bani Tsaqifah yang diprakarsai oleh suku Khazraj dari masyarakat Madinah (AnsÂhar). Mereka membicarakan suksesi kepemimÂpinan pasca wafatnya Nabi. Mendapat laporan seperti ini, maka Abu Bakar bersama Umar bin Khattab dan Abu Ubadah dari kelompok MuÂhajirin (pengungsi dari Mekkah) menuju ke tempat itu. Di sana sudah ada kelompok suku Khazraj dan suku 'Aus.
Di dalam pertemuan yang cukup alot itu, kelompok Anshar mengajukan Sa'ad bin UbaÂdah sebagai pemimpin baru. Akan tetapi Umar menyela di dalam pertemuan itu dan meminta agar pengganti Nabi Muhammad ialah Abu BaÂkar dengan pertimbangan, Rasulullah pernah bersabda: al-Aimmah min Quraisy (Pera peÂmimpin itu dari kalangan Quraisy). Selain itu Abu Bakar juga selalu diminta oleh Nabi mengÂgantikannya menjadi imam salat semasa beÂliau sakit. Lagi pula, menurut Umar, jika yang menjadi pemimpin dari golongan suku Khazraj belum tentu bisa diterima oleh suku 'Auz, yang selalu menjadi saingan suku Khazraj di MadiÂnah. Perdebatan alot tentang siapa yang akan mengganti status Nabi sebagai Kepala PeÂmerintahan membuat jasad Nabi tertunda diÂmakamkan sampai hari Rabu.
Para peserta pertemuan menyetujui pendaÂpat Umar dan Umar tidak menyia-nyiakan keÂsempatan itu. Ia langsung membaiat Abu BaÂkar sebagai khalifah (pengganti Nabi sebagai Kepala Pemerintahan). Baiat ini terkenal dengÂan Bai'at Tsaqifah. Walaupun pada mulanya ada masalah kecil karena keluarga dekat Nabi tidak dilibatkan, seperti Fatimah, anak tunggal Nabi yang hidup, Ali bin Abi Thalib, Utsman bin 'Affan, dll. Fatimah diketahui tidak ikut memÂbaiat Abu Bakar. Ali, suami Fathimah, nanti membaiatnya sesudah Fatimah, isterinya meÂninggal.
Suksesi awal dalam kepemimpinan umat IsÂlam ini melalui model musyawarah terbatas, yaitu musyawarah yang mewakili para pihak. Dari kelompok Anshar diwakili oleh kelomÂpok suku Khazraj dan Suku 'Aus dan dari kelÂompok Muhajirin diwakili oleh Abu Bakar dan Umar ditambah beberapa sahabat muhajirin lainnya. Suksesi Nabi tidak terlalu rumit karÂena kepiawaian Abu Bakar saat itu memang tak tertandingi. Kelompok Anshar dan MuhajiÂrin beraklamasi menyetujui Abu Bakar sebagai pengganti Nabi. Abu Bakar melanjutkan kebiÂjakan politik Nabi, sementara urusan spiritual mengikuti petunjuk Al-Qur'an dan Hadis. Abu Bakar tidak menemui banyak kesulitan karena selain lebih senior ia juga memiliki kapasitas sebagai ulama dan berpengalaman mendampÂingi Nabi mengurus roda kepemimpinan dunia Islam.