Ceritanya berawal dari terpilihnya Abu Bakar Assiddiq sebagai Khalifah ketika Rasulullah wafat. Sejumlah orang merasa Ali bin Abhi Thalib lebih layak, baik dengan alasan kapasitas intelektualnya maupun religiusitasnya, ditambah Ali memiliki hubungan darah lebih dekat, baik sebagai sepupu maupun menantu Rasulullah.
Walaupun sangat terlambat, Ali pada akhirnya membaiat Abu Bakar. Hubungan antara Ali dan Abu Bakar selanjutnya sangat baik. Ali menghormati Abu Bakar sebagai pimpinan, dan Abu Bakar selalu melibatkan Ali baik dalam urusan pemerintahan maupun keagamaan. Bahkan tidak jarang sang Khalifah meminta pendapat Ali secara khusus.
Masalah muncul kembali ketika Ali diangkat sebagai Khalifah keempat menggantikan Usman bin Affan yang dibunuh ramai-ramai oleh massa yang marah. Muawiyah yang waktu itu menjabat Gubernur Syam dan memiliki hasrat menjadi Khalifah, enggan membaiat Ali, sampai Ali menemukan dan menghukum si pelaku pembunuhan Usman.
Tuntutan Muawiyah ini setidaknya memiliki dua dimensi: Pertama karena dirinya memiliki hubungan darah dengan Usman yang menjadi korban. Kedua, tuntutan ini sebagai cara untuk menyudutkan Ali.
Kalaupun Ali mengetahui pelakunya, dia akan kesulitan memenuhi tuntutan Muawiyah, dikarenakan dia akan berhadapan dengan massa yang besar yang justru meminta dan mengangkatnya sebagai Khalifah. Apalagi saat itu, usia jabatan Khalifah yang diembannya baru dalam hitungan hari.
Apa motif yang sebenarnya di balik tuntutan Muawiyah, dan apa sebenarnya yang menjadi alasan Ali tidak menghukum pelaku pembunuhan Usman, sampai sekarang menjadi misteri.
Ketika Khalifa Ali terbunuh saat menuju masjid untuk menunaikan Shalat Subuh, muncul masalah lagi terkait siapa yang layak menggantikannya sebagai Khalifah. Sebagian mengusulkan Hasan putra Ali, sementara yang lainnya mengusulkan Muawiyah bin Abu Sufyan.
Kedua tokoh ini lalu bernegosiasi dan berkompromi sehingga menghasilkan kesepakatan yang isinya antara lain: Demi menjaga persatuan ummat, Hasan mengikhlaskan jabatan Khalifah diserahkan kepada Muawiyah. Selanjutnya jika Muawiyah mangkat, maka jabatan Khalifah harus dikembalikan kepada umat.
Hasan meninggal mendadak di usia muda. Kemudian saat Muawiyah menjelang mangkat, dia mengangkat putranya Yazid sebagai penerus. Selanjutnya Yazid memaksa saudara kembar Hasan yang bernama Husain bin Ali untuk membaiat dirinya.
Husein secara tegas menolak membaiat Yazid bin Muawiyah dengan alasan dia bukanlah orang yang layak menduduki jabatan itu. Paling tidak ada dua hal yang membuat Husein kebertan: Pertama, Yazid dikenal luas sebagai orang yang berperangai buruk. Kedua, proses pengangkatan yang dilakukan Muawiyah telah mengkhianati perjanjian yang dibuatnya bersama Hasan.
Penolakan Husein membuat dirinya diintimidasi penguasa, sehingga ia mengambil keputusan meninggalkan Madinah tempat tinggalnya menuju Makkah. Di Makkah dirinya juga mengalami hal yang serupa, sehingga ia memutuskan untuk pindah ke Kuffah (Irak) bersamaan dengan datangnya dukungan dari masyarakat setempat yang dulunya menjadi pengikut ayahnya.
Dalam perjalanan munuju Kuffah, tepatnya di Karbala (Irak), Husein dan keluarga serta pengikutnya yang berjumlah hanya 128 termasuk anak-anak dan perempuan, dibantai oleh pasukan Yazid yang bersenjata lengkap berjumlah 10 ribu yang dikirim dari Damaskus.
Seorang tokoh setempat yang menjadi simpatisan Ali bin Abi Thalib bernama Mukhtar Tsaqafi kemudian menggalang kekuatan masyarakat Kuffah. Awalnya Mukhtar dan para pengikutnya mengambil-alih pemerintahan setempat pada 685 M, kemudian dia menghukum satu persatu tokoh-tokoh yang terlibat dalam pembunuhan Husein.
Sebenarnya pemerintahan yang dibangun oleh Mukhtar Assakafi di Kuffah inilah cikal-bakal terbentuknya Mazhab Syi'ah. Pada saat inilah kristalisasi semangat balas dendam, bercampur dengan kekecewaan terhadap khilafah yang ada, kesedihan mendalam atas meninggalnya secara tragis cucu Nabi bersama keluarganya, yang kemudian mendorong munculnya keinginan membangun kelompok alternatif.
Walaupun pemerintahan ini bertahan cukup lama (sekitar 18 bulan), akan tetapi akhirnya dihancurkan oleh Mush'ab bin Zubair yang menjadi Gubernur Bashrah yang juga saudara dari Abdullah bin Zubair yang mengendalikan pemerintahan dari Makkah yang menjadi Kekhalifahan tandingan dari Bani Umayyah di Damaskus.
Sejak saat itu pemerintahan Syi'ah datang dan pergi. Jarang sekali yang bertahan lama, akan tetapi komunitas Syi'ah mampu bertahan baik dengan menggunakan doktrin keagamaan maupun dengan menjaga tradisi kecintaan pada keluarga Rasulullah, termasuk keturunannya yang sering disebut duriah atau duriat. Proses kristalisasi Syiah yang menjauh dari main stream Suni terus terjadi sampai sekarang.
Bagi orang Indonesia analoginya mudah sekali, karena fenomena Suni dan Syiah mirip sekali dengan perseteruan Partai Masyumi vs Partai NU. Keduanya kerap mencari dali-dalil keagamaan baik dari Al Qur'an, Hadits, maupun pendapat ulama terdahulu sebagai instrumen legitimasinya.
Untungnya, baik Partai Masyumi maupun NU tidak berusia panjang (hanya puluhan tahun). Jika berusia panjang, apalagi sampai berabad-abad seperti Suni Vs Syi'ah, maka bukan mustahil keduanya menjadi mazhab baru dalam Islam.