Benih-benih fitnah dan perpecahan di kalangan umat Islam sebenarnya sudah mulai timbul sejak pemilihan Utsman bin Affan sebagai Khalifah. Hal ini disebabkan oleh orang-orang yang berasal dari Yahudi menyusup ke dalam jama’ah umat Islam. Orang-orang Yahudi yang bersahabat dengan pemerintahan Quraisy yang dikalahkan Nabi, memendam rasa dendam dan iri hati kepada ummat Islam, sehingga mereka berkali-kali berusaha mengadakan pemberontakan seperti pemberontakan di Khaibar, Thaif, dan di Hawazin.
Mereka melakukan itu di masa Nabi Muhammad SAW dan begitu pula mereka melakukan hal yang sama pada masa Abu Bakar ash-Siddiq pada perang Yamamah. Namun dengan keuletannya Abu Bakar dapat menumpas segala bentuk pemberontakan tersebut dan orang-orang Yahudi kembali berpura-pura taat dan berbaiat kepada Khalifah Abu Bakar.
Adapun pada masa Khalifah Umar bin Khattab, yang dikenal sebagai Khalifah yang kuat, negarawan yang ahli dalam ilmu siasat, tegas dan berani, orang-orang Yahudi tidak memiliki kesempatan sedikit pun untuk bergerak dalam mengembangkan niat-niat busuknya. Sedangkan dalam pemerintahan Utsman bin Affan, sedari awal pemilihannya sudah ada intrik politik yang ditiupkan oleh Dinasti (keturunan) Quraisy dan suku bangsa Amawiyyah.
Bani Hasyim ialah yang menurunkan Nabi Muhammad SAW dan Bani Umayyah yang menurunkan Abu Sufyan, Utsman bin Affan dan Muawiyyah bin Abu Sufyan. Keturunan Bani Umayyah yang dipimpin oleh Abu Sufyan selalu mengharapkan agar kepemimpinan Islam sesudah Nabi Muhammad SAW beralih ke tangan Bani Umayyah yang dahulu menjadi raja Quraisy ketika bapaknya Abu Sufyan menjadi raja di Mekkah.
Muawiyyah bin Abu Sufyan merupakan seorang politikus yang handal dan ulet yang berusaha agar pimpinan pemerintahan Islam dipegang oleh Utsman bin Affan dari keturunan Bani Umayyah setelah wafatnya Umar bin Khattab. Namun lawannya, Ali bin Abi Thalib adalah seorang jenderal yang banyak jasanya dalam revolusi Islam yang sukar ditandingi jika tidak mengundurkan diri, maka Muawiyyah dan golongan Bani Umayyah lainnya mengusahakan agar Ali mengundurkan diri dengan sukarela.
Siasat mereka berhasil dan Ali bin Abi Thalib pun mengundurkan diri karena sikap ketawadhuan Sayyidina Ali terhadap Utsman yang dipandang sebagai kakak semenantu Nabi, dan akhirnya Utsman bin Affan lah yang menang. Kemenangan Utsman sebagai Khalifah ketiga yang terkenal sebagai orang yang lemah lembut, maka dengan mudah Khalifah Utsman diperalat oleh Bani Umayyah agar seluruh kekuasaan negara, gubernur, dan panglima dimiliki oleh Bani Umayyah sepenuhnya.
Peristiwa ini menimbulkan reaksi, terutama dari bangsa Persia yang ditaklukkan oleh Islam di zaman Umar bin Khattab dengan segala kesadaran, karena Islam tidak membeda-bedakan golongan dan suku, sedangkan pada jaman Utsman bin Affan background Bani Umayyah berusaha menghidupkan kembali Ashabiyyah (kefanatikan) golongan Arab keturunan Bani Umayyah. Maka marahlah bangsa Persia, suku besar yang telah beribu-ribu tahun menjadi raja di belahan dunia ini.
Retaklah kesatuan Islam dan Ali bin Abi Thalib satu-satunya sahabat yang paling berani menentang tindakan Khalifah di Dewan Ulil Amri waktu itu mendapat sambutan rakyat. Maka dari itu, retaklah rakyat Islam menjadi dua golongan, yang pertama pro kepada Ali dan yang kedua pro terhadap Utsman dan Muawiyyah. Di tengah situasi inilah peluang yang baik bagi orang Yahudi untuk menanamkan benih fitnah di kalangan umat Islam. Dan ketika sangat panasnya pertentangan itu maka orang Yahudi membentuk Khawarij, yaitu golongan yang keluar, artinya pro Utsman dan kontra terhadap Ali, namun pro kepada Allah dan Rasul.
Namun Utsman bin Affan terlambat dalam mengambil tindakan dan Muawiyyah diganti oleh Abu Musa tapi Muawiyyah pangkatnya diturunkan menjadi gubernur di Syiria. Keputusan ini sedap di dengar, padahal rahasianya bermaksud permusuhan Islam semakin menyala yang akhirnya politik Khawarij memasuki pikiran beberapa perwira dan jenderal tentara, yang pada akhirnya terbunuhlah Utsman bin Affan oleh tentaranya sendiri. Di kala ummat Islam sudah sangat kritis, akhirnya Utsman bin Affan telah mendekati kematiannya, dapat menerima nasihat dari Ali bin Abi Thalib agar Muawiyyah bin Abu sufyan diganti oleh Abu Musa al-Asy’ari sebagai perdana menteri karena dipandang oleh Ali bahwa Muawiyyahlah yang menjadi biang keladi perpecahan ini, karena mengingat golongan Bani Umayyah dan menyingkirkan yang lainnya.
Dan pada akhirnya Utsman bin Affan terbunuh oleh tentaranya sendiri dan digemborkan oleh pihak Khawarij bahwa pembunuh Utsman adalah tentara atas suruhan Ali bin Abi Thallib. Padahal kehadiran Ali saat terbunuhnya Utsman bin Affan karena permintaan dari para pembesar sahabat, sebab Sayyidina Utsman sudah seminggu dikepung oleh tentara atas fitnah Khawarij.
Sedangkan waktu itu tidak ada yang paling berpengaruh untuk menginsyafkan para tentara kecuali Sayyidina Ali Bin Abi Thalib. Namun sewaktu Sayyidina Ali bin Abi Thalib datang, Sayyidina Utsman telah terbunuh, maka Ali lah yang mengurus jenazah Utsman dan menjaga dari kekejaman tentara yang dipengaruhi Khawarij itu. Golongan Khawarij segera mengabarkan kejadian ini kepada Muawiyyah dengan mengirimkan baju Utsman yang penuh darah, bahwa pembunuh Utsman bin Affan itu tentara suruhan Ali bin Abi Thalib. Dan karena inilah lahir gerakan orang Syiria yang dipimpin oleh Muawiyyah dengan nama “Gerakan Pembela Baju Utsman”.