Bu senenin başında mü'minlerin emiri Ebu Talib oğlu Ali, hilafet makamına geçti. Şehirlere valiler atadı. Abdullah b. Abbas'ı Yemen'e, Semüre b. Cündeb'i Basra'ya, Ammare b. Şihab'ı Kûfe'ye, Kays b. Sa'd b. Ubade'yi Mısır'a, Muaviye'nin yerine Sehl b. Hanifi Şam'a vali olarak atadı. Sehl b. Hanif, Medine'den yola çıktı. Tebük'e vardığında Muaviye'nin süvarileri, onun karşısına çıkıp şöyle sordular:
- Sen kimsin?
- Valiyim.
- Nerenin valisi?
- Şam valisi.
- Eğer Osman seni göndermişse hoş geldin, safa geldin, başkası göndermişse geri dön.
- Olanları duymadınız mı?
- Duyduk.
Bunun üzerine Sehl b. Hanif geri dönüp Hz. Ali'nin yanına gitti. Kays b. Sa'd'm valiliğine gelince, Mısırlıların büyük bir çoğunluğu ona bey'at ettiler. Bir grup ise: "Osman'ın katillerini Öldürmedikçe buna bey'at etmeyiz." dediler. Basrıhlar da böyle demişlerdi.
Ummare b. Şihab'a gelince o, Kûfe'ye vali olarak gönderildi. Ancak Talha b. Hüveylid, Hz. Osman'ın öldürülmesinden ötürü yönetime karşı kızgınlığından dolayı Ummare'yi Kûfe'den geri çevirdi. Ummare de Hz. Ali'nin yanına dönüp durumu anlattı. Böylece fitne yayıldı, iş büyüdü. Ülke birliği bozuldu, her kafadan bir ses çıkmaya başladı. Ebu Musa, Hz. Ali'ye mektup göndererek az bir grup dışında Kûfelilerin itaat ettiklerini ve bey'at yaptıklarını bildirdi.
Hz. Ali, Muaviye'ye çok mektuplar gönderdi ama cevap alamadı. Defalarca mektup gönderdi. Hz. Osman'ın sefer ayında öldürülmesinden üç ay sonrasına kadar mektuplar gönderdi ama cevaplan bir türlü alamadı. Sonra Muaviye, birkaç mektup yazıp bir adamla Hz. Ali'ye gönderdi. Adamı, Hz. Ali'nin yanma vardı. Hz. Ali, ona sordu:
- Ne haber, geride neler var?
- Öyle bir kavmin yanından sana geldim ki, onlar kısastan başka bir şey istemiyorlar, hepsi intikam peşindedirler. Arkada 70.000 ihtiyar adam bıraktım. Tamamı Osman'ın kanlı gömleğinin altında ağlıyorlar,
onun kanlı gömleği Şam'daki caminin minberinde dir.
- Allah'ım! Ben Osman'ın kanından uzak olduğumu, bu işle ilgim olmadığını sana arz ediyorum.
Bundan sonra Muaviye'nin elçisi Hz. Ali'nin huzurundan çıktı. Hz. Osman'ı öldüren Hariciler ona saldırıp öldürmek istediler. Büyük bir zorlukla ellerinden kurtuldu.
Hz. Ali, Şamlılarla savaşmaya karar verdi. Mısır valisi Kâys b. Sa'd'a mektup yazarak Şamlılarla savaşmaları için halkı silah altına çağırmasını emretti. Küfe valisi Ebu Musa'ya aynı mealde bir mektup gönderdi. Osman b. Hanif e de böyle bir mektup gönderdi. İnsanlara hutbe irad edip Şamlılarla savaşmaya onları teşvik etti, ordu hazırlamaya başladı. Medine'den yola çıktı. Yerine vekil olarak Kuşem b. Abbas'ı bıraktı. Kendisine itaat edenleri yanına alarak asilere ve emrine itaat etmeyenlere, diğer kimselerle birlikte kendisine bey'at etmeyenlere karşı savaşmaya niyetliydi. Oğlu Hasan gelip şöyle dedi:
- Babacığım, şu savaşmayı bırak, zira savaşta Müslümanların kanı akacaktır. Aralarına anlaşmazlık girecektir.
Hz. Ali, oğlu Hasan'm bu teklifine önem vermedi, aksine savaş kararını perçinledi. Orduyu düzene soktu. Sancağı Muhammed b. Hanefi'ye verdi. İbn Abbas'ı sağ kanada, Amr b. Ebi Seleme'yi sol kanada komutan yaptı. Sol kanada Amr b. Süfyan b. Abdil Esed'i komutan yapmış olduğuna dair bir rivayet de vardır. Öncü kuvvetlerin başına Ebu Ubey-de'nin kardeşinin oğlu Ebu Leyla b. Amr elCerrah'ı komutan yaptı. Artık bütün hazırlıklar tamamlanmış, sıra Medine'den çıkıp Şam yoluna çıkmaya gelmişti. Ancak bu sırada ileride anlatacağımız bir durum ortaya çıktı ve onu bu hareketten vazgeçirdi.