Hicretin elliikinci senesinde Ebu Musa Abdullah b. Kays b. Süleym b. Hidar b. Harb b. Amir b. Ğazz b. Bekr b. Amir b. Azr b. Vail b. Naciye b. Cemahir b. Eş'ar el-Eş'arî vefat etmiştir. Bu zat, kendi beldesinde Müslüman olmuş, Cafer ve arkadaşlarıyla birlikte Hayber senesinde Medine'ye gelmişti. Muhammed b. İshak'm ifadesine göre bu zat, önce Mekke'ye hicret etmiş, sonra da Yemen'e hicret etmiştir. Ancak bu rivayet meşhur değildir. Rasûlullah (s.a.v.), Ebu Musa'yı Muaz'la birlikte Yemen'e vali olarak atamıştı. Hz. Ömer de onu Basra valiliğine atamıştı. Ebu Musa elEş'arî, Tüster şehrini fethetmiş, Şam'a bağlı Cabiye'de Hz. Ömer'in irad ettiği hutbeyi dinlemişti. Hz. Osman da kendi zamanında onu Kûfe'ye vali olarak atamıştı. Ebu Musa, Ali ile Muaviye arasında hakemlik yapan iki kişiden biridir. Hakemler bir araya geldiğinde Amr b. As, Ebu Musa'ya hile yapmıştı. Ebu Musa, sahabelerin kurra ve tikıh-çılanndandı. Sahabeler arasında kendi zamanında sesi en güzel olan kişiydi. Ebu Osman en-Nehdî, bu hususta şöyle demiştir:
"Ebu Musa'nın sesi kadar güzel bir zil, ud ve zurna sesi işitmiş değilim. Sahih hadiste sabit olduğuna göre Rasûlullah (s.a.v.), bu hususta şöyle buyurmuştur: "Buna (Ebu Musa'ya), Davud ailesinin zurnalarından bir zurna verilmiştir."
Hz. Ömer, Ebu Musa'ya: "Ey Ebu Musa, bize Rabbimizi hatırlat." der, O da onlara Kur'ân-ı Kerîm okur, onlar da dinlerlerdi.
Şa'bî dedi ki: Hz. Ömer vasiyetinde "Atadığım valilerden hiçbiri, bir seneden fazla görevde bırakılmasın. Sadece Ebu Musa dört yıl süreyle görevde bırakılsın." diye yazmıştı.
"El-Muntazam" adlı eserde îbn Cevzî'nin ifadesine göre Ebu Musa, hicretin elli ikinci senesinde vefat etmiştir. Bu, bazılarının da görüşüdür. Başka bir rivayette anlatıldığına göre Ebu Musa, elli birinci senede vefat etmiştir^ elli dördüncü senede vefat ettiğine dair bir kavil de vardır. Başka senelerde vefat ettiğine dair zayıf rivayetler de vardır. Doğrusunu Allah bilir.
insanlar, hakem olayından sonra uzlete çekildikleri zaman Ebu Musa, Mekke'de vefat etti. Başka bir rivayete göre ise o, Kûfe'ye iki millik mesafedeki Sevbe mıntıkasında vefat etmiştir. Kısa boylu, nahif bedenli ve sakalsız bir kimseydi. Allah ondan razı olsun.