En el año cincuenta y dos de la Hégira, falleció Abū Mūsā ʿAbd Allāh b. Qays b. Sulaym b. Ḥidar b. Ḥarb b. ʿĀmir b. Ghazz b. Bakr b. ʿĀmir b. ʿAzr b. Wāʾil b. Nājiya b. Jamāhir b. Ashʿar al-Ashʿarī. Este personaje se hizo musulmán en su propia tierra y llegó a Medina en el año de Jaybar junto con Jaʿfar y sus compañeros. Según el relato de Muḥammad b. Isḥāq, primero emigró a La Meca y luego a Yemen. Sin embargo, esta narración no es famosa. El Mensajero de Dios (la paz y las bendiciones sean con él) nombró a Abū Mūsā como gobernador de Yemen junto con Muʿādh. ʿUmar también lo nombró gobernador de Basora. Abū Mūsā al-Ashʿarī conquistó la ciudad de Tustar y escuchó el sermón pronunciado por ʿUmar en Jābiya, que dependía de Siria. Durante su propio tiempo, ʿUthmān también lo nombró gobernador de Kufa. Abū Mūsā fue uno de los dos árbitros entre ʿAlī y Muʿāwiya. Cuando los árbitros se reunieron, ʿAmr b. al-ʿĀṣ engañó a Abū Mūsā. Abū Mūsā estaba entre los recitadores coránicos (qurrāʾ) y juristas (fuqahāʾ) de los Compañeros (ṣaḥāba). Entre los Compañeros de su época, era quien tenía la voz más hermosa. Abū ʿUthmān al-Nahdī dijo lo siguiente al respecto:
"Nunca he escuchado un sonido de campana, laúd o zurna (instrumento de viento) tan hermoso como la voz de Abū Mūsā. Según un hadiz auténtico, el Mensajero de Dios (la paz y las bendiciones sean con él) dijo sobre esto: 'A él (Abū Mūsā) se le ha dado una zurna de entre las zurnas de la familia de Dāwūd.'"
ʿUmar le decía a Abū Mūsā: "Oh Abū Mūsā, recuérdanos a nuestro Señor", y él les recitaba el Noble Corán, y ellos escuchaban.
Al-Shaʿbī dijo: En su testamento, ʿUmar escribió: "Ninguno de los gobernadores que he nombrado debe permanecer en el cargo más de un año. Sólo Abū Mūsā debe permanecer en el cargo durante cuatro años."
Según Ibn al-Jawzī en su obra "al-Muntaẓam", Abū Mūsā murió en el año cincuenta y dos de la Hégira. Esta es también la opinión de algunos otros. En otra narración, se dice que Abū Mūsā murió en el año cincuenta y uno; también hay una opinión de que murió en el año cincuenta y cuatro. Existen también relatos débiles de que murió en otros años. Allah sabe mejor la verdad.
Cuando la gente se retiró a la soledad después del evento del arbitraje, Abū Mūsā murió en La Meca. Según otra narración, murió en la región de Thawba, a dos millas de Kufa. Era una persona de baja estatura, delgada y sin barba. Que Allah esté complacido con él.