Su padre, al-Mahdi, falleció al comienzo del año 169 de la hégira, en el mes de Muharram. Había sido designado como heredero para el periodo posterior a su padre. Sin embargo, antes de morir, su padre había decidido dar prioridad a su hermano, Harun al-Rashid, en la sucesión, pero no pudo llevar a cabo esta decisión. Finalmente, al-Mahdi murió en Masebezan. En ese momento, al-Hadi se encontraba en Jurjan. Algunos dignatarios del estado, entre ellos el chambelán Rabīʿ y varios comandantes, intentaron dar prioridad a Harun al-Rashid y le prestaron juramento de lealtad (bayʿa). Harun al-Rashid estaba entonces en Bagdad. Para realizar este deseo, que también había pasado por la mente de al-Mahdi, estos dignatarios distribuyeron estipendios a los soldados del ejército.
Cuando al-Hadi se enteró de la muerte de su padre y del intento de los dignatarios del estado, partió rápidamente de Jurjan hacia Bagdad. Llegó a Bagdad en veinte días, entró en la ciudad y pronunció un discurso ante el pueblo. Recibió el juramento de lealtad (bayʿa) para su califato de parte del pueblo, y ellos le prestaron juramento. El chambelán Rabīʿ desapareció. Al-Hadi ordenó buscarlo, lo llevaron ante él, lo perdonó y lo trató bien. Le concedió favores y aceptó que permaneciera en su cargo de chambelán. Además, le otorgó el rango de visir y lo dotó de otras autoridades.
Al-Hadi persiguió a los zindiqs (herejes) en varias partes del país y mandó ejecutar a muchos de ellos. En este asunto, siguió el camino de su padre y lo tomó como ejemplo.
En privado, Musa al-Hadi solía bromear y hacer chistes con sus compañeros. Era uno de los más humoristas entre la gente. Tras ascender al califato, la gente ya no podía mirarlo debido al respeto y temor que inspiraba. Era un joven apuesto, digno e imponente.
En el año 169 de la hégira, Husayn b. ʿAlī b. Ḥasan b. Ḥasan b. Ḥasan b. ʿAlī b. Abī Ṭālib se rebeló en Medina. Una mañana, se vistió con ropas blancas y fue a sentarse en la Mezquita del Profeta (Masjid al-Nabawi). Cuando la gente fue a la oración y lo vio allí, se retiraron. Sin embargo, un grupo se reunió a su alrededor. Le prestaron juramento de lealtad (bayʿa) respecto a la adhesión al Libro, la sunna y la Ahl al-Bayt (la familia del Profeta).
La razón de su rebelión fue la siguiente: el gobernador de Medina había ido a Bagdad para felicitar al nuevo califa Musa al-Hadi y presentar sus condolencias por la muerte de su padre. Durante este tiempo, ocurrieron ciertos acontecimientos que llevaron a su rebelión. Un grupo se reunió a su alrededor. Eligieron la Mezquita del Profeta como su cuartel general e impidieron que la gente rezara allí. Los habitantes de Medina no obedecieron sus deseos. Por el contrario, comenzaron a maldecirlo por violar la santidad de la mezquita. Incluso se relata que algunos habitantes de Medina comenzaron a ensuciar los alrededores de la mezquita. Los que vestían de negro (los partidarios abasíes) lucharon contra él varias veces, y hubo bajas en ambos bandos. Después de esto, Husayn b. ʿAlī emigró a La Meca y permaneció allí hasta la época de la peregrinación.
Musa al-Hadi envió una unidad militar contra él; después de completar los preparativos, lucharon contra él y mataron a algunos de sus partidarios. El resto huyó y se dispersó. Esta rebelión terminó con su muerte y su grupo se dispersó.
Era una persona generosa, la más dadivosa entre la gente. Una vez, fue ante al-Mahdi, quien le dio 40.000 dinares. Distribuyó este dinero entre su familia, amigos de Bagdad y Kufa. Después, salió de Kufa sin siquiera una camisa—llevaba solo un manto de piel, y debajo del manto, no tenía más que una camisa.
Ese año, el tío del califa, Sulayman b. Abī Jaʿfar, dirigió a la gente en la peregrinación. Maʿtūq b. Yaḥyā, con una gran fuerza militar, partió para una incursión (ghazā) en Anatolia por la ruta de Darb al-Rāhib. Los bizantinos, junto con su comandante, les hicieron frente y llegaron hasta la región de Hades.
Entre las figuras notables que murieron ese año se encuentran Husayn b. ʿAlī b. Ḥasan b. Ḥasan b. Ḥasan b. ʿAlī b. Abī Ṭālib (como se mencionó anteriormente, fue asesinado durante los días de tashrīq), y Rabīʿ b. Yūnus, el liberto, chambelán y visir de al-Mansur. Rabīʿ había servido como chambelán tanto de al-Mahdi como de al-Hadi. Algunas personas pusieron en duda su linaje. Al-Khatib al-Baghdadi, al hablar de su biografía, mencionó que transmitió un hadiz considerado munkar (inaceptable); hay dudas sobre la autenticidad de este hadiz.
Después de la muerte de Rabīʿ b. Yūnus, su hijo Faḍl b. al-Rabīʿ fue nombrado chambelán. Al-Hadi lo designó para este cargo.