Tras largas correspondencias y apelaciones entre ambas partes, comenzaron a negociar la cuestión de nombrar árbitros. Según esto, tanto Muʿāwiya como ʿAlī nombrarían cada uno un árbitro de su propio bando, y luego estos dos árbitros se pondrían de acuerdo en una decisión que fuera en beneficio de los musulmanes. Muʿāwiya nombró a ʿAmr b. al-ʿĀṣ como su representante. ʿAlī quiso nombrar a ʿAbd Allāh b. ʿAbbās como su representante—¡ojalá lo hubiera hecho!—pero los Qurra (Qurrāʾ, recitadores y piadosos) se lo impidieron, diciendo: «No aceptamos que se nombre a nadie como representante salvo Abū Mūsā al-Ashʿarī». Según lo narrado en el libro de Haytham b. ʿAdī sobre los Jāriyíes, la primera persona en proponer a Abū Mūsā al-Ashʿarī como árbitro fue al-Ashʿath b. Qays; luego los yemeníes lo siguieron, diciendo que Abū Mūsā era un hombre que impedía a la gente caer en la discordia y la guerra. En ese momento, Abū Mūsā se había retirado en soledad en la tierra de Ḥijāz. Cuando ʿAlī dijo: «Nombraré a al-Ashtar como árbitro», los rebeldes insistieron: «¿Acaso hay otro que no sea al-Ashtar, quien avivó la guerra y dejó el país sin soldados?» Ante esto, ʿAlī dijo: «Entonces, haced lo que queráis». Al-Ahnaf también dijo a ʿAlī:
«Por Allah, has lanzado una piedra. Este pueblo sólo será reconciliado por un hombre de entre ellos, que se acerque a ellos, tanto que esté en sus manos, y luego se aleje de ellos, elevándose como las estrellas. Si no quieres nombrarme árbitro, al menos hazme segundo o tercer árbitro. Porque si se ata algún nudo en este acuerdo, yo ciertamente lo desataré. Si el nudo que yo ate se desata, como antes, ataré otro nudo a tu favor o uno más firme.»
Los rebeldes no aceptaron que se nombrara árbitro a nadie salvo Abū Mūsā al-Ashʿarī. Ante esto, los enviados de ʿAlī fueron a Abū Mūsā al-Ashʿarī, quien estaba en retiro. Cuando le dijeron que las partes se habían reconciliado, dijo: «Alabado sea Allah». Cuando le dijeron que había sido nombrado árbitro, dijo: «Innâ lillāh wa innâ ilayhi rājiʿūn (Ciertamente somos de Allah y a Él regresaremos)». Luego lo llevaron ante ʿAlī. Después, se preparó y escribió un documento entre los partidarios en los siguientes términos:
«En el nombre de Allah, el Misericordioso, el Compasivo. Esta es una decisión a la que ha llegado el Comandante de los Creyentes.» Sin embargo, en ese momento, ʿAmr b. al-ʿĀṣ objetó, diciendo: «Escribid su nombre y el de su padre. Puede ser vuestro comandante, pero no es el nuestro.» ʿAlī entonces dijo: «Borrad mi título de Comandante de los Creyentes. Y escribid: 'Esta es una decisión a la que ha llegado ʿAlī, hijo de Abū Ṭālib.'»
Después de decir esto, ʿAlī puso como ejemplo la historia de Ḥudaybiyya. En ese momento, los mecánicos objetaron que el Profeta (la paz y las bendiciones sean con él) escribiera: «Esta es una decisión a la que ha llegado Muḥammad, el Mensajero de Allah», y, al no aceptar que él fuera el Mensajero de Allah, dijeron: «Escribe: 'Esta es una decisión a la que ha llegado Muḥammad, hijo de ʿAbd Allāh.'» Entonces, el escriba escribió: «Esta es una decisión tomada en conjunto por ʿAlī, hijo de Abū Ṭālib, y Muʿāwiya, hijo de Abū Sufyān.» ʿAlī juzgó en nombre de los iraquíes y los musulmanes que lo apoyaban. Muʿāwiya juzgó en nombre de los sirios y los musulmanes que lo apoyaban. Ambos se comprometieron a actuar conforme al juicio de Allah y Su Libro, a revivir lo que Allah revive y a abolir lo que Él abole. Abū Mūsā al-Ashʿarī y ʿAmr b. al-ʿĀṣ también se comprometieron a atenerse al juicio que encontraran en el Libro de Allah, y respecto a los juicios que no encontraran en Su Libro, a seguir la sunna unificadora y justa que no cause división.
Estos dos árbitros tomaron promesas de ʿAlī y Muʿāwiya y de sus soldados de que sus familias estarían a salvo y que toda la umma los apoyaría contra cualquiera que objetara su decisión. Declararon que emitirían su decisión en el mes de Ramaḍān. También dijeron que, si lo deseaban, con el consentimiento de ambas partes, podrían posponerla aún más. Este pacto escrito entre ambas partes fue redactado el miércoles trece del mes de Ṣafar del año treinta y siete de la hégira, y en este texto se decidió que ʿAlī y Muʿāwiya acatarían el fallo que estos dos árbitros dictarían en Dūmat al-Jandal o Azruh durante el mes de Ramaḍān. En el momento del anuncio de la decisión, cada parte acudiría a los árbitros con 400 hombres de sus propias filas. Si no se reunían en la fecha indicada, se decidió que se encontrarían el año siguiente en Azruh.
Según el libro de Haytham sobre los Jāriyíes, cuando al-Ashʿath b. Qays llevó este texto del pacto a Muʿāwiya, él lo tomó y vio que estaba escrito: «Este es un texto acordado por ʿAlī, siervo de Allah y Comandante de los Creyentes, y Muʿāwiya, hijo de Abū Sufyān.» Al ver esto, Muʿāwiya dijo: «Si ʿAlī fuera el Comandante de los Creyentes, no lucharía contra él. Pero que escriba sólo su nombre, y que su nombre se escriba antes que el mío, porque él es más virtuoso y entró al Islam antes que yo.» Al-Ashʿath regresó a ʿAlī y lo escribió como dijo Muʿāwiya. Los sirios no aceptaron que el nombre de ʿAlī se escribiera antes que el de Muʿāwiya, ni que los iraquíes fueran mencionados antes que ellos. Por lo tanto, el texto del pacto se escribió en dos versiones. Una era específica para los sirios, en la que el nombre de Muʿāwiya se escribía antes que el de ʿAlī. En la versión escrita para los iraquíes, el nombre de ʿAlī se escribía antes que el de Muʿāwiya, y los iraquíes eran mencionados antes que los sirios. En la redacción de la decisión de los árbitros, las siguientes personas estuvieron presentes como testigos por parte de ʿAlī: ʿAbd Allāh b. ʿAbbās, al-Ashʿath b. Qays al-Kindī, Saʿīd Qays al-Hamadānī, ʿAbd Allāh b. Tufayl al-Maʿāfirī, Ḥijr b. Yazīd al-Kindī, Waraqāʾ b. Samīʿ al-ʿIjlī, ʿAbd Allāh b. Bilāl al-ʿĪdī, ʿUqba b. Ziyād al-Anṣārī, Yazīd b. Juhfa al-Tamīmī y Mālik b. Kaʿb al-Hamadānī. Estos testigos eran diez en total.
Por parte de los sirios, estuvieron presentes como testigos las siguientes diez personas: Abū ʿAwar al-Sulamī, Ḥabīb b. Maslama, ʿAbd al-Raḥmān b. Khālid b. al-Walīd, Muḥarriq b. Ḥāris al-Zubaydī, Wāʾil b. ʿAlqama al-ʿAdawī, ʿAlqama b. Yazīd al-Ḥaḍramī, Ḥamza b. Mālik al-Hamadānī, Subayʿ b. Yazīd al-Ḥaḍramī, ʿUtba b. Abī Sufyān (hermano de Muʿāwiya) y Yazīd b. Hurr al-ʿAbsī.
Al-Ashʿath b. Qays hizo circular y leyó este texto del pacto entre ambas partes. Luego la gente comenzó a enterrar a sus muertos.
Al-Zuhrī dijo: He oído que cincuenta personas eran enterradas en una sola tumba.
ʿAlī había tomado prisionero a un grupo de sirios. Cuando estaba a punto de salir de Ṣiffīn, liberó a estos prisioneros. Muʿāwiya también tenía aproximadamente el mismo número de prisioneros de los partidarios de ʿAlī. Muʿāwiya, pensando que sus propios prisioneros habían sido ejecutados, decidió matar a los prisioneros que tenía. Sin embargo, al enterarse de que sus propios partidarios habían sido liberados, liberó a los prisioneros que tenía. Se narra que un prisionero llamado ʿAmra b. Aws de la tribu de Azd, cuando estaba a punto de ser ejecutado, dijo a Muʿāwiya:
– Ten piedad de mí, porque eres mi tío materno.
– ¡Vamos! ¿Cómo es que soy tu tío?
– La esposa del Mensajero de Dios (la paz y las bendiciones sean con él), Umm Ḥabība, es la madre de todos los creyentes. Así, yo soy su hijo. Como tú eres hermano de Umm Ḥabība, eres mi tío.
– A Muʿāwiya le gustó esta respuesta y lo dejó en libertad.
ʿAbd al-Raḥmān b. Ziyād b. Anʿum, hablando sobre la gente de Ṣiffīn, dijo: «Quienes participaron en esta guerra eran árabes. En la época de la Jāhiliyya, se conocían entre sí. En la época del Islam, se encontraron conforme a la sunna y la autoridad del Islam; lucharon, se apoyaron mutuamente y les avergonzaba huir del campo de batalla. Cuando había una pausa en la lucha, ambos bandos entraban en los campamentos del otro, recogían a sus muertos y los enterraban.»
Al-Shaʿbī dijo: «Estos son gente del Paraíso. Aunque lucharon entre sí, no huyeron unos de otros.»