Beyhakî, Yahya b. Abdülhamid b. Rafi'nin dedesinin şöyle dediğini rivayet etmiştir:
"Rafi b. Hadic, Uhud (veya Hüneyn) savaşında memesine bir ok saplanmış olarak geldi ve şöyle dedi:
- Ya Rasulallah, şu oku mememden çekip çıkar.
- Ey Rafi! Dilersen oku da kabzasını da birlikte çekip çıkarırım ve kıyamet gününde senin şehid olduğuna tanıklık ederim.
- Ya Rasulallah! Oku çek ve kabzayı bırak. Kıyamet gününde de şehidliğime tanıklık yap.
Ravi diyor ki: Rafi, Muaviye'nin halifeliği dönemine kadar yaşadı. Sonra yarası nüksetti ve ikindiden sonra vefat etti."
Vakidî ile diğer bazı tarihçilerin anlattıklarına göre o, Muaviye'nin hilafetinin üçüncü senesinde vefat etmiştir. Başkaları dediler ki: Hicretin yetmişdördüncü senesinde vefat etmiştir. Muaviye (r.a.) ise, hicretin altmışıncı senesinde vefat etmiştir ki, bunda ihtilaf yoktur. Doğrusunu Allah bilir.