Bu zatın soy kütüğü şöyledir: "Amir b. Abdullah b. Cerrah b. Hilal b. Uheyd b. Dabbe b. Haris b. Fihr el-Kureşi. Ebu Ubeyde b.Cerrah el-Fihrî. Bu ümmetin emin ve güvenilir adamıydı. Cennet le müjdelenen onsahabeden biridir. Aynı günde Müslüman olan beş kişiden biridir. Kendisiyle beraber Osman b. Maz'un, Ubeyde b. Haris, Abdurrahman b. Avf ve Ebu Seleme b. Abdi Esed aym günde Müslüman oldular, Hz. Ebu Bekir vasıtasıyla, islâm'a girdiler. Hicret ettikleri zaman Rasûlullah (s.a.v.), onu Sa'd b. Muaz'la kardeş yaptı. Başka bir rivayete göre ise Muhammed b. Mesleme ile kardeş yapmıştır. Bu zat, Bedir gazvesine ve müteakip gazvelere katıldı. Rasûlullah (s.a.v.), onun hakkında şöyle buyurdu:
"Doğrusu her ümmetin emin bir kişisi vardır. Bu ümmetin emin kişisi ise Ebu Ubeyde b. Cerrah'tır. "Bu hadîs, Buharı ve Müslim'in sahihlerinde sabittir. Yine Buharı ve Müslimin sahihlerinde sabit olduğuna göre Hz. Ebu Bekir, Beni Saide gölgeliğinde bey'at konusunu Ensâr'la görüşürken şöyle demiştir: "Ben sizin için şu iki adamdan birine razı oldum. Bunlardan birine bey'at edin. (Hz. Ebu Bekir böyle derken Hattab oğlu Ömer ile Ebu Ubeyde'yi kasdetmişti.)" Hz. Ebu Bekir, onu Şam'daki ordunun dörtte birine komuta etmekle görevlendirerek Şam'a göndermişti. Halid b. Velid'i, savaş ilmini bildiğinden Irak'tan çağırarak Ebu Ubeyde'yle diğerlerine komutan yaptı.
Hz. Ömer halife olunca Halid'i görevden aldı. Yerine Ebu Ubeyde b.Cerrah'ı atadı ve ona Halid'e danışmasını emretti. Böylece Ebu Ubey-de'nin emanet ve güvenirliği ile Halid'in şecaat ve kahramanlığı, islâm ümmeti yararına olarak bir araya gelmiş oldu. İbn Asakir, Ebu Ubey-de'nin Şam'da emirü'l-ümera adını alan ilk kişi olduğunu söylemiştir.
Ebu Ubeyde'nin uzun boylu, nahif, elmacık kemikleri çıkık, yüzü etsiz, sakalı hafif, ön dişleri kırık bir kimse olduğunu söylemişlerdi. Ön dişlerinin kırıklık sebebi şuydu: Uhud savaşında Rasûlullah (s.a.v.)'ın yanaklarına gömülen zırh halkalarını çıkarırken onun acı duymasından korktuğu için o halkaları dişleriyle çekmek mecburiyetinde kalmıştı. Bu sebeple dişleri düşmüştü. Ama bu dişlerinin kırıklığından ötürü öyle bir güzel manzara meydana gelmişti ki, bu başkasında görülemezdi. Amvas taunu senesinde vefat etti. Yani Amvas taunu hicretin onsekizinci senesinde görülmüştür. Bu hastalık yüzünden o Fihl köyünde veya başka bir rivayete göre ise Cabiye'de vefat etmiştir. Şam'da Akabe yakınlarında bu asırlarda tanınıp şöhret bulan bir mezar görülmüştür ki Ebu Ubeyde'nin mezarı olduğu söylenir. Doğrusunu Allah bilir. Ebu Ubeyde vefat ettiği zaman ellisekiz yaşındaydı.