Keikhlasan dan sifat tenang Abu Zar jelas terpancar di wajahnya sentiasa. Abu Zar sentiasa redha dengan apa jua yang akan berlaku pada dirinya. Pernah Rasulullah SAW bersabda,
“Sahabatku, engkau bakal ditimpa suatu bencana di belakang hari.”
Abu Zar menjawab dengan tenang, “Akan ku terima bencana itu dengan kegembiraan, ya Rasulullah.”
Tidak lama kemudian, kelihatan seorang lelaki tua sedang berjalan termengah-mengah. Rasulullah SAW yang melihat dari kejauhan merasa sangat gembira sebaik melihat ketibaan Abu Zar. Lelaki bijak itu melangkah bersendirian bersama bekalan dan kelengkapan perangnya yang berat. Siapa tahu betapa payahnya dia meneruskan perjalanan tadi, sendirian mengharungi padang pasir yang sunyi dan terbakar dek panas mentari. Keldainya pula jatuh sakit dan Abu Zar memilih untuk berjalan sendiri sehingga sempat sampai menyertai rombongan Rasulullah SAW semula.
Rasulullah bersabda, “Akhirnya, engkau datang jua sahabatku.” Melihat kesungguhan Abu Zar ingin berperang, Rasulullah menambah “ Tuhan akan memberi ganjaran pada Abu Zar yang hari ini berjalan kaki sendirian. Kelak ia akan meninggal sendirian dan dibangkitkan Allah di hari pembalasan, jua sendirian.”
Abu Zar akan menerima penghormatan yang mulia sebagai imbalan dari cintanya yang murni kepada Allah dan Rasul-Nya.
Ketika pemerintahan Khalifah Usman bin Affan, Abu Zar berangkat menuju Rabzah bersama isteri dan salah seorang khadamnya. Ketika di pertengahan jalan, Abu Zar jatuh sakit. Isterinya yang melihat suaminya sedang kesakitan, hanya mampu menangis kesedihan. Terasa hiba di hatinya kerana sakit Abu Zar kali ini amat berbeza. Seolah-olah sudah tiba masanya mereka berpisah.
“Mengapa engkau menangis?” tanya Abu Zar tenang dengan nafas tersekat-sekat.
“Engkau sedang sakit tenat, tetapi aku tidak mempunyai kain pun untuk menyelimuti tubuhmu," jawab isterinya tersedu-sedu.
“Isteriku, jangan kau tangisi kematianku kelak. Ini adalah saat yang sangat kunantikan. Sesudah aku pergi, janganlah kau bersusah hati. Sesudah jenazahku dimandikan, bungkuslah dengan kain kafan seadanya. Selesai mengurus segalanya, golekkan jenazahku di tepi jalan. Kepada orang yang mula-mula kalian temui, katakan kepadanya, inilah jenazah Abu Zar Al-Ghifari, sahabat Rasulullah.”
Tidak lama kemudian, memang benar Abu Zar meninggal dunia. Isteri dan khadamnya melaksanakan wasiat Abu Zar. Setelah dimandi dan dikafan, jenazah Abu Zar diletakkan di pinggir jalan.
Seorang musafir melewati tempat itu dan kehairanan melihat ada jenazah yang tergolek di tepi jalan. Isteri Abu Zar yang melihatnya lantas menerangkan, “Maaf tuan, orang yang wafat ini adalah Abu Zar al-Ghifari, sahabat Rasulullah.”
Musafir itu sebenarnya Ibnu Mas’ud, juga salah seorang sahabat Rasulullah. Dengan linangan air mata, Ibnu Mas’ud berkata “Ya Allah, semua yang dikatakan oleh Rasulullah berlaku benar ke atas dirimu. Engkau berjalan sendiri, meninggal sendiri dan pasti dibangkitkan kelak juga sendiri.”