Beberapa tahun kemudian, Uwais Al Qarni berpulang ke rahmatullah. Anehnya, pada saat dia akan di mandikan, tiba-tiba sudah banyak orang yang ingin berebutan ingin memandikannya. Dan ketika di bawa ke tempat pembaringan untuk dikafani, di sana pun sudah ada orang-orang yang sudah menunggu untuk mengafaninya.
Demikian pula ketika orang pergi hendak menggali kuburannya, di sana ternyata sudah ada orang-orang yang menggali kuburnya hingga selesai. Ketika usungan dibawa ke pekuburannya, luar biasa banyaknya orang yang berebutan untuk menusungnya.
Meninggalnya Uwais Al Qarni telah menggemparkan masyarakat kota Yaman. Banyak terjadi hal-hal yang amat mengherankan. Sedemikian banyaknya orang yang tak kenal berdatangan untuk mengurus jenazah dan pemakamannya, padahal Uwais Al Qarni adalah seorang yang fakir yang tidak dihiraukan orang. Sejak ia dimandikan sampai ketika jenazahnya hendak diturunkan ke dalam kubur, di situ selalu ada orang-orang yang telah siap melaksanakannya terlebih dahulu.
Penduduk kota Yaman tercengang. Mereka saling bertanya-tanya, “Siapakah sebenarnya engkau Wahai Uwais Al Qarni? Bukankah Uwais yang kita kenal, hanyalah seorang fakir, yang tak memiliki apa-apa, yang kerjanya sehari-hari hanyalah sebagai pengembala domba dan unta? Tapi, ketika hari wafatnya, engkau menggemparkan penduduk Yaman dengan hadirnya manusia-manusia asing yang tidak pernah kami kenal.mereka datang dalam jumlah sedemikian banyaknya. Agaknya mereka adalah para malaikat yang diturunkan ke bumi, hanya untuk mengurus jenazah dan pemakamannya.”
Berita meninggalnya Uwais Al Qarni dan keanehan-keanehan yang terjadi ketika wafatnya telah tersebar kemana-mana. Baru saat itulah penduduk Yaman mengetahuinya, siapa sebenarnya Uwais Al Qarni. Selama ini tidak ada orang yang mengetahui siapa sebenarnya Uwais Al Qarni disebabkan permintaan Uwais Al Qarni sendiri kepada Khalifah Umar dan Ali bin Abi Thalib agar merahasiakan tentang dia.
Barulah di hari wafatnya mereka mendengar sebagaimana yang telah di sabdakan oleh Nabi, bahwa Uwais Al Qarni adalah penghuni langit.
Begitulah Uwais Al Qarni, sosok yang sangat berbakti kepada orang tua, dan itu sesuai dengan sabda Rasulullah ketika beliau ditanya tentang peranan kedua orang tua. Beliau menjawab, “Mereka adalah (yang menyebabkan) surgamu atau nerakamu.” (HR Ibnu Majah)
