Shuhaib ra. memeluk Islam bersamaan dengan Ammar ra. Pada masa itu, Nabi saw. sering berada di tempat Arqam. Kedua orang ini menemui Rasulullah saw. secara bergantian. Kebetulan mereka bertemu di pintu rumah Arqam. Keduanya saling mengetahui maksud kedatangan masing-masing, yaitu untuk memeluk Islam dan berusaha mengambil manfaat dari kehidupan Nabi saw.
Setelah ia masuk Islam, dalam keadaan jamaah muslim yang masih sangat sedikit dan lemah, ia telah berani menunjukkan ke Islamannya kepada umum. Akibatnya, ia disiksa dan banyak menderita, sehingga ia berniat untuk berhijrah. Namun kaum kafir Quraisy sangat tidak setuju jika ia hijrah dan hidup dengan tenteram.
Jika orang-orang kafir itu mendengar ada orang yang mau berhijrah, maka mereka akan berusaha menangkapnya agar tidak dapat lolos dari gangguan mereka. Rencana Shuhaib ra. pun telah diketahui oleh orang kafir Quraisy. Mereka mengirim satu rombongan untuk menangkapnya. Dan Shuhaib ra. membawa panah yang ia sembunyikan. Ia berkata kepada kaum kafir Quraisy itu. "Dengarkanlah! kalian telah mengetahui bahwa aku ada pemanah yang paling mahir diantara kalian. Selama masih tersisa anak panah padaku, kalian tidak dapat mendekatiku, dan tidak akan bisa menangkapku. Jika panah-panah ini habis, aku akan menggunakan pedangku untuk melawan kalian. Dan pedang ini selalu berada di tanganku, sehingga kalian tidak dapat berbuat apapun. Jika kalian mau, sebagai ganti jiwaku, aku akan memberi tahu kalian tempat kekayaanku di Mekkah, dan kalian boleh ambil kedua budah perempuanku." Kaum kuffar menyetujui usul itu. Maka, ia serahkan seluruh kekayaannya kepada mereka. Dan atas kejadian ini, turunlah ayat Al-Qur'an yang artinya :
"Dan diantara manusia ada yang menjual dirinya karena hendak mendari keridhaan Allah. Dan Allah amat Penyayang kepada hamba-hamba-Nya." (Al-Baqarah : 207)
Ketika itu, Nabi saw. sedang berada di Quba. Ketika melihat kedatangan Shuhaib ra., beliau bersabda, "Perniagaan yang sangat menguntungkan, ya Shuhaib." Shuhaib ra. bercerita, "Suatu ketika Rasulullah saw. sedang memakan kurma, dan aku menyertai beliau makan. Ketika itu salah satu mataku sedang sakit, lalu Nabi saw, bersabda, "Hai Shuhaib, matamu sedang sakit tetapi kamu masih memakan kurma."Jawabku, Ya Rasulullah saw., aku makan dengan sebelah mataku yang sehat ini." Mendengar jawabanku itu, Rasulullah saw. tertawa.
Shuhaib ra. adalah orang suka berkorban, sehingga Umar ra. pernah berkata, "Kamu telah berlebih-lebihan, yang Shuhaib!" Jawab Shuhaib, "Saya tidak menggunakannya untuk hal yang sia-sia."Ketika Umar ra. hampir mendekati ajalnya, berliau berwasiat agar Shuhaiblah yang mengimami shalat jenazahnya.