ابو ذر به دنبال شترش فرستاد و زنش (و برخى گفته اند : دخترش) را بر آن ، سوار كرد .
عثمان ، فرمان داد كه مردم ، گِرد او را خالى كنند تا به ربذه برود و مروان ، او را روانه مى كرد .
چون از مدينه بيرون رفت ، على بن ابى طالب عليه السلام به همراه پسرانش (حسن و حسين عليهماالسلام) و برادرش عقيل و عبد اللّه بن جعفر و عمّار بن ياسر به بدرقه آمدند .
مروان ، اعتراض كرد و گفت : اى على! امير مؤمنان(عثمان) ، مردم را از اين كه با ابو ذر در مسيرش همراه شوند و به بدرقه اش بيايند ، نهى كرده است . اگر اين را نمى دانستى ، آگاهت كردم .
على عليه السلام با تازيانه به او حمله برد و بر ميان دو گوش مركبش زد و فرمود : «دور شو! خداوند ، تو را به آتش بيندازد!» و با ابو ذر ، روانه شد و او را بدرقه كرد و سپس با او وداع نمود و باز گشت .
چون على عليه السلام خواست باز گردد ، ابو ذر گريست و گفت: خداوند، شما اهل بيت را رحمت كناد! اى ابو الحسن! هر گاه تو و فرزندانت را مى بينم ، به ياد پيامبر خدا مى افتم .
مروان از كار على بن ابى طالب عليه السلام به عثمان شكايت كرد.
عثمان گفت : اى مسلمانان! من با على چه كنم؟ فرستاده ام را از كارى كه براى آن فرستاده بودم ، باز گردانده و اين گونه كرده است . به خدا سوگند ، حقّش را كف دستش مى گذاريم! چون على عليه السلام باز گشت ، مردم به استقبال او آمدند و به او گفتند : امير مؤمنان(عثمان) از تو به خاطر اين كه ابو ذر را بدرقه كردى ، خشمگين است .
على عليه السلام فرمود : «خشم اسب از لگام است !» .
چون شب شد، [ على عليه السلام ]نزد عثمان آمد. عثمان به وى گفت : چه چيزْ تو را وا داشت كه با مروان ، اين گونه كنى و چرا بر من گستاخى كردى و فرستاده و فرمانم را

ابو ذر ، عصاى خود را بلند كرد و با آن بر سر كعب زد و در حالى كه درد خويش را از ياد برده بود ، گفت : اى يهودى زاده! درباره مردى كه مرده و اين مال را بر جاى نهاده است ، مى گويى : خداوند ، خير دنيا و آخرت را به او عطا كرده است. اين را به طور قطعى به خدا نسبت مى دهى، در حالى كه من شنيدم كه پيامبر صلى الله عليه و آله مى گويد : «خوشحال نمى شوم كه بميرم و به اندازه قيراطى بر جاى نهم» .
عثمان به ابو ذر گفت : از جلوى چشمم دور شو .
ابو ذر گفت : به مكّه بروم؟
گفت : به خدا سوگند ، نه .
گفت : مرا از خانه پروردگارم باز مى دارى كه در آن عبادت كنم تا بميرم؟
گفت : آرى ، به خدا سوگند .
گفت : به سوى شام [ بروم]؟
گفت : نه ، به خدا سوگند .
گفت : بصره؟
گفت : نه ، به خدا سوگند . شهر ديگرى انتخاب كن .
ابو ذر گفت: نه، به خدا سوگند. جز آنچه برايت گفتم، جاى ديگرى را اختيار نمى كنم و اگر مرا در هجرتگاهم (مدينه) وا مى نهادى ، هيچ شهر ديگرى را نمى خواستم . اكنون مرا به هر شهرى كه مى خواهى ، بفرست .
گفت : تو را به رَبَذه تبعيد مى كنم .
گفت : اللّه اكبر! پيامبر خدا راست گفت . او همه آنچه را با آن رو به رو مى شوم ، به من خبر داد .
عثمان گفت : [ پيامبر صلى الله عليه و آله ] به تو چه گفته است؟
گفت : به من خبر داد كه من را از مكّه و مدينه باز مى دارند و در ربذه مى ميرم و گروهى كه از عراق به حجاز مى آيند ، دفن مرا عهده دار مى شوند .