Suatu hari, Abu Yazid sedang jalan-jalan di satu lorong.

Tiba-tiba ekor anjing

menghampirinya. Oleh kerana takut pakaiannya tersentuh kulit anjing itu, maka
Abu Yazid menarik pakaiannya ke atas.
Tiba-tiba anjing itu bersuara seperti suara manusia, "Kalau kulit aku kering,
terkena kulitku, tuan tidak perlu mencuci pakaian tuan, tapi kalaulah kulit aku
basah, tuan boleh menyamak pakaian tuan itu. Tetapi sifat benci yang ada di
dalam diri tuan itu tidak boleh dicuci hatta dengan tujuh batang sungai
sekalipun. Dosa batin itu payah untuk dicuci."
Abu Yazid berkata, "Wahai anjing,kamu ini sangat bijak. Marilah tinggal dengan
aku seketika."
"Tidak, kita berdua tidak boleh tinggal bersama kerana aku ini dihina manusia
sedangkan tuan dipuji oleh dunia.Tambahan pula aku tidak menyimpan makanan
untuk esok, sedangkan tuan menyimpan makanan untuk setahun," jawab anjing
itu.
Mendengarkan kata-kata anjing Abu Yazid berbisik sendirian: " Kalaulah
dengan seekor anjing pun tidak sudi bersamaku, apakah aku layak
untuk menghampiri Tuhan dan duduk di `majlis-Nya'? Puji-pujian bagi
Tuhan yang menghinakan diriku dan mengajar manusia melalui pekaraperkara yang kecil."