دومين خليفه ي عباسي كه قبر او را ويران كرد، هارون الرشيد بود كه درخت سدره را قطع كرد و قبر را ويران نمود و مسجد را خراب كرد، در سال 170 حكومتش نقض عهد نمود و تا سال 187 خراب بود.