ذهبي در تاريخ الاسلام مي نويسد: مردم مدينه پيرامون عبدالله بن حنظله گرد آمدند و با او پيمان بستند كه تا پاي مرگ از او اطاعت كنند. عبدالله خطاب به ايشان گفت:

اي مردم! از خدا بترسيد. ما عليه يزيد خروج نكرديم، مگر اينكه از آن بيم داشتيم كه از آسمان سنگ بر سر ما ببارد اين مرد به كنيزان صاحب فرزند از پدرش تجاوز مي كند و با دختران و خواهرهاي خود همبستر مي شود. شراب مي خورد و نماز نمي خواند. [1] .

يعقوبي نيز در تاريخ خود مي نويسد:

ابن مينا، مأمور خالصه جات معاويه، به نزد عثمان بن محمد، كه از جانب يزيد فرماندار مدينه شده بود، و به او خبر داد هنگامي كه مي خواسته گندم و خرمايي را كه همه ساله از آن خالصه جات به دست مي آمده به شام بارگيري كند، مردم مدينه مانع كار او شده اند. عثمان به دنبال گروهي از ايشان فرستاد و چون حاضر شدند، با ايشان به درشتي سخن گفت! آنها نيز عليه او و هر كس از بني اميه كه در مدينه بود شوريدند و سرانجام ايشان را از مدينه بيرون كرده، از پشت سر نيز سنگ بارانشان نمودند. [2] .

در اغاني آمده است كه عبدالله زبير در مقام خلع يزيد برآمد و مردم بسياري نيز به پشتيباني او برخاستند. عبدالله بن مطيع و عبدالله بن حنظله و گروهي از مردم مدينه به مكه وارد شده، در مسجدالحرام به حضور فرزند زبير رسيدند و همان جا بر فراز منبر خلع يزيد را اعلان كردند.

عبدالله بن ابي عمرو بن حفص بن مغيره مخزومي خلع يزيد را چنين اعلام كرد: همان گونه كه من عمامه از سر بر مي گيرم، يزيد را از خلافت خلع مي كنم. اين بگفت و عمامه از سر برگرفت. آنگاه ادامه داد: اين را مي گويد، در حالي كه شخص يزيد به من رسيدگي كرده و جايزه اي نيكو به من ارزاني داشته است. آري اين مرد دشمن خداست و همواره مست و خمار شراب است!

ديگري گفت: من يزيد را از خلافت خلع مي كنم، همان طور كه كفشم را از پاي در مي آورم.

ديگري گفت: من او را خلع مي كنم، همان گونه كه لباس از تن بيرون مي كنم. و ديگري گفت:... تا آنكه عمامه و لباس و كفش و موزه هاي رنگارنگ در مسجد انباشته شد، و به اين ترتيب بيزاري خود را از يزيد آشكار كرده، در خلع او همداستان شدند.

اما عبدالله بن عمر، و محمد بن علي بن ابي طالب از هماهنگي با ايشان امتناع ورزيدند. در نتيجه بين حنفيه مخصوصا با اصحاب و ياران ابن زبير در مدينه گفتگو و سخنان بسياري رد و بدل شد، تا جايي كه خواستند وي را به خواسته خود مجبور كنند كه ناگزير از مدينه بيرون شد و به مكه روي آورد. و اين نخستين برخورد سخت و ناگواري بود كه بين او و فرزند زبير اتفاق افتاده است.

سپس اهالي مدينه تصميم گرفتند كه افراد بني اميه را از مدينه بيرون كنند. پس از ايشان پيمان گرفتند كه پس از خروج از مدينه، هيچ سپاهي را عليه مردم مدينه ياري ندهند، بلكه آنها را برگردانند و اگر نتوانستند، با ايشان همراه نشده و به مدينه بازگردند.