次日，秦国的大臣们打听到赵高把二世转移到了甘泉宫，都恨不得将赵高剥皮抽筋，他们就在李斯的带领下又来到甘泉宫。二世听说大臣们又找上门来了，还堵在宫门口不走，就只好接见了他们。
可想而知，此时大臣们心中是多么的愤怒，他们见到皇帝后就一齐声讨赵高。李斯道：“陛下，我听说臣下和君主平等了，没有不危害国家的；侍妾同丈夫平等了，没有不危害家庭的。现在赵高在陛下身边独揽大权，一手遮天，处理事情竟然和您的权利一样，这就太危险了啊！我忽然想起：从前宋国的司城子罕当丞相的时候，他用施舍的方法得到了民心，一年后就篡位夺权；齐国的田恒，他收敛的钱财竟然和齐国公室的一样多，简公赐给他的爵位更是无人能比，后来果然行惠施恩，收取人心。等到大权在握，就杀了同僚阚止，然后杀了齐简公夺权，这是众所周知的事情啊！现在赵高有邪淫的思想和不轨的行为，且恶名在外，劣迹斑斑：臣听说他收敛的钱财早就超过田恒好几倍，也有子罕的叛逆兆头。陛下此时若不明察秋毫，除掉此贼，恐怕他真的要仿效韩玘对待韩王安的事情了？”
二世却咂嘴道：“哟哟哟，李丞相怎么能如此说？赵大人原本就很廉洁自律，还助人为乐，因此才得到提拔重用。后来只因他受了宫刑，才行使宦官的权利侍奉在朕的身边，他却不因为安逸而随心所欲，也不因为危险而改变初衷，每次都是因为忠诚和才智才享有这么高的爵位。朕确实认为他是一位贤良之士，而你却怀疑他有异心，这是为什么呢？你们这些将相都已经老了，朕还年轻，先帝逝世的又早，朕不把国事托付给他还指望谁？况且我本来就知道赵高贤明能干，又忠诚耿直，不是他替朕谋划，朕岂能登上帝位？自从他佐政以来，就能了解民情众意，又能附合朕的心意，这是多么的难能可贵！这样的人也真是万里挑一，可你们都说他的坏话，这简直是岂有此理？”冯劫听了二世的这番话，就大感意外道：“陛下，臣等虽然老了，但赵高属易牙、竖刁、开方之辈，您把权利交给他，国家岂能无祸？”冯去疾也道：“是的，陛下应该趁他狼子野心还没有完全暴露，罢免此贼，这不光是满朝文武的心愿，也是全天下百姓的心愿，请陛下三思啊！”李斯也赶紧道：“二位大人言之有理，赵高包藏祸心，其谋逆之心确昭然若揭，请陛下纳臣等之谏，立即传来赵高，诛杀此贼。臣等虽无管仲之才，但也有管仲之心啊！”
二世就睁大了眼睛，不可思议地道：“你们真是头脑发昏啊，怎么连朕的话都听不进去？今天