次日，秦国的大臣们打听到赵高把二世转移到了甘泉宫，都恨不得将赵高剥皮抽筋，他们就在李斯的带领下又来到甘泉宫。二世听说大臣们又找上门来了，还堵在宫门口不走，就只好接见了他们。
可想而知，此时大臣们心中是多么的愤怒，他们见到皇帝后就一齐声讨赵高。李斯道：“陛下，我听说臣下和君主平等了，没有不危害国家的；侍妾同丈夫平等了，没有不危害家庭的。现在赵高在陛下身边独揽大权，一手遮天，处理事情竟然和您的权利一样，这就太危险了啊！我忽然想起：从前宋国的司城子罕当丞相的时候，他用施舍的方法得到了民心，一年后就篡位夺权；齐国的田恒，他收敛的钱财竟然和齐国公室的一样多，简公赐给他的爵位更是无人能比，后来果然行惠施恩，收取人心。等到大权在握，就杀了同僚阚止，然后杀了齐简公夺权，这是众所周知的事情啊！现在赵高有邪淫的思想和不轨的行为，且恶名在外，劣迹斑斑：臣听说他收敛的钱财早就超过田恒好几倍，也有子罕的叛逆兆头。陛下此时若不明察秋毫，除掉此贼，恐怕他真的要仿效韩玘对待韩王安的事情了？”
二世却咂嘴道：“哟哟哟，李丞相怎么能如此说？赵大人原本就很廉洁自律，还助人为乐，因此才得到提拔重用。后来只因他受了宫刑，才行使宦官的权利侍奉在朕的身边，他却不因为安逸而随心所欲，也不因为危险而改变初衷，每次都是因为忠诚和才智才享有这么高的爵位。朕确实认为他是一位贤良之士，而你却怀疑他有异心，这是为什么呢？你们这些将相都已经老了，朕还年轻，先帝逝世的又早，朕不把国事托付给他还指望谁？况且我本来就知道赵高贤明能干，又忠诚耿直，不是他替朕谋划，朕岂能登上帝位？自从他佐政以来，就能了解民情众意，又能附合朕的心意，这是多么的难能可贵！这样的人也真是万里挑一，可你们都说他的坏话，这简直是岂有此理？”冯劫听了二世的这番话，就大感意外道：“陛下，臣等虽然老了，但赵高属易牙、竖刁、开方之辈，您把权利交给他，国家岂能无祸？”冯去疾也道：“是的，陛下应该趁他狼子野心还没有完全暴露，罢免此贼，这不光是满朝武的心愿，也是全天下百姓的心愿，请陛下三思啊！”李斯也赶紧道：“二位大人言之有理，赵高包藏祸心，其谋逆之心确昭然若揭，请陛下纳臣等之谏，立即传来赵高，诛杀此贼。臣等虽无管仲之才，但也有管仲之心啊！”
二世就睁大了眼睛，不可思议地道：“你们真是头脑发昏啊，怎么连朕的话都听不进去？今天朕不治你们的胡言之罪，快快出去吧！”说完就甩袖走进了后堂，再也不想见到大臣们了。李斯见此便捶胸大叫道：“今天不杀国贼，秦国的大祸就不远啦！陛下！陛下！……”可是二世早就走远了。李斯无奈，只好和大臣们走出来，他哭丧着脸，绝望地看着天空。恰好一阵秋风夹杂着落叶袭来，李斯感到透骨的凉意，他似乎看到天上那位冤死的扶苏正对着他说‘你不是与赵高合谋来害我吗？现在才知道与虎谋皮、助纣为虐的下场了？恐怕你的好日子快要到头了？’李斯突然放声大笑……
二世回到后宫，不等赵高说话，就把李斯等人的话全部抖落出来。赵高心中大怒，就假装可怜兮兮地跪在地上道：“陛下，丞相所顾忌的就是我赵高一人啊！我死之后，他就真的要串通楚人，要行子罕、田恒之事了。我为了您即位却得罪了所有的人，今天就是死了，又有什么遗憾？”说罢就呜呜地哭了起来。二世大笑道：“老师不必忧虑，朕怎么会让你死呢？”赵高道：“陛下虽然怜惜臣的性命，可是李斯他们还会合伙害我呀！”二世突然哼了一声，道：“他们说了不算，他李斯也不要拿丞相来吓唬朕！”赵高见二世处处替他着想，便大胆道：“臣的安危不要紧，臣只是担心荆珂的事情还会发生啊！”这句话提醒了二世，二世就惊恐道：“老师是说他们要行刺朕？”赵高点头道：“怎么不会？您想先帝是多么的威武，尚且多次遇到不测，何况陛下！”二世就道：“如此说来，朕该怎么办？”赵高不假思索道：“只有加强您的卫队，奸人就不会靠近您，才可高枕无忧。”二世就火急火燎道：“好好好，你先安排歌舞，然后再去装备卫队。”赵高心中大喜，便对着另外的一位宦官高声道：“歌舞准备，表演开始喽！”一会儿，整个宫室的大堂上就响起了欢愉的音乐，紧接着从屏风后面就飘出了一排排仙女似的佳丽靓娥，然后翩翩起舞。赵高看着她们，奸笑着离去。
接下来的几天时间里，赵高就装备皇帝的卫队，并且安排亲信担任了领队，目的就是想完全控制二世。
李斯听说了这件事，心中惊慌失措，就赶紧来和右相、老将军商议。冯劫道：“如果这次赵高的阴谋得逞，我们见皇帝就更难了，一定要阻止他。”李斯就再次召集百官，然后率领他们来到甘泉宫请求觐见二世。二世听说李斯又来了，扫兴极了，就让虎贲卫士守好大门。冯去疾等人只好强行闯宫，逼着二世上朝。大家折腾了老半天，二世终于不胜其烦，就再次召见了大家。可是他一见到大臣，就愤怒地训斥道：“你们这是想逼宫吗？”冯去疾解释道：“怎么会啊陛下？臣等听说您让赵高组建了卫队，今后赵高就会控制了您啊！此贼狼子野心，反心已是昭然若揭，请陛下明察，千万不要让奸贼的阴谋得逞啊!”二世就大怒道：“现在关东盗贼四起，天下动荡不安，你们不想办法去抓贼，却整天和朕的近臣过不去，这是什么道理？赵高不过是一个内侍，他按照朕的心意去办事，碍着你们什么事了，竟然三番五次地说他的坏话？”
冯去疾不甘示弱，挺身而出道：“陛下，关东的不是盗贼，是乱军啊！他们都是不服我大秦统治的六国英豪，他们造反就是要灭我大秦国！现在我国出兵讨伐，已经斩杀了很多叛军，可是依然无法平息叛乱，这是为什么？”二世就问为什么。冯去疾道：“就是因为秦国屯戍边地、水路运载、陆路转输和土木工程的兴作太多太苦，赋税太繁太重的缘故啊！只要陛下能效仿古代的仁君圣王，暂时停止阿旁宫的兴建，再减少南北屯戍及运输的人员，这样百姓就能得到很好的休息，百姓的日子过好了，还有谁提着脑袋造反啊？请陛下明察！”冯劫也道：“是的陛下，冯丞相说的很对，现在都是因为国家服役的人员太多，百姓的负担太重，才造成了今日的局面。”
二世就立即接话茬道：“既然是这个原因，和赵高有什么关系？你们口口声声非要朕法办他？朕也读过韩非的，他说尧和舜以前住的都是茅草屋，餐具是土制的，饮具是瓦制的，生活非常简朴，就是现在看门的小官官子也比他过的好。还有那个大禹王，他治理水患时亲自拿着铲锹和镐头，整天泡在水里，腿毛都泡没了，辛苦的程度就是现在的奴仆也没有尝试过，就这样的君王也没有听说他能将王位传到现在，所以朕就应该随心所欲的享乐。现在秦国已经全面执行了督责之术，用法律来维护国家的统治，看谁敢乱来？这一套政策不正是秦国长治久安的好政策吗？况且用法家的理念治理国家已经十几年了，国家稳续发展，处处呈现出繁荣的景象。建成阿房宫是先帝的意愿，朕怎么能停止这项伟大的工程？所以朕也根本用不着效仿那些上古的帝王而委屈自己顺从百姓的意愿。朕贵为万乘之尊，就要享万乘之实，不然何以威加天下？装备朕的卫队就是为了防止奸人的侵袭，你们有什么大惊小怪的？想想先帝那么厉害，都有人行刺，何况是朕的这尕身体？现在秦国虽然大定，可是奸人什么时候都是存在的，国家在外派出军队守好四夷的同时，在内就应该有一支强大的卫队来保护朕。兴修阿房宫就是要显示秦国的强大，朝廷有一支军队也能显示朕的威严，你们却如此不明事理，真是上无以报答先帝，下不能替朕分忧，哪还有资格处在高位？”
冯去疾听到这番指责，就痛不欲生地道：“陛下，臣等不是贪恋富贵，实在是为江山社稷着想：秦国自从孝公变法以来就雄踞在西方，孝公薨后，惠王、武王都依照先王的伟大计划，向东方用兵，诸侯就疲惫不堪。先帝更是继承了诸先王的余威，才发起了统一天下的伟大战争，十年之间就荡平六合，登上了帝位，这是多么的显赫！可是国祚才传了十余年，我们伟大的秦国就面临如此严峻的挑战，老臣真是痛彻心肺啊！忠言逆耳利于行，今天我们向陛下尽的可全是忠言呐，您务必要纳臣忠言！”二世道：“说了半天，你还是要逼朕……”冯去疾道：“今天，陛下要么停止赵高装备卫队，要么停止修建阿房宫，二者若不纳取一谏，臣……就死在阙下！”说罢就以头撞地，痛哭不止。二世见此情景，火冒三丈，怒斥道：“你想造反吗？快快把这老怂给朕拿下！”持戟卫士就上前把冯相抓了起来。冯劫和李斯一看，也拼死力谏，便异口同声道：“陛下，今日不听臣等之谏，你就是夏、桀之君！夏、桀之君啊！”二世见他俩把自己比作是古代最著名的那两个君王，就愤怒地吩咐卫士，把二人也一齐抓起来，然后丢进了大牢。