着他的马喊万岁，寇准的死对头张逊知道后，告知宋太宗，太宗知道后又一次非常生气，张逊更足添油加醋，最后寇准再被降级，赶到青州任知府。寇准离开后，宋太宗非常又想念他，于是第二年，把他召回京，任命为参知政事(二品)。
宋太宗去世，宋真宗即位后，辽军前后两次南下侵略北宋。边境告急，说辽军又要大规模入侵了，这时宋真宗听取参知政事毕士安的意见，任寇准为宰相。
同年九月，辽军率领20万大军向南进攻，这时奸臣王钦若提出迁都，建议逃跑。寇准却说，提出迁都的人可以杀头，于是王钦若对他恨之入骨。
后来寇准建议，让真宗御驾亲征，真宗胆怯。十月份辽兵攻下祁州，继续向南，怯弱的宋真宗在寇准的劝导下终于愿意御驾亲征，只是宋真宗在亲征途中屡次打退堂鼓，但寇准坚持让真宗亲征。
宋真宗本来没有抗敌的决心，于是便与辽军进行谈判，辽军要求宋方归还被大宋占领的“关南之地”，宋方不答应，愿意给辽军一些经济补偿，谈判在两军对抗中进行，最终按照宋方的条件达成协议。于是宋真宗就派曹利用去和辽军谈判银绢的数量，宋真宗对曹利用说：“万不得已，一百万也可以”，寇准私底下对曹利用说，“如果银绢超过30万，就不要回来了”。结果谈判结束，宋朝每年给辽银10万两、绢20万匹，这就是历史上著名的“澶渊之盟”。
澶渊之盟后，辽国不再发动战争，寇准对北宋恩重如山，但是有功之臣却没有好的下场。
宋真宗御驾亲征回宫后，王钦若就开始策划扳倒寇准，他说：“《澶渊之盟》，其实就是城下之盟，陛下怎么会觉得寇准有功，不觉得这是耻辱吗?”，真宗听了又开始不舒服，便开始对寇准冷淡起来。
在奸臣王钦若多次的攻击下，寇准又被降级，贬到陕州去做知州。
宋真宗晚年卧病不起，对王钦若与丁谓这帮善于拍马屁的人言听计从，但丁谓却想拉拢寇凖为己用，于是向真宗请求寇准回朝为相，寇准的弟子识破丁谓的阴谋，劝他不要去，但是他不听再次入京。
入京后丁谓开始拉拢寇准为同党，一次宴会上，丁谓为他擦沾了些菜汤的胡子，被寇准当场训斥，于是丁谓恼羞成怒，发誓也要报仇。
宋真宗生病后，由刘皇后掌管朝中之事，刘皇后什么事都问丁谓。于是寇准、王旦、向敏上奏真宗，反对刘皇后干政，丁谓专权，要求太子监国，并与杨亿一起辅政太子，得到真宗的批准。