到了第二年，也就是后周显德三年(956年)，为了争夺淮南江北地区，赵匡胤率领大军与南唐守军在滁州打了一场恶仗。由于得到了赵普的帮助，赵匡胤大获全胜，为他日后的帝业打下了必要的基础。当时的宰相范质奏请任命赵普为军事判官。后来，赵匡胤的父亲赵弘殷在滁州养病，赵普朝夕侍奉药饵，照顾得无微不至。于是，赵弘殷也以宗族的情分来对待他。看得出来，赵普这个人不仅是一个好人，还是一个好官，这也算老天赐予赵匡胤的一份厚礼吧。
淮南平定后，赵普被调遣渭州，补任军事判官一职。而赵匡胤在领任同州节度使时，征召他为推官；赵匡胤移驻宋州后，又上书朝廷任他为掌书记。就这样，赵普成为了赵匡胤的心腹，如影随形地追随他建功立业。
后周显德七年（960年），赵匡胤通过“陈桥兵变”夺取了后周的政权，建立了大宋王朝，因赵普辅佐有功，任命他为谏议大夫，并充当枢密直学士。北宋乾德二年(964年)，赵匡胤部署中枢与地方政权既定，他觉得时机已经成熟，就尽罢留用后周的范质、王溥、魏仁甫三相，任命赵普为门下侍郎、平章事、集贤殿大学士。
在官拜宰相的时候，还有一段趣闻，当时有说中书省没有宰相签署敕令，很快这件事情让赵普知道了，于是他就以此事为由，上奏赵匡胤。赵匡胤告诉他说：“你只管呈进敕令，我可以为你签署。”赵普立即回答说：“这不是皇帝该做的事。”听完这句话，赵匡胤立即下令把签署权赐给赵普。赵普任职宰相后，赵匡胤便视他为左右手，无论大事小情，都要向他咨询以后再做决断。赵匡胤之所以如此重用宰相赵普，就是希望赵普能够运用自己的智慧，来帮助他解决经济上的内忧与国防上的外患等问题。