作为陈桥兵变的重要策划者，赵普还促使黄袍加身的宋太祖赵匡胤导演了一场古今权术家叫绝的“杯酒释兵权”的悲喜剧。不凡的谋士遇见了不凡的皇帝，有功于社稷的赵普顺理成章地当上了一人之下万人之上的宰相，并且一干就是十年。有功的武将们虽然都回家了，地位虽然更加煊赫了，善造阴谋的老谋士、胥吏出身的赵普在太祖高举的兴儒大旗下，烦恼反而更多了，遭遇的尴尬事也愈来愈稠了。

据文莹《玉壶清话》载，一天，太祖心血来潮，随意向各位大臣问道：男尊女卑，为何男子行跪礼，女子却不跪?赵普支吾半天，答不上来。倒是前朝旧相王溥的儿子王贻孙告诉太祖，过去男女都行跪礼，到武则天当皇帝后，抬高了女子身份，女子方不再拜而不跪了。弄的赵普很下不了台。赵匡胤虽是一介武夫，却深知武力可以平天下不可以治天下的道理，所以很喜欢读书人，也重用读书人。《宋史·范质传》里记载，太祖曾对一生手不释卷、廉介自持的太子太傅范质发出“真宰相”的感叹。对读书不是很多的赵普就时不时提出了尖锐的批评。

《长编》里就记载了让赵普非常伤心的一件事，改年号乾德不久，太祖在宫中看到一面铜镜，背刻“乾德四年铸”五字，大惊，就询问赵普，赵普端详半天，不知所以然。只好又把前朝翰林学士请来，窦仪看后说此镜为后蜀所铸，当时用过这个年号。太祖立即就说出了“宰相须用读书人”的话，让赵普羞愧的无地自容。

叶梦得《石林燕语》里也记载了这件事，不过赵宰相的表现更加丢人现眼。这日太祖想改年号为乾德，赵普听后，连声赞美，说是前古未有，直吹地天花乱坠。翰林学士卢多逊站出来冷言道，这号伪蜀时曾经用过。太祖一惊，忙派史官去查，果如其言。大凡拟定年号，绝不可与前代相同。太祖感觉下不了台，十分气愤，就拿赵普出气，用墨笔点画赵普的脸骂他不争气。赵普很沮丧的回了家，因为是天子圣笔，不敢洗掉，次日上朝时仍是大花脸。太祖又生气又好笑，方下旨让他洗去。

失落的赵普并没有因此消沉下去，知道了读书的重要性的赵普还是坐稳了宰相的位置。《鹤林玉露》、《东京事略》等都的有关于日理万机的赵宰相每天下朝后就把自己关在屋子里学习先秦圣哲语录的生动记载，他把前朝君主、本朝功臣的业绩都归结为孔夫子的教诲，故有“半部《论语》定天下，半部《论语》治天下”之说流传。《宋史》记载：“(赵普)晚年手不释卷，每归私第，阖户启箧取书，读之竟日，及次日临政，处决如流。即薨，家人发箧视之，则《论语》二十篇也。”这些已是南宋及后人所言，当是在“半部《论语》”之说流传之后的杜撰，不可全信。但赵普知道自己的不足就努力通过学习去弥补的精神还是很值得称道的。