皇甫绩是隋朝有名的大臣。他三岁的时候父亲就去世了。母亲一个人难以维持生计，就带着他回到了娘家住。外公见皇甫绩聪明伶俐，又没了父亲，怪可怜的，因此格外疼爱他。
外公叫韦孝宽。韦家是当地有名的大户人家。由于上学的孩子多，韦家就办了个自家学堂，当时叫私塾。皇甫绩就和表兄弟一起，都在自家的学堂里上学。
外公是个很严厉的老人，尤其对孙辈们的管教更是严厉。在私塾刚开学的时候，外公就立下规矩：谁要是无故不完成作业，就按照家法重打20大板。
有一天上午，上完课后，皇甫绩就和几个表兄躲在了一座已经废弃的小屋子里下棋。不知不觉就到了下午上课的时间，这时大家才想起还没完成老师上午留下的作业。
第二天，这件事被外公知道了。他把几个孙子叫到书房里，狠狠地训斥了一顿。然后按照规矩，每人重打20大板外公见皇甫绩年龄最小，平时又很乖巧，再加上没有爸爸，就没忍心打他。但是，却把他叫到一边，慈祥地对他说：“你还小，这次我就不罚你了。不过，以后可不能再犯这样的错误了……”
皇甫绩和表兄们相处得很好，看到表兄们都被重重地打了20大板，自己却没有受到一点处罚，心里很难过。他想：我和哥哥们犯了一样的错误，外公没有责罚我，这是心疼我。但是，我自己可不能原谅自己，也应该按照私塾的规矩，被重打20大板。
于是，他就找到表兄们，要求他们代外公责打自己20大板。表兄们一听，都“扑哧”一声笑了。皇甫绩一本正经地说：“这是私塾里的规矩，我们都向外公保证过：触犯规矩甘愿受罚。你们都按规矩受罚了，我也不能例外。”表兄们都被皇甫绩这种诚心改过的精神感动了，于是，就拿出戒尺打了皇甫绩20大板。
后来，皇甫绩在朝廷里做了大官，但这种从小养成的信守诺言、勇于承认错误的品德却一直没丢，这使得他在文武百官中享有很高的声望。