一次，遼圣宗到云中(今山西大同市)游獵，按照當時的慣例，皇上車駕所到之處，地方官員都應當送些禮物。云中節(jié)度使迎接圣宗時卻兩手空空。他對圣宗說：“臣境內(nèi)沒有其他特產(chǎn)，只有幕僚張儉，為一代之寶，愿以為獻。”于是圣宗召見了張儉，見他雖然質(zhì)樸無華，但是詢問他政務，他竟能一口氣上奏三十余事，圣宗大喜，不斷對其提拔重用，官至右丞相兼政事令。圣宗死時，又令張儉為輔政大臣，輔佐興宗耶律宗真。

張儉雖然位極人臣，但他卻不尚奢侈，生活極為清苦。他平時吃的都是粗茶淡飯，穿的也都是破衣爛衫，每月的俸祿有了節(jié)余，就贈給親朋和窮苦的百姓。有一年冬天，張儉在便殿中奏事，興宗帝見其棉袍非常破舊，就偷偷地讓近侍在袍子上用火燒了一個小洞作記號，看他是不是總穿一件袍子。經(jīng)過多次觀察，也從沒見他換過，興宗感到很奇怪，便問他為什么不換袍子。張儉說：“臣這件棉袍已穿了三十年了。”興宗見他清貧，就讓他到宮中府庫中隨意取些東西，張儉不敢違背皇上的詔諭，就從庫中取了三塊布拿回家去，其余東西一概不取。

有一年宋朝派使者給興宗送了一封國書，上面的言詞寫得很沒禮貌，興宗大怒，想親征宋國。當時張儉已因年老退休在家，興宗就專程到他家里去征求他的意見。興宗知道他清貧，臨去前還特意將較好一點的飯菜送到他家里去。張儉則退卻不受，只用家常飯菜招待興宗。興宗吃慣了山珍海味，這頓百姓飯食居然也吃得津津有味。