光绪十五年，在皇帝亲自主持的殿试中，张建勋所作的策论《民以食为天》震撼了阅卷大臣。张建勋广泛吸纳了历代政治家及有识之士的观念及思想，高屋建瓴，从治国安邦的高度去谈吃饭问题，认为为政之道在于安民，安民之要在于察其疾苦。《民以食为天》开宗明义：“臣闻食者，民之天也。而用以经之，武以卫之，蚕绩以辅之，凡以体之元光鸿化之。”对当时沉闷的政治空气起到了振聋发聩的作用。阅卷大臣翁同龢与李鸿藻各执己见，都想将自己赏识的文章列为第一呈送皇帝。由于相持不下，他们只好协商再选，最终张建勋的文章得以入选，以第一名呈给皇帝。时年光绪皇帝才满18岁，刚刚亲政。光绪帝在少年时，已开始明事知礼。此时，西方列强的侵略已开始从沿海地区向中国内地深入，中国面临着危机。他加强了有关中外史地、洋务运动和早期改良主义者著作方面的课程学习。变得越来越懂事，立志要做一位像康熙大帝那样的一代圣主，使国家重新强盛起来；甫一亲政，又受到康有为维新改制上书的影响，故当张建勋的殿试策刚一呈上光绪御案，即时龙颜大悦，御笔一挥，就将张建勋钦点为己丑科状元了。

从光绪二十年（1894）起，张建勋被任命为云南乡试主考官，光绪二十三年（1897）改任云南学政。在云南任职期间，他开教育风气之先，一直致力于开发西南边疆文化，倡导发展地方教育，主张“自小儿而举，入学除盲”，持续开展扫盲工作，在各族群众中口碑甚好。他府上高悬的那一块“大启滇文”金匾，就是云南人民特地精心制作敬献于他的。在清末有“云南独一无二状元”“经济特元”之称的袁嘉谷撰写的《卧雪堂诗集》记载了张建勋的功绩。

光绪三十二年（1906），张建勋在任黑龙江省第一任提学使兼民政使，特别注重振兴边疆教育。张建勋借鉴西方办学经验，培养能办实业的有用人才，将省城齐齐哈尔的小学校统一归并，并增加农、工、商实业课，改称初等实业学堂，使之成为黑龙江省最早的实业学校。他还创办了一所初等幼女小学堂和省中学堂，创办了黑龙江最早的民族师范学校满蒙师范学堂。

张建勋非常重视全省各府州县的小学、乡村小学、师资培训及私塾的改良。在他任职期间，许多州县乃至镇村都开始创办小学堂，均成立了许多官立两等、初等小学。他在兰西县、呼兰府设立师范传习所，并分别改良了私塾共100多处。另外，在他的努力下，瑷珲、墨尔根、西布特哈、肇州厅、多耐站、塔子城，都分别建立了公立小学堂。

张建勋在黑龙江5年间，为教育事业呕心沥血，不辞劳累，办起了各类中等学堂共达165处，在校学生最多时达到6900人；各类小学堂272所，在校学生最多时达9000多人，使各级各类教育有了很大的发展，边塞黑龙江的学风为之大开。张建勋自己还经常掏钱资助家境贫困的学子，鼓动和提倡有钱人捐资助学。张建勋可以称得上是黑龙江近代教育的开拓者。

清廷亡后，张建勋的诗作日见名品，比如《沈翼孙同年自海上来，辱承访谈，盖三十年同谱至交也，手书药方见赠，爰呈两诗用副》，在其二，他写道：“殷勤为我捡马圭，举念全湘拯庶黎。旧治关怀国医亟，粤闽海宇靖鲸鲵。”那时正值反帝反封建的五四运动前夜，他“国医亟”“靖鲸鲵”的感叹，是相当具有正义感的。

张建勋不仅能诗能文，还擅长书法。他的书法苍劲有力，不仅为当时的国人所称道，就连日本书法界也大为折服。因为他曾经到过日本考察学务，和日本书法家有过比较密切的切磋交流，结交了一些朋友并保持着纯朴的友谊。在《赠加治耕莘》一诗中，他就写道“东瀛市隐旧书涯，篆法精研铁笔夸。”

张建勋小字墨盒

民国后，张建勋年老多病，赋诗咏世，教子怀友，并由衷歌咏“民国新纪元”,赞颂“海宇靖鲸鲵”，为中国结束封建王朝统治而感奋。民国二年（1913，另说民国十年，即1921年），逝于北京，遗有诗文集《愉谷诗稿》等。