1909年8月21日，张之洞在京师辞世。张之洞是在忧心忡忡中死去的，他在去世前，几乎看到了满清快要覆亡的命运，在他留世的最后一首诗中称：天感人心心乃归，君民末世自乖离。
清宣统元年七月初六（西历1909年8月21日），满清最后一棵大树枯萎倒地——军机大臣、体仁阁大学士张之洞在京师辞世。此前的元年正月，袁世凯以“足疾”开缺，回河南安阳养病。载沣本来想杀掉袁世凯，张之洞以“主少国疑，不可轻于诛戮大臣”为由劝谏，保住了项城之头颅。
自太平天国起事后，汉人督抚逐渐掌握了实权，先后涌现了曾国藩、左宗棠、李鸿章、张之洞等大臣，这些大臣对满清是实心实意的忠诚，和后来逼宫的袁世凯很不一样。可以说，张之洞的死，是一个大时代的结束，从此，满清的颟顸权贵们在自取灭亡的道路上狂奔，他们以为掌握了枪杆子，收回了汉臣的大权，重用满清的黄带子、红带子，江山就永固了。
张之洞是在忧心忡忡中死去的。今天网上盛传一个故事：宣统帝的生父、摄政王载沣在张之洞病危时亲赴府邸探望，张之洞弥留之际仍不忘清廷的安危，对载沣说“舆情不洽”，担心“激出变故”，希望安抚民众，而载沣信心满满地说“有兵在”。
有野史说张之洞受载沣此话刺激，吐血而死，这未必可信。但张之洞几乎看到了满清快要覆亡的命运，则是确凿的，有他留世的最后一首诗为证：
天感人心心乃归，君民末世自乖离。
岂知人感天方感，泪洒香山讽喻诗。
这是他读唐代大诗人白居易的《七德舞》有感而发。张之洞，号“香涛”，白居易，号“香山”，“二香”可谓隔代知己。白香山的《七德舞》的主旨是“美拨乱，陈王业也”，生在元和衰世的白居易，怀念唐太宗李世民辅佐父亲李渊定鼎平乱的伟绩，所谓：
太宗十八举义兵，白旄黄钺定两京。
擒充戮窦四海清，二十有四功业成。
二十有九即帝位，三十有五致太平。
白居易认为唐太宗的成功不仅仅是靠武力，而是民心所归：
则知不独善战善乘时，以心感人人心归。
“人”当是“民”，为了避李世民的讳。而到了晚清末造，张之洞看到的是“君民末世自乖离”，上层骄横，民众怨愤，上下离心离德，动乱一触即发。然而大势已去，走到生命最后时刻的张之洞，对这一切无能为力，当年的清流派骨干、心怀“经营八表”之志的重臣，也只能“泪洒香山讽喻诗”了。他死前对好友陈宝琛叹息“国运尽矣”！
张之洞所感“君民末世自乖离”，也不限于皇帝与臣子、黎民的“乖离”，也包括大臣之间的倾轧。黄濬在《花随人圣庵摭忆》中言：
光绪初叶，帝后两党交哄，而李高阳与翁常熟交恶，其终也，促成中日甲午之战，所关于国运者甚大……其后翁主战，李欲格之，不能。不可战而战，所失倍甚。
李高阳指直隶高阳籍的李鸿藻，翁常熟则指帝师翁同龢。后世许多人同情光绪而憎恨慈禧太后，褒扬主战派翁同龢。但历史远非这么简单，翁因与湘淮系的私怨而刺激李鸿章所掌握的海陆军与日军交战，是不争的史实。
张之洞是李鸿藻的同乡，又是李仰仗的“清流四谏”之一，因此翁同龢等“南党”对其常常使绊子。黄濬在同书中言：
《广雅堂诗集》，《送同年翁仲渊撰从尊甫药房先生出塞》一首，下有文襄自注：“药房先生在诏狱时，余两次入狱省视之。录此诗，以见余与翁氏分谊不浅。后叔平相国一意倾陷，仅免于死，不亚其章之于赞皇，此等孽缘，不可解也。”
张之洞的幕府劝他删去此段，以免影响高层团结和谐，张执意不肯，可见他对翁同龢的恨意。“翁仲渊”是同治二年（1863）的状元翁曾源，这一科探花是张之洞。翁叔平即翁曾源的叔叔翁同龢，药房先生即他的爹翁同书，在任安徽巡抚时犯下大错被曾国藩所参（据传是其得意门生李鸿章拟稿），先被判处斩监侯，后被流放。张之洞是睚眦必报的人，他才不会为了面子在笔墨上饶过翁同龢。