后元二年（前87年），在位时间长达55年的汉武帝走到了生命尽头。病重时刻，武帝命人把年仅八岁的太子刘弗陵带来，对大司马霍光等人托付身后事。霍光之所以如此位高权重，固然是极有才干得到了武帝赏识，但他另一个身份是霍去病的同父异母弟，三十多年前霍去病在世时就已经把他引荐入朝。
“托孤现场”除了霍光，还有金日磾（jīnmìdī）、上官桀和桑弘羊三个重臣，都在武帝床前。上官桀“演技”很好，哄得武帝高兴，又大走霍光门路，登上高位；桑弘羊是天分很高的“会计师”，凭本事熬出来的，为汉帝国的财政经济做出了很大贡献。在场的四个人都是天下知名。上官桀和桑弘羊也可谓根正苗红。汉武帝最终决定霍光担任第一辅政，加封大将军；金日磾以车骑将军的身份位列第二，排在上官桀和桑弘羊前面。四个人共同掌握了汉帝国最高权力。
四个人里金日磾最特殊，他是匈奴休屠王的儿子，当年入跟随族人入关归顺了汉王朝。金日磾最初沦为养马的奴仆，他性格沉稳庄重，后来因缘巧合被汉武帝欣赏，一下子成了皇帝的近臣。他极其忠诚，侍奉汉武帝几十年，小心谨慎从没犯过错，还挫败了一起刺杀汉武帝的阴谋。汉武帝对金日磾的信任大家都看到了，中原王朝出了个史上绝无仅有的匈奴辅政大臣。
当初有人在林光宫行刺汉武帝，金日磾奋不顾身救驾，霍光与上官桀也迅速行动抓捕谋反者，平息了事端。汉武帝留有遗诏，将他们三人封侯。日后朝廷宣布此事，金日磾以汉昭帝年龄尚小的缘故坚决推辞，结果霍光和上官桀也不敢受封。
金日磾的谦让是他的处世态度。汉武帝在世时，曾赏赐给金日磾美貌宫女，金日磾无法推辞，却从来不敢接近宫女。武帝又提出把他的女儿纳为嫔妃，金日磾说什么也不肯，武帝不由得对他大为敬重。这也体现了金日磾的睿智，不愿跟后宫是非之地扯上关系。那么金日磾为什么愿意接受辅政大臣的职位？这很简单，一来他不忍拒绝汉武帝的临终托付，二来这时候他也该承担起责任了，以他的威望制衡另外三人，稳定朝局。
金日磾并不排斥名利，却又“非义不取”，推辞的是皇帝的偏爱，唯恐招人忌恨而已。但封侯这事儿，是多少古人一辈子的梦想，金日磾大概觉得受之有愧，才找理由推托。西汉有非军功不得封侯的规定，名将李广跟匈奴打了一辈子仗，就因为斩杀敌人的数量不够标准，到死也没有封侯，可谓千古憾事。汉武帝尽管倚重霍光、金日磾等人，同样找不到给他们封侯的理由，只得留下遗诏办理此事。
汉昭帝始元元年（公元前86年），汉武帝去世刚一年，金日磾也因病与世长辞，终年49岁。君臣一前一后离去，金日磾似乎就是为了与汉武帝相遇才来到世间。在他临终时，霍光以朝廷名义捧着印信、绶带前来探望，在病榻前把金日磾封为秺（dù）侯，也不管他是否乐意。
金日磾死后又被赐谥号敬侯，这个“敬”字是朝廷商议而定，含义丰富，可以说相当公允，基本概况了金日磾身上的闪光点。《逸周书谥法解》定义了谥号用法，“夙夜警戒曰敬，合善典法曰敬”。“夙夜警戒”的意思是，像君子一样朝夕警惕，不敢犯错。“合善典法”可以简单理解为廉洁奉公，尽忠职守。所以“敬候”的谥号也是莫大的荣耀。
朝廷为金日磾举办的葬礼也甚为隆重，出动大军护送灵柩，队伍从长安浩浩荡荡排到汉武帝的陵寝（茂陵）。金日磾的墓葬就在茂陵不远处，与霍去病的墓相距仅一百米（陕西省兴平市南位镇）。所有这些“身后荣光”，大约也可以慰藉这位匈奴王子、大汉权臣的在天之灵了。
金日磾在后世成为忠孝谨敬的代名词。唐代的番将右骁卫大将军、薛国公阿史那，“所历皆以清谨见称，时人比之金日磾”（《旧唐书列传第五十九》）。南朝宋文帝刘义隆与臣下讨论人才，感叹道，“金日磾忠孝淳深，汉朝莫及，恨今世无复如此辈人”（《宋书卷六十五列传第二十五杜骥列传》）。后世名人们对金日磾的赞美之词也不少，不再赘述。
春秋吴国的公子、大贤者季札，有很多典故流芳百世，人称延陵季子，与孔子同时代。当时的吴国是中原人眼中的“南蛮”，不妨碍季札成为圣贤，被孔子推崇盛赞。如果孔子能够得知金日磾的事迹，恐怕也要开金口吐玉言褒扬一番。华夏人民本就同根同源，这些不世出的楷模无论来自哪个民族，都是我们的骄傲。金日磾身上那些闪亮的品质，在物欲横流的现代社会显得更为稀缺。