1954年5月16日，高崗參加完座談會，回到東郊民巷8號的家中。他口授，秘書動筆，一封致毛主席的信寫好。這裡面既有他的個人檢討，也有他的一些在座談會上沒人相信的自我辯解。之後，他親自動筆，寫了封致周總理的信。
做完這些，身心俱疲的高崗，將妻子李力群喊到身邊，向這位唯一還相信自己的人，述說內心的痛苦。期間他講的一件事，讓李力群多年後仍記憶猶新。
高崗說，很多人揭發自己反對劉、周，還說自己向他們兩人揮拳。他說到這，苦澀一笑，說自己有這麼蠢嗎？
次日上午，高崗讓人把信分別送給劉、周。不少人奇怪，他給毛主席寫的信，為什麼要給劉寄去？安排好信的事情後，他讓警衛員把隨身佩戴的手槍交給自己。
警衛員乖乖從命，但事後越想越蹊蹺，於是打電話告知衛士長和高的秘書。衛士長、秘書和李力群，三人進行了一番緊急磋商，一致決定，把高崗寫的信，打開一看究竟。在給周總理的信中，眾人發現了端倪，高崗拜託周總理，自己不在的時候，照顧好自己的妻子兒女。
看過信後，他們認為高崗肯定動了輕生念頭，於是立即趕到高崗在的地方。他們一起邊痛哭，邊勸說。高崗看著眼前這副局面，擺了擺手，讓他們別哭了，把信燒掉吧。
可正當眾人燒信，放鬆警惕時，高崗掏出褲子裡的手槍，對準自己的太陽穴。他的秘書眼疾手快，右手猛地擊向他握槍的手。槍響了，沒人受傷，子彈打在牆上。
此次自殺未遂事件的發生後，讓好好檢討、可能變好的局面，變得一塌糊塗。座談會是不用開了，但他被要求停職反省和管教。
據毛主席當時的機要秘書葉子龍，多年後回憶：毛主席是想挽救高崗的，並安排了高級幹部，去開導高崗；還說要保留高崗中央委員的身份，安排他回西北做省長，做開發西北的工作。
3月1日，周總理作高崗問題的總結髮言，這事基本到此為止了。可是到7月份，全國人民代表大會即將召開，廣播播放各地參加大會的代表名單，高崗多次聽、反覆聽，就是沒聽到自己的名字。他因此變得非常抑鬱，沉默寡言。
就在8月16日晚上，高崗一反常態，興致勃勃地跟有幾個月身孕的李力群，暢聊到深夜。李力群、警衛員和秘書，都以為高崗這是看開了的表現。結果卻是，他確實看開了，但是另一種看開。16日深夜，他服用大量安眠藥，靜靜地走向了死亡。
接到高崗死訊時，毛主席表現得相當不可置信，他讓人反覆確認這件事的真實性。他身邊的人都看得出，他的心情很不好，心情沉重了一個多月。之後在北戴河，毛主席大發脾氣，忍不住對周總理說，問題被搞得複雜化、擴大化了。
既然人死不能復生，那就對活著的人好些吧。高崗的遺孀、遺孤和遺腹子，都得到毛主席和周總理幾次三番的特殊照顧。就拿物質來說，高崗的任何一個孩子，在毛主席的特批下，每月都有40元補助。同時，周總理多次給李力群安排工作。