桃園三結義這一故事，經過明代小說《三國演義》的傳播，已經家喻戶曉。但這一故事還要上溯一段到宋元時期，現存較早的三國故事有元代的《三國志平話》和《三分事略》等。
宋末元初的郝經在《重建廟記》就寫到關羽與劉張「約為兄弟」的說法。此時還沒有詳細的過程。到了元代，這個故事開始豐富，如上文提到的兩本書中就記敘了其中就有劉關張相遇後痛飲一番，後於桃園宰殺牛宰馬祭祀天地並結義的情節：
《三國志平話》寫劉關張三人相遇後，劉備和關羽「隨飛到宅中，後有一桃園，園內有一小亭。飛遂邀二公亭上置酒，三人歡飲。飲間，三人各序年甲，德公最長、關公為次，飛最小，以此大者為兄，小者為弟。宰白馬祭天，殺烏牛祭地，不求同日生，只願同日死。三人同行同坐同眠，誓為兄弟」。
——《三分事略》的記敘與《平話》基本相同，只不過是個別文字的差異。
同時，在元明之際的雜劇《劉關張桃園三結義》第四折中也有這一橋段，故事梗概大約是講劉關張三人情投意合，結為兄弟。但結拜的細節卻由皇甫嵩口中道出：……聖人再令小官，將空頭宣詔、珍寶財物，招安英雄好漢。小官前至涿郡也，多聞此處有三個英雄壯士：一個姓劉名備字玄德，一個姓關名羽字雲長，一個姓張名飛字翼德。此三人結為昆仲，聽知的今日在此桃園，宰白馬祭天，殺烏牛祭地；不求同日生，只願同日死；一在三在，一亡三亡。此乃人中傑士也。小官不避驅馳，直至桃園中，招安此三人，走一遭去，有何不可。
在之後，各種版本《三國演義》基本也沿襲了桃園三結義這一故事框架，無非是字句的差異。
明代成化年間成書的《花關索傳》甚至還有三人結義，互相殺死對方妻室斷絕牽掛的橋段。而據現有的資料可見，桃園三結義這一故事，最早應當發端於宋代。
但從歷史上講，劉關張三人並未有過結義。只提到劉備在涿郡鄉里徵兵時投歸了劉備，成為了劉備的部曲。
《關羽傳》：亡命奔涿郡。先主於鄉里合徒眾，而羽與張飛為之禦侮。
之所以劉關張三人在後世的小說中成為了兄弟，很大程度是由於三人在史書中的親密記載，故而為民間百姓所津津樂道，：
《關羽傳》：先主與二人寢則同床，恩若兄弟。而稠人廣坐，侍立終日，隨先主周旋，不避艱險。《張飛傳》：少與羽俱事先主。羽年長數歲，飛兄事之。