中蘇邊界問題是歷史上遺留下來長期未得到解決的問題。當時的中蘇邊界是由沙皇俄國政府炮製的19個不平等條約強加給中國的。十月革命勝利以後，蘇聯政府先後在1919年和1920年發表了平等解決中蘇邊界問題的宣言。
1924年5月，中蘇雙方簽訂了《中蘇解決懸案大綱協定》，其中規定，在雙方商定的會議上，「將中國政府與前俄帝國政府所訂立的一切公約、條約、協定、議定書及合同等項概行廢止，另本平等、相互公平之原則，及1919和1920兩年蘇聯政府各宣言之精神重訂條約、協定」，並「將彼此疆界重新劃定，在疆界未行劃定以前，允仍維持現有疆界」。
但由於列寧的英年早逝，加上北洋政府的腐敗無能，中蘇雙方1926年的邊界談判沒有達成任何協議，到新中國成立前，中蘇邊界問題也一直懸而未決。在當時的蘇聯地圖上中蘇邊界線有「條約線」、「蘇聯地圖線」、「實際控制線」等錯綜複雜的局面。
在20世紀50年代初期，中蘇邊界問題被當時的友好關係所掩蓋。但在1956年蘇共「二十大」後，赫魯雪夫為了適合其「蘇美合作、主宰世界」的戰略需要，從政治、軍事、經濟等方面向中國施加壓力，企圖控制中國。這對中國來說當然是不能接受的，由此，中蘇關係開始疏遠並逐漸激化。
在中蘇邊界，從1960年布加勒斯特會議以後，蘇聯方面多次在中國邊境煽動暴亂，製造流血事件，使中蘇邊界問題尖銳化。對此，中國政府本著互諒精神，於1960年8月和9月兩次主動提出就邊界問題進行談判，但蘇聯政府否認存在中蘇邊界問題，拒絕進行談判。
直到1964年2月25日，蘇聯才同意雙方在北京舉行邊境會談，在會談中又拒不承認沙皇政府簽訂的條約是不平等的條約，不久談判破裂。蘇軍開始向遠東中蘇邊界地區大量增兵，不斷挑起邊境事件。
1964年10月，蘇聯新領導勃列日涅夫上台後即表示，在對華政策上和赫魯雪夫「甚至沒有細微的差別」，使中國希望改善兩國關係的努力沒有取得預期的成果，中蘇關係也進一步緊張。
1969年3月，蘇聯公然在中國黑龍江的珍寶島挑起了邊境武裝衝突事件，中國軍隊被迫進行自衛反擊。
珍寶島位於黑龍江省虎林縣境內，烏蘇里江中游，主航道中心中國一側，歷來是中國的領土。即使按照不平等條約，這個島也無可爭議是中國的領土，可是蘇聯卻蠻橫地將烏蘇里江的邊界線劃在中方江岸邊，1947年蘇軍將珍寶島劃在其警戒線內，但中國政府包括舊中國政府從來就沒有承認。
1969年3月2日上午8點40分，中國邊防站巡邏隊，分兩組先後前往珍寶島進行巡邏。蘇軍當即從下米海洛夫卡和庫列比亞克依內兩個邊防小隊出動70餘人，分乘裝甲車輛、指揮車、卡車各一輛，向中國巡邏隊追來，並分四路合擊中國巡邏隊。9點17分，蘇軍首先向中國巡邏隊開槍，打死打傷6人，中國巡邏隊被迫自衛還擊。戰鬥於10點30分結束，歷時3小時13分。對於蘇聯軍隊的人侵，中國政府當天向蘇聯政府提出了強烈的抗議。
3月2日戰鬥後，蘇聯的侵略行為不僅沒有收斂，反而變本加厲，向珍寶島方向增加了大量坦克、裝甲車和武裝部隊，並多次派出裝甲車、武裝人員人侵中國珍寶島。
3月15日3點左右，蘇聯又出動裝甲車6輛，步兵30餘人向珍寶島中國邊防軍發動進攻，中國邊防軍又被迫進行還擊。經過1個多小時的激戰，粉碎了蘇軍的第一次衝擊。9點46分，蘇軍又出動6輛坦克、5輛裝甲車，在炮兵和坦克炮火的掩護下，並在3架飛機俯衝威脅配合下，分兩路向中國守島分隊發起第二次衝擊。經過2個多小時的激戰又被中國邊防軍擊退。
下午1點35分，蘇軍對中國境內進行了猛烈的炮火襲擊，正面達10公里，縱深達7公里。下午3點13分，蘇軍在炮火延伸後，出動10輛坦克、14輛裝甲車和100多名步兵向中國守島部隊發起第三次衝擊，但最後還是被打退了。3月17日，蘇軍出動5輛坦克、70餘人再一次人侵珍寶島，企圖在強大的炮火拖護下，強行拖走被炸毀在江叉的一輛坦克，但又被中國守島部隊擊退。
中國在對蘇聯軍隊的武裝人侵給於堅決還擊的同時，向蘇聯政府提出緊急強烈抗議，要求蘇聯政府立即停止對中國的武裝入侵。
1969年9月11日，周恩來總理同蘇聯部長會議主席柯西金在北京機場會晤。雙方就兩國邊界問題和兩國關係問題達成一些諒解；同意兩國間的原則爭論不應該妨礙兩國關係的正常化；兩國不應該為邊界問題而打仗；認為雙方應首先簽訂一個關於維持邊界現狀、防止武裝衝突、兩國武裝力量在邊界爭議地區脫離接觸的臨時措施協議，並通過談判解決邊界問題。雙方商定在北京行邊界談判。同年10月20日，中蘇副外長級邊界談判在北京市舉行。