卑南遺址位在臺東市的西北方、卑南山東南側山麓、卑南大溪右岸河階上，該河階向東隔卑南大溪與海岸山脈相望，向南與臺東平原接壤。 北緯22°47’40”、東經121°06’48”的位置被認為可能是卑南遺址的中心位置(宋文薰、連照美2004:15-22)。 

卑南遺址的最早記錄是1896年鳥居龍藏於當時遺址上立著的幾件石柱前所拍攝的照片，這些照片卻延遲至1990年才被發表(宋文薰、連照美2004:32)， 因此，1915年出版的《蕃族慣習調查報告書》(河野喜六1915)第二卷所刊出卑南遺址的圖版可視為最早的文獻記載。 鹿野忠雄(1930、1952)在1929-1937年間曾在卑南遺址進行10次的調查，當時稱之為「Vuno遺址(ヴノ遺跡)」，其相關著作中雖然提到有進行過發掘， 但並未有相關記錄的發表(鹿野忠雄1952:164；鹿野忠雄著，宋文薰譯1955:96)，這個時期對卑南遺址的調查仍被視其為民族學取向的研究與解釋(連照美2008:3-4)。 

卑南遺址有明確記錄(金關丈夫、國分直一著，譚繼山譯1990:126-162)的考古發掘工作是在1945年由金關丈夫、國分直一所執行。 他們選擇在當時立於地表最大的石柱旁進行考古發掘，出土有大量的陶、石器等遺物以及建築結構，該結構呈東北—西南走向，長度約15m、寬約4.2-4.3m， 推測應為住屋的構造。這次的發掘在戰爭因素下而不得不停止。 

戰後，除了多位臺灣學者到卑南遺址進行調查外，1970年R. Pearson、1972年H. Egli、1978-1979年間E.Kaneko等外籍學者也先後造訪卑南遺址。 但直到1980年因為南迴鐵路的興建，為設立卑南鐵路新站(現臺東站)與站內火車調車場等工程建設，對遺址造成重大的破壞， 政府單位才委託臺大考古隊進行搶救，由宋文薰與連照美領隊於9年內共進行了13次搶救發掘；前8次的發掘面約7550m2， 但因「趕工」的壓力，僅能搶救石板棺內之陪葬品及墓葬資料，到了後期第9-13次的發掘，針對建築結構部份才有較完整的發掘與記錄(連照美1989:66-77)。 

卑南遺址因大規模搶救發掘而出土大量且豐富的遺留，1983年才有「史前文化博物館」的籌備計畫； 1988年再由臺大人類學系執行「卑南文化公園興建台灣史前文化博物館試掘工作」，這項計畫採用方格抽樣的方式， 以每100m的間距在當時卑南文化公園範圍內進行考古試掘；此次試掘的結果顯示，在地勢較低平的文化公園東部與南部區域有較厚較密的文化層， 而位於文化公園西側、較高之探坑則出土遺物較零星且文化層較薄(連照美、宋文薰1989:1-8, 51, 69-79)。 

1990年，國立臺灣史前文化博物館籌備處成立，針對卑南文化公園區域西南側可能為停車場及遊客服務中心之預定地進行兩次試掘， 「基本上在該範圍的遺物堆積還是以再堆積的現象為主，其出土遺物的特徵是數量少種類少，器物破損度高， 不過從器物殘件上仍可判斷器物類型與質地都不超過以往在卑南遺址上所發現的範圍」(李坤修1993:1-3, 32)。 1993年，卑南遺址受「不知情」地主的破壞挖去大量土方，導致大量遺物與數座石板棺曝露於地表。後來，才由籌備處針對遭破壞區進行後續之考古計畫， 這次的事件是臺灣文化資產保存法實施後，第一件因破壞史前遺址而被起訴與判刑的案例(李坤修、葉美珍、楊淑玲1994:37-40, 43)。 

於1997年，史前館籌備處為設置卑南遺址之現地保存展示場，在都市計畫道路預定地上搭蓋考古棚架進行「現地保存展示發掘」， 稱為「考古現場」(葉美珍編輯2009:10)，其發掘面積為400m2(葉美珍2005:11-1~12)，至目前仍持續進行發掘研究與現場展示。 隨後，史前館為了解卑南遺址的分佈範圍，於周邊土地進行調查，並針對不同區域進行考古試掘工作(李坤修、葉美珍2009)。 

2008年卑南文化公園第二期範圍擴大案通過，史前館針對卑南二期計畫進行全面性規劃，並於2009年提出「卑南文化公園二期範圍卑南遺址短期考古發掘計畫」， 除了配合卑南公園二期工程的設計與施工以及現地保存展示館的範圍確認之外，主要目的是為了釐清卑南文化公園二期範圍遺址的分佈與內涵。 (國立臺灣史前文化博物館2009)