民國六十九年七月，現今南迴鐵路臺東新站(原稱東線鐵路卑南站)及調車場進行興建工程時，大規模的施工揭開蘊藏豐富史前文物的卑南遺址。許多石板棺及棺內精美陪葬品紛紛被掀露地表，引起民眾的注意並爭相盜掘。
此一事件經過媒體密集報導，引起輿論重視。臺東縣政府呈報主管機關後，該站興建工程暫停施工，並委請臺大人類學系宋文薰教授率領該系學生，組成卑南文化考古隊進行搶救發掘工作。
宋文薰教授認為如果要保存卑南遺址，應該就地興建考古遺址野外博物館，這是以卑南遺址為基礎興建博物館的最早提案。歷經多方努力與期待，史前館籌備處終於在民國七十九年二月一日成立，於九十年七月十日試營運，九十一年八月十七日正式開館，為臺灣史前文化的保存與研究奠立持續發展的基礎。--引用館方簡介---
館內展示的核心理念是以寬廣的眼光，闡釋人類、自然與文化三者之間的互動關係：彰顯自然的美妙，讓觀眾體認人類與自然互相依存的關係，並融入愛護自然的觀念。
館內所展示的三大主題有臺灣自然史、臺灣史前史、以及臺灣南島民族。
