上院為原南洋公學建筑，原址在今上海交通大學徐匯校區(qū)，建于1900年，并于1954年拆除重建為新上院。
與中院一樣，上院系在盛宣懷籌辦創(chuàng)立南洋公學前與美國人福開森一同籌劃設計，1900年建成。當時南洋公學設立三院，為外院（后改為附屬小學堂）、中院（中學）及上院（大學）。建筑起初要給上院的學生使用，故也稱作“上院”。但上院建筑建好了，上院卻決定緩辦，后只得作為北洋大學鐵路四班和預科班的教室，后來也作為一些專業(yè)訓練班的教室和行政機構用房。李叔同、凌鴻勛、黃炎培、邵力子、鄒韜奮、陸定一等著名人物曾在此學習。
上院為一座“山”字形三層樓房，屬英國文藝復興式風格，有拱券長外廊，外墻以斷山花為裝飾，并有法國券式門窗。樓中部頂層有鐘樓，底層有禮堂，是南洋公學的大學部，另有教室、實驗室、辦公室、食堂、學生宿舍。樓長60米，后方三幢樓房每幢縱深約30米，建筑面積6,500平方米，造價82,908兩銀元。樓前有半圓形花壇，中央樹立旗桿，常飄揚五色旗或校旗。鐘樓與1891年所建的上海海關大樓鐘樓相似，內設大鐘直徑6尺，為當時滬西唯一的標準鐘。
1926年，上院禮堂更名為“文治堂”，以紀念唐文治。該禮堂可容納500人，常用于放映電影、舉行校慶典禮、辯論會、名人演講、學術報告、新生茶話會、募捐會等活動。上方還有月樓，可容納一二百人。嚴復、孫中山、張元濟、陳獨秀、惲代英、蔡元培、黃炎培、馬寅初、章太炎、陳果夫等人曾在此發(fā)表過演講。后因此禮堂狹小，不能滿足需要，就建設了大禮堂，也稱文治堂；上院的文治堂則改稱“舊文治堂”，新建的大禮堂則稱“新文治堂”。
1953年上院年久失修，屋架墻壁傾斜嚴重。且保險公司不再續(xù)保，學校遂報教育部拆除并在原址修建新上院。
上海交通大學閔行校區(qū)有上院和東上院各一座，名字源于徐匯校區(qū)上院（及新上院），作為教學樓使用。
2012年后，新上院作為包兆龍圖書館整修后的圖書室使用，現(xiàn)在掛牌圖書館（社科館）。
新上院為一座中國古典主義樣式的建筑，主體結構遵循蘇聯(lián)建筑風格，立面多以民族紋飾裝飾。總平面呈工字型，面積為9746平方米。高五層，其中一二層為實驗室，三層以上為教室，主樓后部有若干階梯教室與活動室。
