人類社會有現代藝術博物館的歷史大致兩百年，雖然歷史並不長，但是藝術博物館的精神古已有之，蒐集、保存、研究，它們皆蘊藏在人類搜藏珍貴稀有美好之物的天性當中。具體地看，幾乎每件藝術品從原來的位置出發到進入藝術博物館的過程，都可以寫出一個傳奇故事；整體地看，藝術博物館的故鄉歐洲孕育了與古代中國差別很大的收藏傳統。
遠在希臘化時期，阿基桑得羅斯等人已創作出了《拉奧孔群像雕塑》這樣享有極高聲譽的藝術作品，藝術品成為一種為眾人所嚮往擁有的奢侈品，有錢人開始了藝術品收藏行為。而羅馬時代，羅馬城本身就是一個收藏中心。征服了伊比諾斯的羅馬大將佛威扼斯，把大量的珍寶與雕塑當作戰利品帶回了羅馬城，並專門建造了“赫克裏斯神殿”寺院來進行收藏，這種風氣隨即在大小寺院裏蔓延開來。帝國的巔峰歲月裏，羅馬城的會堂、富豪住宅甚至公共浴室都裝飾滿了雕塑、繪畫等精美藝術品。從遙遠的兩千年前開始，藝術品和羅馬城就融為了一體，藝術品收藏也成了歐洲貴族、富人生活的一部分。
一直到15世紀，藝術品經過羅馬教會專門機構的審查鑒定，然後再不斷地流入貴族手中，又從義大利散佈到鄰近國家。通過這種途徑形成的私人收藏，一度成為歐洲藝術品收藏的主要形式。這種聚寶和炫富式的收藏，催生了許多私人建立的小空間、封閉型珍玩陳列，但它們卻實際上為現代藝術博物館的建立完成了原始積累。
從16世紀開始，受到文藝復興成果的影響，加之航海熱潮與地理大發現，也因美術自身發展造成了藝術品更便於攜帶與收藏，歐洲人搜與藏的熱情高漲。不過，義大利、西班牙、葡萄牙等國的收藏，也在這時開始源源流入英德等崛起中的強國。私人陳列室裏的寶貝越來越豐富，科學的分類和研究工作也漸漸恢復。有助於藝術博物館的美術考古學和美術史學都發展起來。不少今天已成為重要藝術博物館的歐洲私人收藏，都在這個時期完成積累。義大利的烏菲茲美術館和法國的盧浮宮博物館是這類藝術博物館的典型例子。
16世紀的義大利佛羅倫薩，享有盛大權力和財富的美第奇家族的法蘭契斯柯一世非常熱衷於贊助藝術家和收藏藝術品，於是委託建築師在宮殿中興建了專門陳列藝術品的寬敞開放的回廊——“事務室的回廊”，現稱為“烏菲茲美術館”。這樣的展陳空間雖然只向少數貴族開放，但已經在形式上非常像今天的藝術博物館了。“galleria”這個詞最初指的是“房間內的回廊”，但因在其間懸挂和展示藝術作品，便演變成為今天“畫廊”這個詞彙的來源。
和美第奇家族一樣，法國皇室也是著名的藝術贊助人，弗朗索瓦一世庇護了許多藝術家，其中包括了雷奧納多·達芬奇這樣的巨匠，因此他的作品如《蒙娜麗莎》《聖母聖安娜》《聖約翰》等都被帶入了法國。到了17世紀的波旁王朝，亨利四世在塞納河岸增建了“大藝廊”等更大規模的專門藝術品陳列建築，盧浮宮博物館的建築和收藏主體至此大致形成。
到了18世紀，英、德已有開明的私人收藏家，受到啟蒙知識分子的影響，逐漸開放了自己的收藏。而法國大革命之後，盧浮宮博物館中著名的皇家藝術品收藏竟然也向公眾開放了，藝術收藏開始成為公眾的精神財富。