ترجع فكرة إنشاء المتحف في الإسكندرية إلى عام 1882 ليضم مقتنيات من الآثار المصرية في العصرين اليوناني والروماني والتي عثر عليها في الإسكندرية وفي مناطق الآثار اليونانية الرومانية الأخرى .
افتتح الخديوى عباس حلمى الثانى المتحف اليونانى الرومانى رسميا فى 17 اكتوبر 1892.
شرع الايطالى جيسيب بوتى فى أداء مهمة انشاء المتحف فى الاسكندرية تخصيصا للعصر اليونانى الرومانى.
بدأ الاهتمام بهذا العصر بجدية بعد عام 1866، عندما اكمل محمود الفلكى حفائره فى الاسكندرية، حيث قام بتسليط الضوء على خريطة المدينة القديمة. وبدأ الاهتمام يزيد مع تكوين جمعية الاثار فى الاسكندرية فى عام 1893.
فى البداية، كانت المجموعات موضوعة فى مبنى بشارع رشيد سابقا (الأن طريق الحرية). اكتمل بناء أول عشر قاعات فى المبنى الحالى فى عام 1895.
القاعات الاضافية(ارقام 11 الى 16) اكتملت فى عام 1899، وقد تم الانتهاء من الواجهة فى عام 1900. بعض المصنوعات اليونانية الرومانية اليدوية، خاصة مجموعة العملات، تم جلبها من متحف بولاق (حاليا المتحف المصرى)بالقاهرة.
عندما تم تكليف جيسيب بوتى بادارة المتحف، قام بتزويده بمجموعات مجلوبة من حفائره فى المدينة وضواحيها. عندما تم تكليف ايفاريستو بريشيا واخيل ادريانى فيما بعد بادارة المتحف، قاما بتزويد المتحف بما يجود عليهما من قطع فى حفائرهم. كذلك قاما بجلب المصنوعات اليدوية للمتحف من الحفائر فى منطقة الفيوم.
يرجع تاريخ معظم المجموعات الموجودة فى المتحف إلى الفترة من القرن الثالث ق.م الى القرن الثالث الميلادى، وهى شاملة لعصرى البطالمة والرومان. تم تصنيف المجموعات وتنظيمها فى 27غرفة، بينما تظهر بعض القطع فى الحديقة الصغيرة.
ومن أهم المجموعات المعروضة بالمتحف تلك التي تعرف بمجموعة الإسكندرية أو قاعة الإسكندرية والتي تضم بعض رؤوس تماثيل للإسكندر الاكبر وتمثال الإله سرابيس على هيئة نور والذي يرجع لعهد هادريان وعثر عليه في منطقة السرابيوم بالإسكندرية، وتمثال نصفي لسرابيس بهيئة آدمية من الألبستر وآخر بهيئة آدمية أيضا من خشب الجميز ولوحات من الفسيفساء تصور رمز الإسكندرية على هيئة امرأة وكذلك تمثال لكل من إيزيس وحاربو قراط . ثم هناك القاعة التي تضم مجموعة من الآثار المصرية من تماثيل وتمائم وتوابيت وكذلك أقنعة جصية رومانية وبعض مقتنيات معبد الإلة سوبك المعروض في الحديقة المتحفية والذي كان يقوم في منطقة بطن حريت بالفيوم . وهناك القاعة التي تعرض فيها قطعا منحوتة تمثل التزاوج بين الفن المصري والفن اليوناني .
ثم القاعة التي تضم عددا كبيرا من اللوحات الجنائزية وقاعة تماثيل لبعض ملوك البطالمة وبعض الأباطرة الرومان، وقاعة تماثيل الآلهة والتي تضم تمثال الإلهة أفروديت . ثم قاعة التوابيت وقاعة الفخار وقاعة التناجرا وقاعة الزجاج والمسارج والنسيج وبعض القطع القبطية وتيجان أعمدة مختلفة .
ملحوظه خلال أعمال التطوير والتخزين داخل المتحف اليوناني الروماني بالإسكندرية تمهيدا للبدء في مشروع تطويره وإعداده للزيارة بتكلفة70 مليون جنيه كشفت المصادفة عن مفاجأة ظهرت عندما حاول القائمون علي المتحف رفع وتحريك تمثال العجل أبيس, حيث تبين أن قاعدته عبارة عن كتلتين من الجرانيت الوردي عليها نقوش هيروغليفية يرجح أنهما أجزاء من مسلات عليها نقوش لحورس وأبيس وهي كتل ضخمة مربعة لا يقل وزن كل واحدة عن300 كيلو.
وتمثال العجل أبيس الذي يوجد بالقاعة رقم16 بعد تدعيم أرجله وذيله وعمل الحماية اللازمة له بواسطة رافعة ضخمة ووزنه أكثر من طن, حدث أثناء تكسير القاعدة الضخمة المكسوة بالرخام التي يقف عليها التمثال منذ افتتاح المتحف عام1892, ويبلغ ارتفاعها مترين وعرضها أكثر من متر ونصف المتر, ومن هنا كانت المفاجأة المذهلة
ويعتقد أن الأثري الإيطالي جيسيب بوتي الذي أنشأ المتحف هو الذي استعان بهاتين القطعتين لتأمين العجل إبيس بسبب ثقل وزنه و إن لم يذكر هذا في سجلات المتحف, ويقول الأثري أحمد عبدالفتاح إن العجل أبيس عثر عليه بمنطقة عمود السواري بالإسكندرية وبالتحديد بالقرب من معبد السرابيوم وهو التمثال الذي أمر بنحته الامبراطور الروماني هادريان.
ويوضح الأثري أحمد عبدالفتاح بالمتحف اليوناني بالإسكندرية أنه تم العثور علي عدد كبير من القطع الفخارية أثناء إجراء المجسات أو حفائر صغيرة داخل أروقة المتحف بعد نقل وتخزين القطع, بالإضافة إلي رأس صغير من الفخار الأحمر لوجه ضاحك, مما يؤكد أن المتحف مقام علي منطقة أثرية.
ويهدف مشروع تطوير المتحف اليوناني الروماني إلي مضاعفة مساحة المتحف من4 آلاف و500 متر إلي11 ألف متر مربع, وذلك من خلال إقامة طابقين آخرين أعلي المبني الحالي للمتحف الذي يرجع إلي مائة عام تقريبا مع الحفاظ علي الطراز المعماري للمبني, ومن المقرر أن يستغرق المشروع24 شهرا يعود بعدها المتحف اليوناني الروماني إلي مكانه علي خريطة المتاحف العالمية كأهم وأضخم متحف يعرض مجموعات من آثار العصرين اليوناني والروماني.
وقد تم نقل القطع الأثرية التي كان يضمها المتحف إلي عدة متاحف منها متحف مكتبة الإسكندرية والمتحف البحري والقومي, بالإضافة إلي بعض المخازن المتحفية داخل وخارج الإسكندرية.