Τον Σεπτέμβριο του 1855 αναγγέλλεται η χρηματοδότηση για την ανέγερση «Παρθενικού Σχολείου» επί δημαρχίας Λουκά Ράλλη. Το Δημοτικό Συμβούλιο του Πειραιά κάνει δεκτή τη δωρεά των 20.000 δρχ. του άγνωστου Δωρητή και δέχεται τους όρους του, οι οποίοι είναι:
1.Το σχολείο να μείνει για πάντα «Σχολείο Θηλέων»
2. Να αναρτηθεί μαρμάρινη προτομή του ΑΔΑΜΑΝΤΙΟΥ ΚΟΡΑΗ μέσα στο σχολείο.
3. Πάνω από την είσοδο του σχολείου να τοποθετηθεί μαρμάρινη πλάκα με την εξής επιγραφή: «Παρθενικό Σχολείον Ιδρυθέν δαπάνη (κενό) Δημαρχούντος Λουκά Ράλλη. 1855»
4. Σε περίπτωση παραβιάσεως των όρων της δωρεάς, αυτή ανακαλείται και περιέρχεται στους κληρονόμους του.
Για την ανέγερση του σχολείου επιλέγεται ο χώρος μεταξύ των σημερινών οδών Ηρώων Πολυτεχνείου, Βασιλέως Γεωργίου και Ιακώβου Δραγάτση ( έναντι Δημοτικού Θεάτρου).
Το 1856 αρχίζει η ανέγερση του σχολείου, η οποία δεν ολοκληρώνεται επειδή δεν επαρκούν τα χρήματα του άγνωστου δωρητή. Η ταυτότητά του φανερώνεται. Είναι ο Ιάκωβος Ράλλης, συγγενής του δημάρχου Λουκά Ράλλη, ο οποίος βρίσκεται στην Κωνσταντινούπολη. Ο Ιάκωβος Ράλλης χορηγεί νέα δωρεά 10.000 δρχ. για την ολοκλήρωση του έργου. Το Δημοτικό Συμβούλιο αποδέχεται την δωρεά του.
Το 1857 ολοκληρώνεται η κατασκευή του σχολείου και αρχίζει η λειτουργία του.
Το 1919 στεγάζεται και λειτουργεί στο ίδιο κτίριο η Δημοσυντήρητος Ράλλειος Παιδαγωγική Ακαδημία.
Το 1939 το σχολείο μετονομάζεται σε «Ράλλειο Γυμνάσιο Θηλέων» και σε «Ράλλειος Παιδαγωγική Ακαδημία». Ο Δήμος απαλλάσσεται από τη συντήρησή τους.
Το 1968, επί δημαρχίας Αρ. Σκυλίτση ο Δήμος αμφισβητεί την κυριότητα των κτιριακών εγκαταστάσεων του σχολείου.
Τον Δεκέμβριο του 1971 πραγματοποιείται σύσκεψη υπό την προεδρία του Στ. Παττακού. Αποφασίζεται η μεταστέγαση του σχολείου επί της οδού Κολοκοτρώνη ( στην περιοχή Τερψιθέα). Τον ίδιο χρόνο εκδίδεται Νομοθετικό Διάταγμα που καταργεί την Ράλλειο Παιδαγωγική Ακαδημία και ορίζει ότι τα περιουσιακά της στοιχεία περιέρχονται αυτοδίκαια στο Ράλλειο Γυμνάσιο Θηλέων.
Eπειδή το κτίριο της οδού Κολοκοτρώνη 120 δεν θεωρήθηκε κατάλληλο στις 22/11/72 το Ράλλειο Γυμνάσιο στεγάζεται προσωρινά στην Ιωνίδειο. Στις 31/3/73 επαναστεγάζεται στην οδό Κολοκοτρώνη. Από το 1973 έως σήμερα εξακολουθεί ο αγώνας για να στεγαστεί η Ράλλειος στο αρχικό της κτίριο, στην πλατεία Κοραή χωρίς όμως αποτελέσματα.
Στο μεταξύ το κτίριο της οδού Κολοκοτρώνη παρουσίαζε συνέχεια προβλήματα και μετά από πολλούς αγώνες του Συλλόγου Γονέων, των διευθυντών του Γυμνασίου και του Λυκείου καθώς και των μαθητριών το σχολείο μεταστεγάστηκε στον Πύργο της οδού Ακτή Ποσειδώνος 2-4 το 1996.
Την 1η Μαρτίου 2005 το Ράλλειο Γυμνάσιο στεγάστηκε στο κτίριο που στεγάζονταν παλαιότερα τα εκπαιδευτήρια «Μπαχλιτζανάκι» επί της οδού Καραΐσκου 147.
Στο μεταξύ από τον Ιούλιο του 2009 ξεκίνησαν τα έργα κατασκευής του νέου κτηρίου που προοριζόταν να στεγάσει το Γυμνάσιο και το Λύκειο στην έκταση που προσδιορίζεται από τις οδούς Λαμπράκη, Πειραιώς, Επονιτών, Φώκαιας και Σαρανταπόρου. Στις 5 Μαΐου 2014 και ύστερα από πολλές καθυστερήσεις καθώς χρειάστηκε να αλλάξει ο ανάδοχος του έργου, έγινε η τελετή θεμελίωσης από τον τότε Υπουργό Παιδείας κ. Κ. Αρβανιτόπουλο.
Στις 4 Μαρτίου 2016 – 45 χρόνια μετά την εκδίωξη του σχολείου από το ιστορικό κτήριο του στην Πλατεία Κοραή – έγινε η παραλαβή του νέου σχολικού συγκροτήματος που θα στεγάζει το Ράλλειο Γυμνάσιο και το Ράλλειο Λύκειο Θηλέων Πειραιά.
Από την 21η Μαρτίου 2016 το Ράλλειο Γυμνάσιο λειτουργεί στο νέο του κτήριο με είσοδο από την οδό Επονιτών.
