Ο Ολυμπιακός ιδρύθηκε στις 10 Μαρτίου 1925 στον Πειραιά, για να αποτελέσει το αντίπαλο δέος του πολύ ισχυρού, εκείνη την εποχή, Εθνικού, αλλά και των αθηναϊκών ομάδων όπως ο ΠΑΟ και η ΑΕΚ. Προήλθε από την συγχώνευση του Πειραϊκού Συνδέσμου με την Πειραϊκή Ένωση, σωματεία που είχαν ιδρυθεί στα τέλη του 19ου αιώνα και στις αρχές του 20ού αιώνα.
Το όνομα του νέου συλλόγου το έδωσε ο πρώτος αντιπρόεδρός του, Νότης Καμπέρος, δίνοντας τέλος στις διαφωνίες που είχαν δημιουργηθεί. Ο Μιχάλης Μανούσκος πρόσθεσε το «Σύνδεσμος Φιλάθλων Πειραιώς» και ο τίτλος ψηφίστηκε ομόφωνα. Το όνομα του νέου συλλόγου επιλέχθηκε ώστε να υποδηλώνει το πάθος, την αθλητική ισχύ, την ευγενή άμιλλα, τη δίκαιη νίκη, έννοιες που περικλείονται στο ολυμπιακό ιδεώδες. Υπό το σκεπτικό αυτό επιλέχθηκε ως έμβλημα της ομάδας ο δαφνοστεφανωμένος έφηβος, εμπνευσμένος από τους Αρχαίους Ολυμπιακούς Αγώνες και σε πλήρη σύμπλευση με το πνεύμα και τη φύση του ονόματος του συλλόγου. Συμβολίζει τη δύναμη, την αθλητική ισχύ, το ήθος και την ευγενή άμιλλα, αξίες άρρηκτα συνυφασμένες με το Αρχαίο ελληνικό πνεύμα. Τα χρώματα του συλλόγου επιλέχθηκαν από τον Γιάννη Ανδριανόπουλο (ο οποίος σχεδίασε και την πρώτη φανέλα) και ήταν το κόκκινο, το χρώμα της γενναιότητας και του πάθους, και το άσπρο, αυτό της αγνότητας, της ηθικής και του δίκαιου ανταγωνισμού.Ήταν κατά βάση λαϊκή ομάδα και δεν άργησε, σε συνδυασμό με τα θετικά αποτελέσματα, να γίνει η πιο δημοφιλής στον Πειραιά κι έπειτα και σε όλη την Ελλάδα.
Τα ιδρυτικά μέλη του Ολυμπιακού ήταν 33: Oι Ανδριανόπουλοι (Γιάννης, Γιώργος, Ντίνος και Βασίλης), ο Μιχάλης Μανούσκος, ο Νότης Καμπέρος, ο Κώστας Κλειδουχάκης και οι Δημήτρης Ανδρόνικος, Νίκος Ανδρόνικος, Δημήτρης Αυδής, Νίκος Βλάσσης, Στέφανος Εμμανουήλ, Νίκος Ζαχαρίας, Θανάσης Καλλίτσης, Νίκος Καλούδης, Ντίνος Καλούδης, Όθων Κόκκινος, Τριαντάφυλλος Κρέμος, Παναγιώτης Κωστάλας, Παναγιώτης Λαγουμιτζής, Ανδρέας Λουκάκης, Σπύρος Λουκάκης, Γιάννης Λουλουδάκης, Βαγγέλης Μαγκόπουλος, Σταύρος Μαραγκουδάκης, Γρηγόρης Ντούφας, Θόδωρος Ορλώφ, Φώτης Πρωτοψάλτης, Γιάννης Συμιγδαλάς, Νίκος Συμιγδαλάς, Χρήστος Τζουμερικιώτης, Βρασίδας Τρουποσκιάδης και Σπύρος Ψαλλιδάς.
Το πρώτο διοικητικό συμβούλιο του Ολυμπιακού είχε ως εξής: Πρώτος πρόεδρος ο Μιχάλης Μανούσκος, αντιπρόεδροι οι Νότης Καμπέρος (εμπνευστής του ονόματος του συλλόγου) και Τριαντάφυλλος Κρέμος, γενικός γραμματέας ο Στάυρος Μαραγκουδάκης, ταμίας ο Όθων Κόκκινος, έφορος ο Παναγιώτης Λαγουμιτζής και μέλη οι Κώστας Κυρίμης, Νίκος Ζαχαρίας, Γιάννης Λουλουδάκης, Δημήτρης Σκλιάς και Ε. Κασιμάτης. Αρχικά ο Ολυμπιακός αποτελείτο από αυστηρά 100 μέλη, τους περίφημους 100 αθανάτους από τους οποίους συντάχθηκε και το πρώτο καταστατικό του συλλόγου. Οι αθάνατοι ήταν ισόβια μέλη και για να μπορούσε να εισέλθει κάποιο νέο μέλος στον σύλλογο θα έπρεπε να αποβιώσει ένα παλιό.
Επιφανείς παράγοντες του Πειραιά στήριξαν έμπρακτα την ίδρυση του Ολυμπιακού, έχοντας ως σκοπό να δημιουργήσουν ένα αθλητικό σωματείο που να αμφισβητήσει την κυριαρχία του Πειραϊκού Συνδέσμου. Εκτός του βιομήχανου Μιχάλη Μανούσκου και του ανώτατου αξιωματικού του Πολεμικού Ναυτικού Νότη Καμπέρου, ενεργή συμμετοχή είχαν μεταξύ άλλων και οι Δημήτρης Καμπέρος αξιωματικός και πρωτοπόρος της Πολεμικής Αεροπορίας, αδερφός του Νότη Καμπέρου,[28] Σταύρος Μαραγκουδάκης, διευθυντής του Ταχυδρομείου, Νίκος Ανδρόνικος, έμπορος, Δημήτρης Σκλιάς, αξιωματικός του Στρατού, Νικόλαος Ζαχαρίας, δικηγόρος, Θανάσης Μέρμηγκας, συμβολαιογράφος, Ιωάννης Κεκκές, χρηματομεσίτης και όλη η οικογένεια των Ανδριανόπουλων με προεξάρχοντα τον επιχειρηματία Ανδρέα Ανδριανόπουλο, πατέρα της θρυλικής πεντάδας των Ανδριανοπουλαίων.
Πρώτη έδρα του Ολυμπιακού αποτέλεσε το Ποδηλατοδρόμιο, το οποίο ήταν γήπεδο με καρβουνόσκονη, ενώ δεν είχε επαρκείς εγκαταστάσεις για να φιλοξενήσει τους πολυάριθμους φιλάθλους που το κατέκλυζαν εξ αρχής.
