Η ιστορία της ξεκινάει από τα τελευταία χρόνια του Βυζαντίου. Τότε η Θράκη ήταν διάσπαρτη με οχυρά κατά μήκος της Εγνατίας Οδού. Ανάμεσα σ’αυτά ήταν και ένα που αποτέλεσε τον πυρήνα μιας μικρής πόλης, των Κουμουτζηνών ή Γκιουμουλτζίνας ή Κομοτηνής. Εικάζεται ότι η ονομασία Κομοτηνή είναι παλαιότερη και ανάγεται στα πρωτο-Ρωμαϊκά χρόνια. Σύμφωνα με κάποιους μύθους, Κομοτηνή ήταν η κόρη του Παρασσίου, ενός ζωγράφου που φέρεται να είναι ο ιδρυτής της πόλης.

Το βυζαντινό φρούριο χρονολογείται από τα τέλη του 4ου μ.Χ. αιώνα, στην εποχή του αυτοκράτορα Θεοδοσίου. Ήταν ασήμαντο φρούριο, που το 1207 ύστερα από την επιδρομή του τσάρου της Βουλγαρίας Σκυλογιάννη, αποτέλεσε καταφύγιο προσφύγων από τα γύρω φρούρια που καταστράφηκαν. Ο πληθυσμός από τότε αυξανόταν συνεχώς.

Στις αρχές του 14ου αιώνα έγινε πόλη. Το 1361 την κατακτά ο Γαζής Εβρενός πασάς και ξεκινάει μια μακραίωνη περίοδος τουρκοκρατίας.Μετά την πολύχρονη τούρκικη κατοχή περνάει και στην κατοχή των Βουλγάρων. Το 1919 επιβάλλεται το περίεργο καθεστώς της Διασυμμαχικής Θράκης, με έδρα του ανεξάρτητου κρατιδίου την Κομοτηνή και διοικητή τον Γάλλο στρατηγό Σαρπύ. Την 14η Μαΐου 1920 επετεύχθη η διπλωματική νίκη του τότε πρωθυπουργού της Ελλάδας Ελευθερίου Βενιζέλου και του στενού συνεργάτη του Χαρίσιου Βαμβακά και η Κομοτηνή απελευθερώθηκε επισήμως, και ενώθηκε με την Ελλάδα.