In einer Legende aus der Zeit Karls des Großen (747 - 814) wird Elxleben zum ersten Mal erwähnt. Im Zusammenhang mit der Unterwerfung der Wenden geht es um die Aufteilung Thüringens: „Der Kaiser Karl war also gar sehr bedacht auf der Lande Gebrechen..., darum ward das Land am Viere (d. h. Thüringen in vier Striche) geteilt.

Von der Werra bis zur Saale - von dem fränkischen Wald bis an den Harz..., der andere Strich hebt sich an auf der bloßen Loibe (Thüringer Wald) als da die Gera entspringet und fließet gegen Tal für Erfurth, vor Kühnhausen, vor Ebbesschleben (Elxleben), vor Walschleben, vor Rinkleben, vor Gebesee gegen Strussforte."

Auch bei der Gründung des Erzbistums Magdeburg wird Elxleben erwähnt sowie in alten Urkunden als zur Stadt Erfurt gehörendes Dorf.

Am 22. Oktober 973 fielen u. a. alle Kirchengüter und Rechte der Dörfer Elxleben, Walschleben, Münstergehofen und Dachwig bei einem Tausch zwischen dem Erzbischof von Magdeburg und dem Abt Werner von Fulda an die Abtei Fulda.

1369 kaufte der Rat der Stadt Erfurt von den Grafen Heinrich und Ernst von Gleichen die Dörfer an der Gera: Walschleben, Münstergehofen und Elxleben mit den Gerichten. In den nächsten 30 Jahren kaufte Erfurt dem Klosterhof Orphal alle Anteile und Rechte von Elxleben ab. Von diesem Zeitpunkt an ist die Geschichte Elxlebens mit der Geschichte der Stadt Erfurt eng verbunden.

1895 - 1897 wurde die Eisenbahnstrecke von Kühnhausen nach Döllstädt gebaut, 1897/98 das Plattenwerk errichtet.

1902 begann der Schulneubau Thomas-Müntzer-Straße. 1906 wurde der Bau einer Wasserleitung erforderlich, und 1912 begann der Bau einer elektrischen Anlage. 1914 wurden die einzelnen Häuser an das Stromnetz angeschlossen. 1920 wurde der erste Konsum (Volkskraft) eröffnet.