Babylon syntyi vuoden 2003 loppupuolella vokalisti Takuman ja kitaristi Yokin käsissä. He olivat työskennelleet yhdessä jo kahdeksan vuotta - ensin bändissä LUV'ra-doll, sittemmin nu-metal-vaikutteisen RusHin parissa.
Kaksikko eteni keräämään lisää jäseniä uuteen yhtyeeseensä. Kolme sai pyynnön: näistä kaksi oli entisen RusHin sessiojäseniä.
Misa vastaa kitaran lisäksi koskettimista ja ohjelmoinnista. Hänellä on vaikuttava ansiolista musiikin parissa useamman eri bändin kanssa. Hän soittaa monia instrumentteja ja omaa selkeästi oman tyylinsä.
Toinen RusHiin liittyvä uusi jäsen oli Kazuki. Jälleen ehdotonta veteraaniainesta, tunnetuimpien bändien ollessa Deshabillz, Je*Reviens ja Dué le quartz!
Basistin paikan sai Haku, joka oli soittanut hieman pienemmissä bändeissä nimeltä VALIXLIA ja Nero.
Ensimmäinen maxi-single julkaistiin helmikuussa 2004. Neljä kappaletta sisältäneen CD:n nimi oli yksinkertaisesti ichi (= numero 1 japaniksi).
Musiikki kuulosti olevan yhdistelmä LUV'ra-dollia ja Aioriaa, Misan edellisiä bändejä. Erityisesti laulussa Tonight voi kuulla Aioriasta tuttuja Misan kitaraefektejä.
Maxi-singleä myytiin hurjaa vauhtia ja se pääsi Oricon indies -listan 16. sijalle.
Minialbumi ni (= 2 japaniksi) julkaistiin kuukautta myöhemmin, 18. maaliskuuta. Tämän CD:n soundi oli raaempi kuin ensimmäisen: paljon kokeellisempi. Paikka paikoin se lähentelee nu-metallia. Takuman räppäys ja laulu korostivat asiaa. Muutaman päivän päästä bändi oli valmis aloittamaan keikkailun. He kiersivät klubeja maalis-toukokuussa.
Kiertueen päätteeksi toukokuussa ilmestyi uusi maxi-single, luonnollista jatkoa oleva san (=numero 3). Sillä oli kaiken kaikkiaan 7 laulua ja mielenkiintoisena faktana lisätä voisi todeta sen, että CD:ltä löytyy jokaisen omasäveltämä kappale. Ennen tätä laulut oli säveltänyt joko Misa tai Yoki, mutta nyt myös Kazuki, Takuma ja Haku pääsivät kokeilemaan laulun kirjoittamisen yleviä taitoja. Tämän johdosta san luonnollisesti on epätasainen, koska jokaisella jäsenellä on aivan oma tyylinsä, mikä kuuluu luoduista lauluista selvästi. Yhtä levyä rikkaampana Babylon jatkoi kiertelemistään. Suosikiksi nousi Takadanobaba AREA, siellä he esiintyivät paljon useammin kuin missään muualla. Itse asiassa eivät he kovin usein muualle eksyneetkään!
yon (=numero 4) julkaistiin heinäkuussa. Se sisälsi kolme raitaa, jotka osoittivat että Babylon ei ollut vielä alistunut yhteen ainoaan tyyliin: laulut olivat jälleen jotain aivan uutta. Bändin omiin julkaisuihin verrattuna se muistuttaa eniten levyä ni, sillä se omasi raskaampia elementtejä ja Takuma sortui jälleen nu-metal-kokeiluihin, mikä tuntui tuovan bändille itsenäistä lisämakua. Elo-lokakuu oli jälleen keikkailun aikaa.
Konserttien jälkeen Babylon palasi työpöydän ääreen ja tuotoksena syntyi uusi minialbumi nimeltä go (=numero 5). Levyllä oli pehmeämmiksi luonnehdittavia kitaravoimaisia rock-lauluja, tällä kertaa ilman electronisia vaikutteita.
Joulukuun aikoihin Yoki valitettavasti ilmoitti eroavansa joukosta. Hänen viimeinen konserttinsa Babylonin seurassa oli 12. joulukuuta.
Tammikuussa esiteltiin uusi kitaristi Toki ja niin bändi oli kokonainen jälleen. Onnea ei kuitenkaan kestänyt pitkään.
Vuoden alussa ilmestyi bändin ensimmäinen DVD BABYLON ~Since 2004~, joka sisälsi sekä muutaman PV:n että livemateriaalia.
Kuukauden kuluttua Babylonin uutisia järisytti toisen jäsenen lähtö: Kazuki oli päättänyt, ettei bändi enää kuuluisi hänen tulevaisuuteensa. Viimeinen konsertti yhdessä tämän kokeneen rumpalin kanssa soitettiin 5. maaliskuuta.
Piakkoin bändi esitteli uuden rumpalinsa. Toisten jäsenten tavoin ei Mikagekaan ollut eilisen teeren poikia: hän oli soittanut rumpuja jo useammassa bändissä ja ollut sessiomuusikkona kuuluisillekin VK-nimille kuten Kisaki Project, Schwardix Marvally ja tästä tunnettu, sooloartistinakin toiminut HIZAKI.
Babylonilla oli jälleen suuret suunnitelmat ajatuksissa. 6. huhtikuuta ilmestyi single, joka rikkoi numerointiperinteen. Sen nimi oli Garnet Children ja sitä promotoidakseen jäsenet osallistuivat tapahtumiin Like an Edison -kaupassa.
Huhti-toukokuussa yhtyeellä oli vuorossa lyhyt one-man kiertue, joka sisälsi 3 esiintymispaikkaa. Tällä kiertueella oli myös mahdollista hankkia itselleen single Tsuyu-kou kaika ni nureta hana no na.
Babylon keikkaili loppukesän hyvin ahkerasti ja uuden maxi-singlen Tsuki rin hanan ilmoitettiin saapuvan kauppoihin elokuun alussa. Tätä ennen Mikage kuitenkin ilmoitti erostaan, jättäen bändin rumpalittomaksi. Loppuvuodesta myös kitaristi Toki lähti omille teilleen. Loput jäsenet jatkoivat kolmikkona.
