En avril 1998, dans le tumulte de Tokyo, quatre musiciens décident de jouer ensemble et fonde Gyorai. Suginami Eijun a quitté la préfecture de Fukushima en étant persuadé que sa ville natale ne convenait pas aux talents musicaux. Dans l'idée d’avoir son propre groupe, il a rencontré Yamada Masashi, Hirabayashi Naoki et Matsuda Shinji. Quelques temps après leur formation, ils changent de nom pour THE BACK HORN, venant d'une mauvaise prononciation de « The Back Hoe ».
En août 1999, ils sont invités au FUJI ROCK FESTIVAL et sortent leur premier CD intitulé Doko e Iku grâce à KANDO Records. Ce n'est que peu de temps après qu'ils quittent ce label et signent avec une "major", Speestar Records. Tout semble leur sourire...
Mais Naoki laisse tomber le groupe juste avant la sortie de leur premier single en major, Sunny, prévu pour avril 2000. Malgré son absence, THE BACK HORN assure plusieurs concerts à des festivals en août puis proposent leur deuxième single Sora, Hoshi, Umi no Yoru ainsi qu’un album nommé Ningen Program. Le bassiste Okamine Kohshu les soutienne en tant que membre de session pour leur tournée promotionnelle.
En 2002, Kohshu les suit en studio et son aide permet l'enregistrement de deux singles, Sekaiju no Shita de et Namida ga Koboretara. L'album Shinzou Orchestra est mis en vente en novembre, les festivals s'enchaînent (ROCK IN JAPAN FES, FUJI ROCK FESTIVAL
) ; finalement, le groupe annonce que Kohshu est un membre officiel de THE BACK HORN.
C'est à cette période de regain que le cinéaste Kiyoshi Kurosawa demande à Masashi d'écrire une chanson pour le film Akarui Mirai. THE BACK HORN composent en avril 2004 Requiem, un des titres de la bande originale de Casshern. Ainsi, ils gagnent en notoriété et se font connaître au grand public. En été, ils jouent en solo dans deux grandes salles, l'une à Tokyo (Hibiya) et l'autre à Osaka. Ils y annoncent la sortie du single Yume no Hana qui prouve que le quatuor a bien progressé dans leur style musical. Le concert à Hibiya est filmé et le DVD correspondant, Cobalt Blue, est réalisé pour fin 2004.
Un autre single et leur quatrième album sont produits au début de l’année 2005. L'album Headphone Children se veut être conceptuel à travers des messages forts ; un des titres devient même la chanson thème de la série de films d’horreur ZOO. La tournée de promotion de Headphone Children est couronnée de succès tout comme la tournée Ubugoe Chainsaw dont les meilleures chansons sont disponible sur un album live.
Ils font leurs premiers concerts à l’étranger, d'abord à Taiwan pendant le FORMOZ FESTIVAL puis en Espagne à l’occasion du FESTIVAL ASIA 2005. De nouveaux disques, de nouveaux concerts sont au programme : Masashi et Eijun s'installent dans les rues japonaises le temps d’une tournée en acoustique, leur album éponyme est dans les bacs en mai 2007 et ils retournent tous au FUJI ROCK FESTIVAL.
