A fase inicial da The Yellow Monkey (chamada, carinhosamente, de YeMon pelos fãs) começou no final da década de 80. Na época, os integrantes eram Yoshii 'Lovin' Kazuya, Hirose 'Heesey' Youichi e Kikuchi 'Annie' Eiji, e ainda um vocalista do qual é muito difícil encontrar alguma informação a respeito. Após a saída de tal vocalista, Kazuya resolveu tentar a sorte cantando enquanto o irmão mais velho de Eiji, Hideaki, juntou-se à banda para tocar guitarra. Também foi nessa época que Kazuya trocou o baixo pela guitarra, tornando-se, além de vocalista, o responsável pela maioria das letras das músicas da banda.
Com a banda incrementada e fortalecida, The Yellow Monkey fez muitas turnês pelo circuito underground e, com o lançamento de seu primeiro álbum, Bunched Birth, obtiveram atenção extra. Não muito tempo depois, a banda assinou contrato com a Columbia Music e lançou seu álbum major debutante, The Night Snails and Plastic Boogie, em 1992. Mesmo assim, tiveram que trabalhar muito para serem reconhecidos, o que acabou compensando nos próximos anos com o aumento exponencial de sua base de fãs.
Em 1995, a banda começou a adquirir grande popularidade e o single LOVE
COMMUNICATION debutou quase no topo da lista da Oricon. Além disso, o último show da turnê do ano aconteceu no Nippon Budokan, o que é uma façanha para qualquer banda. A YeMon também gravou um álbum em Londres e, pelo fim do ano, já era considerada tão boa quanto as bandas locais.
No ano seguinte, The Yellow Monkey fez um show em Londres e, de volta ao Japão, emendaram uma turnê massiva de 43 shows. Mas devido a um problema com a gravadora, a banda deixou a Columbia e assinou com a FUNHOUSE. Em janeiro de 1997, no dia 22, o sexto álbum da YeMon, SICKS, foi lançado. O SICKS foi, provavelmente, o melhor álbum da The Yellow Monkey. Como os álbuns anteriores, atingiu o topo das listas, e o single seguinte, BURN, vendeu mais de um milhão de cópias. A música Tactics foi usada como primeira música de encerramento do anime extremamente popular Rurouni Kenshin.
Em 3 de abril de 1998, The Yellow Monkey embarcou numa turnê inédita de 113 shows por todo o Japão. Nesse mesmo período, a banda lançou várias de suas canções em versões cantadas em inglês. Pelo fim do ano, fizeram uma pequena pausa na turnê para outra viagem ao Reino Unido.
Quando voltaram para o Japão, retomaram a turnê e a terminaram em março. Decidiram, então, aproveitar o resto do ano para descansar. Mas, não sendo capazes de ficar longe dos holofortes por muito tempo, os rapazes da The Yellow Monkey acabaram lançando um single no fim do ano. O ano seguinte, 2000, não foi de muita atividade. A banda participou de poucos eventos, mas lançou outro álbum, o 8, no verão.
Em algum momento de 2001, The Yellow Monkey anunciou que estavam dando uma pausa por tempo indeterminado. Essa pausa deu tempo de todos os integrantes fazerem vários trabalhos solo. Kazuya tornou-se Yoshii-Lovinson enquanto Hirose começou uma banda chamada Heesey with Dudes.
Foi em 7 de julho de 2004 que The Yellow Monkey oficialmente acabou.
Enquanto aproveitam os vários trabalhos solo que os integrantes da banda lançaram, os fãs continuam esperando o dia em que os quatro juntos voltarão a ser a YeMon.
