Os membros do ACIDMAN fundaram a banda quando ainda eram estudantes em uma mesma escola de ensino médio particular de Saitama. Os amigos mantiveram-se juntos através da universidade e realizaram seus primeiros shows em 1997 em Shimokitazawa. Nesses shows, eles distribuíram de graça suas três primeiras fitas demo.
Apenas dois anos depois, a banda teve sua primeira mudança na formação: o vocalista Shiibashi Takeshi deixou o grupo e o guitarrista Ooki Nobuo o substituiu. Assim ocorreu a mudança de quarteto para trio que existe até hoje. Ooki Nobuo se formou como químico farmacêutico pouco tempo depois, e o ACIDMAN realmente iniciou sua carreira.
Em 2001, eles assinaram contrato com o selo indie Nomadic Records e seu single Sekitou alcançou o terceiro lugar no raking indie. Em março de 2002 eles lançaram um mini álbum intitulado Sankazora, o qual, infelizmente, não fez muito sucesso. Eles realizaram novamente uma turnê e tocaram em pequenos eventos ao lado de bandas como Husking Bee e Bloodthristy Butchers.
No final daquele ano, o selo major Toshiba/Emi os ofereceu um contrato. Eles lançaram dois singles neste novo selo, uma nova versão de seu primeiro single e, em outubro, o primeiro álbum Sou. Esse álbum alcançou o nono lugar no ranking da Oricon e rendeu ao ACIDMAN o Japan Gold Disc Award como melhor banda novata do ano de 2003.
Levou um ano para que eles lançassem o próximo álbum, Loop. Um músico suporte trabalhou com eles neste lançamento, mas o trio manteve-se como é e o músico suporte não se tornou parte da formação oficial da banda. Uma grande turnê aconteceu após o lançamento do álbum e eles tocaram em eventos com bandas como THE BACK HORN, Faridas Café, The band Apart e Husking Bee. Depois do período de shows, a banda voltou ao estúdio. Esse período proveitoso produziu dois novos singles e um álbum, Equal, em setembro de 2004.
Desde então eles mantiveram um ritmo firme de lançamentos, empenhados em lançar muitos singles e, se possível, até mesmo um novo álbum a cada ano. Os álbuns normalmente eram seguidos por uma turnê nacional, que resultava no lançamento de DVDs ao vivo. Durante a turnê green chord em 2007, a banda pode realizar um show no lendário Nippon Budokan, o que deve ter sido um dos maiores momentos do grupo.
Nos anos seguintes a banda deu continuidade ao ritmo dos lançamentos, produzindo singles, álbuns e realizando turnês nacionais. Em 2011, eles decidiram realizar alguns shows acústicos com versões "unplugged" de suas próprias canções, o que rendeu alguns lançamentos em DVD e CD. No fim desse ano, eles deram início a celebração de aniversário da banda, comemorando quinze anos desde sua formação e dez desde a estreia major. O ACIDMAN lançou dois best-ofs e realizou uma turnê especial para a ocasião. A comemoração durou até o final do ano de 2012, no qual lançaram seu primeiro álbum instrumental, This is instrumental. Em 2013 o grupo lançou seu nono álbum intitulado Shin Sekai.
