Можно сказать, что история Gallhammer началась в 2002 году, когда лидер группы Vivian (вокал, бас) начала новый проект, хотя официальный их дебют состоялся только в феврале 2003. Risa (ударные) и Mika (гитара) присоединились к группе, но до этого они были только вокалистками, как и сама Vivian, поэтому никто из них не умел играть на инструментах. Как в прочем и не было у них никакого опыта на блэк-метал сцене, они пели в группах разных жанров, в том числе грайндкор, нойз и авангард.
Первая демокассета была записана в марте 2003 и бесплатно раздавалась после их первого выступления на Koiwa Death Fest Vol.2. В начале они играли каверы на Hellhammer и Amebix из-за своей любви к этим группам.
Дебютный полноценный альбом Gloomy Lights вышел 11 ноября 2004 г. на японском лейбле Hello From The Gutter. Первое издание было распродано, вскоре вышло второе в Финляндии и Мексике.
Успех привел группу в Европу, где ими заинтересовался Peaceville, британский лейбл. Gallhammer подписали с ним контракт на выпуск следующего альбома, но перед его записью они сделали соблазнительный альбом лучшего Dawn of..., релиз на CD+DVD, в который попали не только тщательно отобранные песни, но и много видеоматериала прошлых лет. Полноценный альбом с новым материалом вышел позже в том же году. А в сентябре Gallhammer начали свой промо-тур по Европе, посетив в его рамках Великобританию, Голландию, Норвегию, Бельгию и Финляндию, выступив на двух концертах с дум-группой Church of Misery.
В начале 2008 года группа снова вернулась в Великобританию, в феврале выходит в Европе альбом Ill Innocence. В октябре группа приняла участие в фесте Oppression Freedom Oppression Vol.7 вместе с такими группами, как Coffins, Abigail, Anatomia.
