Ghost powstał w 1984 roku w Tokyo. Na początku kariery jego członkowie grali jedynie improwizacje. Nagrywanie swoich utworów rozpoczęli w 1988, ale ich debiutancki album, Ghost, ukazał się dopiero dwa lata później, w 1990. W 1991 ich piosenka Tama Yura znalazła się na składance Tokyo Flashback Volume 1; także dwie następne edycje zawierały kompozycje Ghost.
Od momentu ukazania się debiutanckiego krążka do 1996 zespół wydawał nowe płyty co dwa lata. W 1997 amerykańska wytwórnia Drag City wypuściła wznowienia trzech albumów Ghost wydanych wcześniej przez PSF. Te reedycje były dostępne zarówno na CD, jak i w wersji winylowej.
W 2004 grupa zagrała trasę koncertową po Stanach Zjednoczonych, a rok później wydała pierwsze DVD, Metamorphosis: Ghost Chronicles 1984-2004, do którego została dołączona także płyta. W 9 października 2006 roku do sklepów trafiło kolejne DVD, Ghost Overture: Live in Nippon Yusen Soko.
Ostatni album Ghost, In Stormy Nights, ukazał się w styczniu 2007. Winylowa wersja płyty została wzbogacona o dodatkową piosenkę, która nie pojawiła się na CD. Oprócz tego w maju zespół zagrał europejską trasę koncertową, a 15 października 2009 wystąpi w Berlinie w ramach "Asia-Pacific Weeks Berlin 2009".
Na początku swojej działalności Ghost grał jedynie improwizacje, ale później jego członkowie zaczęli również pisać piosenki. Jednak podczas występów cały czas dużo improwizowali. Zespół ten znany jest z koncertowania w dziwnych miejscach, takich jak świątynie, kościoły, stacje metra czy jaskinie.
Muzyka Ghost bazuje na gitarze akustycznej, której towarzyszą inne instrumenty, m.in. pianino, kontrabas i saksofon.
