mouse on the keys zostało założone w 2006 roku przez dwóch poprzednich członków NINE DAYS WONDER, wiodącej grupy na japońskiej scenie post-rockowej. Zespół początkowo tworzyli perkusista i pianista Kawasaki Akira oraz pianista Kiyota Atsushi. Już od początku wspomagał ich swoim talentem gitarzysta i saksofonista Nemoto Jun (Z, Hununhum), zwłaszcza podczas nagrań. Macchu Picchu INDUSTRIAS, niezależna wytwórnia utworzona przez grupę toe, postawiła sobie za cel własne wydawnictwa i zainteresowała się innymi zespołami, w tym także mouse on the keys. Po dostrzeżeniu ich talentu, wytwórnia wzięła ich pod swoje skrzydła, co zaowocowało wydaniem pierwszego EP, Sezession, w 2007 roku.
W 2008 roku Ikeda Keisuke nawiązał współpracę z duetem jako projektant prezentacji wizualnych. Po wybitnym występie podczas Nagisa Music Festival w październiku, gdzie dzielił scenę z grupami takimi jak toe, midori, ling tosite sigure oraz sakanaction, zespół był gotów na to, by wyruszyć w krajową trasę koncertową. W tym samym roku dołączył do nich Niitome Daisuke, w przeszłości perkusista oraz kompozytor w kilku funkowych i hip-hopowych formacjach. Kawasaki Akira, który dotychczas grał zarówno na perkusji, jak i pianinie, powierzył Niitome rolę drugiego keyboardzisty. Wtedy grupa zyskała stabilność, jakiej wcześniej nie posiadała, i zaczęła tworzyć swoje unikalne brzmienie.
W tym składzie mouse on the keys wydali w 2009 roku swój pierwszy pełny album, an anxious object, ponownie pod szyldem Macchu Picchu. Całą muzykę skomponował Kawasaki, z wyjątkiem pierwszego utworu Complete Nihilism, którego autorem był Takaaki Mino, gitarzysta toe. Zespół wyruszył w promocyjną trasę koncertową, w czasie której występował razem z toe i envy.
Grupa powoli, lecz zdecydowanie, stawała się coraz barzdziej rozpoznawalna, nagrywając utwory na kilka składanek. Saigo no bansan, jeden z kawałków z minialbumu Sezession, został nawet wykorzystany w reklamie linii kosmetyków MAQUILLAGE SHISEIDO. Muzycy dostali także szansę wejścia na rynek europejski za sprawą niemieckiej wytwórni płytowej Denovali, która postanowiła wydać ich dwie płyty poza Japonią. Sezession ukazało się w lutym 2010, a an anxious object w następnym miesiącu. Zespół promował te wydawnictwa podczas trasy koncertowej po starym kontynencie, w ramach której odwiedził Francję, Niemcy i Polskę. Ponadto na wrzesień i październik 2010 roku grupa planuje kolejne występy w Europie.