Ben Baillieux-Beynon fundó la banda en 2005, originalmente con Nic Van Assche. Luego, Van Assche fue reemplazado por Charles Blistin. En 2006 grabaron el EP More. La banda ganó popularidad rápidamente. Su primer álbum de larga duración, 'Hands Full of Ink', fue lanzado a finales de 2007 y fue seguido por una intensa gira europea. Al mismo tiempo, los Tellers agregaron a los miembros de la banda Kenley Dratwa (batería) y Francis Gustin (bajo).
Después de una gira de dos años con este conjunto, la banda se separó, volviendo a su dúo original. Poco después, los miembros Beynon y Blistin se separaron amigablemente. Beynon pronto agregó tres nuevos miembros a la banda: Fabrice Detry (bajo), Cesar Laloux (batería) y Joos Houwen (guitarra).
Aunque la banda surgió recientemente (habiendo lanzado dos álbumes), el grupo ha alcanzado la fama en Bélgica, donde su álbum Hands full of ink alcanzó el séptimo lugar en las listas de éxitos. También han tenido éxito en Alemania , los Países Bajos y, más recientemente, en Francia, en parte debido a la publicidad de Canon .
La canción More se incluyó en la banda sonora del juego de EA Sports , FIFA 08 y apareció en un anuncio de ANZ Bank en Australia .