Celui qui se décrivait lui-même comme un cowboy fantaisiste demeurera une figure marquante du paysage musical de l'après-guerre, tant au Québec que chez les francophones de tout l'est du continent nord-américain. Déjà sensible à l'attrait de la musique que jouait son père, violoneux à ses heures, il se fait d'abord connaître comme instructeur de danse à la fin des années trente, dans la région de Saint-Hyacinthe. S'étant procuré une guitare, il profite de son passage sous les drapeaux au cours de la seconde guerre mondiale pour donner des spectacles dans la veine du célèbre Soldat Lebrun, sous le nom du Sergent chantant.