В 1964 році подруга Джо (пізніше його дружина) Маріз Массьера потайки
від нього передає запис, де він співає пісні, акомпонуючи собі на гітарі, звукозаписній компанії. Незабаром Джо випускає першу платівку, а двома роками пізніше — перший альбом, «Джо Дассен в Нью-Йорку». Джо Дассен записує свої пісні різними мовами: французькою,англійською, німецькою, іспанською, італійською і грецькою.
У 1958 році його батько режисер Жуль Дассен попросив сина записати декілька пісень до фільму «Закон» з участю Джини Лоллобріджиди. У 1959 році диск-сорокап'ятка з цими піснями вийшов на фірмі грамзапису Versailles.