Joe (Joseph Ira Dassin) est le fils de Jules Dassin, réalisateur de films d'origine juive russe, et de Béatrice Launer, violoniste hongroise virtuose. Puis beau-fils de Mélina Mercouri, chanteuse, actrice puis ministre de la culture en Grèce. Il a deux sœurs. Son grand-père était un émigré russe qui avait quitté Odessa pour l'Amérique.
Pendant les années 1960, il connaît ses premiers succès : Les Dalton, Guantanamera, Siffler sur la colline et Les Champs-Élysées. Durant la décennie suivante, il connaît d'autres succès, tels L'Amérique (reprise de Yellow River de Christie), Le Moustique (reprise de "The Mosquito" de The Doors), Si tu t'appelles mélancolie, L'Été indien et Le Café des trois colombes. Joe Dassin enregistrera ses chansons dans un grand nombre de langues (notamment en français, anglais, allemand, espagnol, italien et grec).
Il a un premier fils, Joshua, né prématuré, qui meurt à l’âge de cinq jours.
Après la mort de Joshua, il divorce et se remarie ensuite avec Christine Delvaux qui lui donnera deux fils, Jonathan et Julien.
Il meurt le 20 août 1980 à l'âge de 41 ans d'une crise cardiaque (infarctus du myocarde) pendant des vacances à Papeete, Tahiti. Il déjeunait avec sa famille et des amis au restaurant "Chez Michel et Eliane", puis à midi, il est pris d'un malaise qui lui sera fatal. Il mourra quelques heures plus tard
On peut voir sa tombe à l'Hollywood Forever Cemetery, un cimetière d'Hollywood à Los Angeles en Californie.
C'est le compositeur (disparu) qui rapporte le plus de droits d'auteur en France (devant Michel Berger et Daniel Balavoine).