Don Gibson est né à Shelby, Caroline du Nord, dans une famille de classe moyenne. Il monta son premier groupe Sons of the Soil assez jeune et enregistra avec eux son premier titre en 1948. En 1957, il se rendit à Nashville pour enregistrer "Oh Lonesome Me" et "I Can't Stop Loving You" pour la Radio Corporation of America. L'enregistrement deviendra un hit des classements pop et country.
"Oh Lonesome Me" fut le premier d'un série de succès dont "Blue Blue Day" qui sera numéro 1 en 1958. Suivrons "Look Who's Blue" (1958), "Don't Tell Me Your Troubles" (1959), "Sea of Heartbreak" (1961); "Lonesome No. 1", "I Can Mend Your Broken Heart" (1962), et "Woman (Sensuous Woman)", un autre numéro 1 en 1972.
Compositeur de talent, Gibson sera surnommé The Sad Poet à cause de ces nombreuses chansons parlant de la solitude et de l'amour perdu. Sa chanson "I Can't Stop Loving You", sera reprise par plus de 700 artistes, dont Ray Charles en 1962. Il a également écrit et enregistré "Sweet Dreams", une chanson qui deviendra plus tard en 1963 un succès à travers la voie de Patsy Cline. Roy Orbison sera un grand fan de l'écriture de Gibson et, en 1967, il enregistra un album nommé Roy Orbison Sings Don Gibson.
Après son décès en 2003, l'artiste fut enterré dans le Sunset Cemetery de Shelby, sa ville natale.