Urodzony jako William Martin Joel w Bronksie w 1949 roku Billy Joel uczył się gry na fortepianie jako dziecko i został uznanym pianistą i autorem piosenek. Chociaż dołączył do zespołu o nazwie The Echoes, jego wczesne doświadczenie nagraniowe pochodziło z gry na fortepianie studyjnym podczas sesji nagraniowych i właśnie w tej roli występował w „The Leader of the Pack” Shangri-Las.
Billy Joel kontynuował grę z Echoes, gdy przekształcili się w Emeralds, a następnie w Lost Souls, kontynuując sesje grania. Następnie grał z rock and rollowym zespołem o nazwie The Hassles, a następnie w duecie o nazwie Attila, wydając trzy albumy i dwa single, z których żaden nie odniósł sukcesu.
W 1971 roku Billy Joel rozpoczął karierę solową debiutanckim albumem zatytułowanym Cold Spring Harbor. Błąd w masteringu spowodował, że prędkość kilku utworów była zbyt duża, a błąd został naprawiony dopiero w 1984 roku. Niemniej jednak Billy Joel wyruszył w trasę koncertową, miksując piosenki ze stand-upami i otrzymał pochlebne recenzje.
„Piano Man”, pierwszy singiel Billy’ego Joela z listy Top 40, był również źródłem tytułu jego pierwszego albumu dla Columbia Records. Jego kolejny album, Streetlife Serenade, osiągnął 35. miejsce. Kolejny album, Turnstiles, nie wypadł tak dobrze, ale The Stranger, który pojawił się później, osiągnął drugie miejsce i pokrył się platyną. To było źródło hitu Top 40 „Just the Way You Are”, a między piosenką a albumem Billy Joel wygrał zarówno Piosenkę Roku, jak i Rekord Roku Grammy w 1978 roku.
Billy Joel miał na swoim koncie wiele innych hitów Top 40, ale większe triumfy miały dopiero nadejść. W 1987 roku stał się jednym z pierwszych amerykańskich wykonawców rockowych, którzy grali w ZSRR od czasu zbudowania muru berlińskiego. W 1991 roku Billy Joel został uhonorowany nagrodą Grammy Living Legend Award. W 2002 roku Twyla Tharp wyreżyserowała i przygotowała choreografię do musicalu na Broadwayu z muzyką Joela zatytułowanego Movin’ Out. W 2006 roku ustanowił rekord 12 wyprzedanymi koncertami w nowojorskim Madison Square Garden. 4 lutego 2007 roku Billy Joel został pierwszym wykonawcą, który zaśpiewał hymn narodowy podczas dwóch Super Bowl.