Hapoel Haifa Football Club założony został w roku 1924. Klub ten ma pseudonim "Rekiny", co ma silny związek z herbem, na którym na czerwono-granatowym tle znajduje się rekin. Swoje domowe spotkania Hapoel rozgrywa w czerwonych trykotach na Sammy Ofer Stadium, który pomieści 30 942 widzów, jest to drugi co do wielkości stadion piłkarski w Izraelu.
Swój pierwszy mecz Hapoel Hajfa rozegrał w Święto Pracy 1924 roku przeciwko pracownikom kolei z Hajfy, mecz zakończył się wygraną klubu piłkarskiego 3:1. Cztery lata później powstał Izraelski Związek Piłki Nożnej, dzięki czemu Hapoel zaczął występować w rozgrywkach ligowych i pucharowych w swoim kraju.
W 1932 roku zagrali w finale pucharu przeciwko drużynie brytyjskich policjantów, lecz całe spotkanie było bardzo kontrowersyjne z uwagi na decyzje sędziowskie, arbitrem tego meczu był bowiem Brytyjczyk. Spotkanie zakończyło się w kuriozalny sposób, mianowicie jeden z zawodników Hapoela ukradł puchar, a jego drużyna została zdyskwalifikowana.
Hapoel Hajfa po swoje pierwsze mistrzostwo kraju sięgnął w sezonie 1998/99. Wyprzedzili wówczas dwa najbardziej utytułowane kluby w kraju, Maccabi Tel Awiw oraz rywali zza miedzy, Maccabi Hajfę.
To właśnie Maccabi Hajfa jest odwiecznym rywalem Hapoelu. Od wielu lat ich fani wzajemnie się nienawidzą, choć spór między klubami powoli zanika. Jest to spowodowane licznymi osiągnięciami Maccabi Haify, który sprawił, że na mecze domowe Hapoelu przychodzi coraz mniej kibiców tego klubu.
