1914-ben született Morvaországban, Brno-Židenice-n. Apja neve nem ismert, nevelőapja František Hrabal sörgyári könyvelő, akihez anyja, Marie 1920-ban ment férjhez.

Hrabal a prágai Károly Egyetem jogi karára járt, a II. világháború alatt rövid ideig vasúti forgalmistaként dolgozott, majd 1946-ban fejezte be tanulmányait. Volt biztosítási ügynök, kereskedelmi utazó, és az 1950-es években a kladnói vasműben dolgozott fizikai munkásként. 1963-tól foglalkozásszerűen ír. Az 1970-es évek elején a csehszlovák hatóságok számos könyvét nem engedték megjelenni, így szamizdatokban és külföldön is publikált.

Több regényét is sörözőkben írta, talán ettől is olyan ember-közeliek a karakterei, akikről olyan különleges szeretettel beszél, mintha valóban a barátai lennének, nem elképzelt figurák. Hrabal műveiben mindig megjelenik az élet szeretete, mesélői hangja annyira egyedi, hogy a legegyszerűbb kezdőmondatával is maga után tudja vonni az olvasókat.

1997-ben halt meg galambetetés közben: kizuhant a prágai Na Bulovce kórház ötödik emeletéről.