W uroczystość Wszystkich Świętych przypominamy sylwetki czterech duchownych z Górnego Śląska. Wszyscy zginęli śmiercią męczeńską.
Urodził się w Józefce pod Piekarami. Był synem górnika Piotra oraz Gabrieli z domu Opara.
Do szkoły ludowej uczęszczał w Józefce. Następnie uczył się w gimnazjum w Bytomiu. W marcu 1904 roku zdał egzamin dojrzałości. Po maturze rozpoczął studia na Wydziale Teologii Katolickiej Uniwersytetu Wrocławskiego. Zaangażował się wtedy w działalność polskich towarzystw młodzieżowych: Kółka Polskiego, Związku Młodzieży Polskiej „Zet” oraz organizacji polskich studentów „Swoi”.
Święcenia kapłańskie przyjął 22 czerwca 1908 roku we Wrocławiu z rąk kard. Jerzego Koppa.
Jego pierwszą placówką wikariuszowską była parafia św. Józefa w Rudzie, gdzie ks. Czempiel skutecznie prowadził różnorodną działalność, m.in. propagował częstą Komunię św., zachęcał do udziału w rekolekcjach zamkniętych.
Głównym przedmiotem jego troski duszpasterskiej stał się problem alkoholizmu. Ożywił istniejące Stowarzyszenie Wstrzemięźliwości oraz powołał do życia Stowarzyszenie Abstynentów. W Rudzie założył jedną z pierwszych na Śląsku poradnię dla alkoholików i ich rodzin. Po latach posługi w różnych parafiach, w marcu 1918 roku, został wikariuszem w parafii św. Michała Archanioła w Dziećmarowach. Popadł tam w konflikt z władzami zwierzchnimi z powodu wprowadzenia języka polskiego do nauki przygotowawczej przed I spowiedzią i Komunią św. W styczniu 1919 roku został przeniesiony do parafii św. Bartłomieja w Kielczy. Tam wykazał się zdecydowaną działalnością o charakterze narodowym i społecznym. Włączył się m.in. w działalność Zjednoczenia Zawodowego Polskiego, organizował kursy języka polskiego i historii. W Żędowicach założył Towarzystwo Polek, działał także w ruchu społecznym. Jego polityczna i społeczna aktywność zwróciła uwagę niemieckich bojówek. Ich ponawiające się pogróżki spowodowały konieczność opuszczenia przez ks. Czempiela Żędowic.
W czerwcu 1922 roku objął administrację parafii Wniebowzięcia Najświętszej Maryi Panny w Hajdukach Wielkich. W działalności duszpasterskiej, oprócz zwykłej posługi kapłańskiej, ks. Czempiel położył akcent na sprawy społeczno-kulturalne. Dzięki niemu zorganizowano komitet pomocy bezrobotnym, powstało kino oraz sklep, w którym sprzedawano książki i czasopisma religijne. Od 1929 roku wydawał „Wiadomości Parafialne” jako dodatek do „Gościa Niedzielnego”. W swej hajduckiej parafii opiekował się wieloma, polskimi i niemieckimi, organizacjami katolickimi; wśród nich m.in.: III Zakonem św. Franciszka z Asyżu, Katolickim Stowarzyszeniem Mężów, Katolickim Kołem Abstynentów i Bractwem Komunii Wynagradzającej. Dzięki niemu powstała w Hajdukach nowa parafia i kościół pod wezwaniem Najświętszego Serca Pana Jezusa.
Największe zasługi położył jednak w organizacji w ruchu trzeźwościowego i abstynenckiego. Wśród licznych form działalności na rzecz trzeźwości, które rozwijał ks. Czempiel w diecezji katowickiej, należy podkreślić coroczne Tygodnie Propagandy Trzeźwości. Przy pomocy Stowarzyszeń Abstynenckich, skupionych w Zarządzie Diecezjalnym, organizował poradnie przeciwalkoholowe, urządzał wystawy trzeźwościowe. Wydał nawet „Zbiór pieśni przeciwalkoholowych, religijnych, narodowych i towarzyskich”.
Był współzałożycielem Katolickiego Związku Abstynentów i prezesem Komitetu Wykonawczego Katowickiego. Zasiadał w zarządzie śląskiego okręgu Polskiej Ligi Przeciwalkoholowej i przyczynił się wydatnie do jej upowszechnienia w diecezji katowickiej. Był prezesem koła katowickiego Związku Księży Abstynentów i opiekunem wchodzącego w jego skład Koła Kleryków. Należał do Zarządu Głównego Związku Stowarzyszeń Katolików Abstynentów.
Za działalność społeczną otrzymał Złoty Krzyż Zasługi. W czasie II wojny światowej w kwietniu 1940 roku ks. Czempiel został aresztowany przez gestapo i wywieziony do obozu koncentracyjnego w Dachau. Przez kilka miesięcy przebywał w obozie koncentracyjnym Mauthausen-Gusen, po czym powrócił do Dachau.
Ks. Józef Czempiel zginął prawdopodobnie 4 lub 5 maja 1942 roku. Odszedł do wieczności w 59. roku życia i w 34. roku kapłaństwa. Znalazł się w gronie 108 polskich męczenników II wojny światowej wyniesionych na ołtarze 13 czerwca 1999 roku w Warszawie przez papieża Jana Pawła II.