Jože Karlovšek je bil rojen 12. februarja 1900, v Šmarjeti pri Novem mestu. Oče, Janez Karlovšek je bil posestnik, gostilničar in trgovec. Leta 1923 je končal v Ljubljani Srednjo tehniško šolo, gradbeni oddelek. Izpit za stavbenika je opravil leta 1930, kasneje je bil njegov poklic preimenovan v višjega gradbenega tehnika. Poročen je bil z Julijo Weble, s katero sta imela pet otrok; Evo, Mileno, Janeza, Alenko in Matjaža. Leta 1936 se je dokončno preselil v Domžale, kjer je 22. oktobra 1963 umrl.

Kot gradbeni strokovnjak je sodeloval pred drugo svetovno vojno pri gradnji tovarne Celuloza v Vidmu pri Krškem. Po vojni je sodeloval pri izgradnji nove Kartonažne tovarne v Ljubljani in pri izgradnji Papirnice na Količevem pri Domžalah. Zadnja zaposlitev je bila na Srednji gradbeni šoli v Ljubljani, kjer je predaval tehnične predmete in sestavljal strokovne učbenike. Leta 1951 je prejel Prešernovo nagrado, kot sestavljavec najboljših tehničnih učnih knjig.

Leta 1931 je ustanovil in vodil tovarno za fino keramiko Dekor v Ljubljani, pri njeni ustanovitvi pa je bila ključna prav njegova vsestranska nadarjenost in strokovnost.

Projektiral in patentiral je votlo opeko za montažne opečne strope in preklade z imenom Radomka.

Leta 1953 je prejel naziv iznajditelj za postopek slikanja na les z lužnimi barvami. Leta 1960 je prejel Trdinovo nagrado za življenjsko delo in prispevek k znanosti.

Jože Karlovšek je bil neutrudni raziskovalec slovenske stavbne dediščine in umetnostne obrti.

Povzpel se je med naše najvidnejše raziskovalce ljudskega blaga v gradbeništvu in slikarstvu ter s samosvojim načinom dela oral ledino na tem področju. Prav ornament je zagotovo pravo jedro Karlovških raziskav in tako je leta 1935 izdal knjigo Slovenski ornament. Poleg tega dela je o tej tematiki izdal še drugo knjigo o ljudskih in obrtniških izdelkih.

Izdal je več knjig o slovenski hiši in o slovenskem ornamentu. Karlovšek je bil vnet zbiralec slovenskih bajk in pripovedk. Njegove zbrane bajke in pripovedke iz leta 1959, v katerih raziskuje slovensko mitologijo, je v rokopisu šele dobrega pol stoletja po njegovi smrti leta 2016 izdalo Društvo Slovenskih starovercev. Knjiga je dragocen dokument slovenskega ljudskega izročila. Karlovška je raziskovanje ornamenta zapeljalo v slovensko in slovansko bajeslovno izročilo in mitologijo, odkritja so ga tako prevzela, da je začel mitološka bitja celo upodabljati na lesu. Tako lahko v knjigi vidimo podobe slovenskih božanstev in številna druga bitja, kot so vile, škrati,  povodni mož, hišna kača. To je sploh prva ilustrirana knjiga o slovenskih mitologiji. Knjigo bogatijo še Karlovškove avtorske pesnitve bogovom.

Jože Karlovšek je bil avtor številnih člankov o umetnostni obrti, o keramiki in drugih strokovnih člankov. Umetnosti zgodovinar dr. Nace Šumi je v l. 2006 napisal knjigo “Jože Karlovšek, poklic in poklicanost”. Knjigo je izdalo Muzejsko društvo Domžale.

V rojstnem kraju, Šmarjeti mu je posvečen bronasti kip, ki je delo akademskega kiparja Borisa Prokofjeva. Svoj čas je bila v njegovi rojstni hiši v Šmarjeti urejena tudi spominska soba in stalna razstava.

V slovenskem merilu je Jože Karlovšek opravil izjemno delo, po mnenju mnogih, neprecenljivo toda prepogosto pozabljeno. Več njegovih rizb in zapisov je ostalo v originalu in še čakajo na objavo.

Leta 2015 je nastalo raziskovalno delo Digitalizacija ornamentov slovenske krasilne umetnosti Jožeta Karlovška, v sklopu natečaja Mladi za Celje, katerega je izdala Mestna občina Celje, raziskovalno nalogo so opravili dijaki Srednje šole za strojništvo, mehatroniko in medije, pod mentorstvom prof. Marka Radosavljeviča.

Matjaž Brojan, novinar, publicist in kulturni delavec je v lesu izrezljal posebno serijo slovenskih ornamentov po Jožetu Karlovšku ter jih leta 2016 razstavil v Menačnikovi domaciji v Domžalah in v Hiši žive dediščine v Beli Cerkvi.

V zadnjih letih so se v Domžalah in Šmarjeti odvili številni dogodki, posvečeni delu in ustvarjanju Jožeta Karlovška.