Vancaš je rođen 22. marta 1859. godine u mađarskom gradu Sopronju, gdje je njegov otac radio kao poštanski činovnik.
Nakon što mu je otac imenovan za direktora zagrebačke pošte 1865. godine, Vancaš dolazi u Zagreb gdje završava Realnu gimnaziju, a potom odlazi na studij arhitekture u Beč.
Diplomirao je u klasi Friedricha Schmidta, jednog od najznačajnijih bečkih arhitekata i vrsnog poznavatelja gotičkog stila koji je, među brojnim zgradama, projektirao i bečku gradsku vijećnicu.
Mladi i talentirani arhitekt
Kao mladi i talentirani arhitekt Vancaš na poziv bosanske vlade 1883. godine dolazi u Sarajevo, a u gradu na Miljacki provodi najveći dio svog radnog vijeka. Tokom 38 godina rada u BiH – od 1883. do 1921. godine – projektovao je 102 stambene zgrade, 70 crkvi, 12 škola, deset banaka, deset palača, deset vladinih i općinskih zgrada, te šest hotela i kafana.
Među ovim zgradama posebno se ističu sarajevska Katedrala Srca Isusova, zgrada glavne sarajevske pošte, Predsjedništvo BiH, Franjevački samostan, hotel Grand u Titovoj ulici (danas zgrada Zavoda za platni promet ispred koje se nalazi Vječna vatra, a koju je Vancaš projektovao u saradnji s Karlom Paržikom), groblje na Koševu, Muzička akademija...
Za izgradnju zgrade Zemaljske vlade (današnje Predsjedništvo BiH) i sarajevske Katedrale je 1889. godine odlikovan viteškim križem Franje Josipa I, a 1898. godine odlikovao ga je i papa Lav XIII viteškim križem Sv. Georga.
Svoje radove izložio je na svjetskim izložbama u Budimpešti (1896. godina), Beču (1898. godina) i Parizu (1900. godina).
Kreiranje bosanskog stila
Vancaš je proučavao bosansko narodno graditeljstvo i nastojao primjenom njegovih karakterističnih elemenata u praksi kreirati tzv. “bosanski stil”.
Prema teoretičaru arhitekture, profesoru Nedžadu Kurti, Vancaš je shvatio vrijednosti podneblja u kojem je stvarao, te ih je uspio transformirati u duhu arhitektonskih tokova Evrope i svijeta. Od ranih radova orijentirao se na pseudomaurski stil, ostvarujući u posebnom arhitektonskom izrazu tzv. “bosanski slog”, koji je predstavljao specifičnu ranu modernu u Bosni i Hercegovini.
Josip Vancaš se bavio i drugim aktivnostima. Učestvovao je u političkom životu grada kao zamjenik gradonačelnika i predsjednik Hrvatske katoličke udruge, a kao zastupnik u Saboru Bosne i Hercegovine je 1911. podnio rezoluciju o zaštiti spomenika kulture u BiH. Kako je rođen u Sopronju, gradu odakle su i kompozitori Franz Liszt i Béla Bartók, bio je i
strastveni ljubitelj muzike, pa je osnovao i Muški pjevački zbor sa kojim je godinama nastupao kao solista i dirigent.
Iz Sarajeva se preselio u Zagreb 27. septembra 1921. godine, gdje je i umro 15. decembra 1932. godine.
Josip Vancaš je svojim građevinama ostavio snažan pečat na vrijeme u kojem je stvarao, te je, poput arhitekata Karla Paržika, Juraja Neidhardta i Ivana Štrausa, dao nemjerljiv doprinos razvoju arhitekture Bosne i Hercegovine.
Njegovo ime danas nosi ulica iznad Velikog parka u centru Sarajeva