Austrijski trg nalazi se na lijevoj obali Miljacke, podno naselja Bistrik.

Upravo u neposrednoj blizini tog mjesta krajem 15. stoljeća izgrađene su prve velike građevine u Sarajevu – Careva džamija i dvor osmanskog namjesnika – saraj, po kojem je Sarajevo i dobilo ime.

Trg je formiran na samom početku 20. vijeka, izgradnjom austro-ugarskih vojnih objekata sa njegove istočne i zapadne strane, pa je po njima sprva nazvan Vojni trg.

Kasnije je spojen sa susjednim Filipovića trgom (At Mejdan), koji je 1910. godine nazvan Trg Franje Josipa I.

Prostor današnjeg trga je 10. januara 1919. dobio ime Rankovićev trg, po generalu Živanu Rankoviću, komandantu jedinice srpske kraljevske vojske, koja je 6. novembra 1918. niz Bistrik ušla u Sarajevo, označivši time definitivni kraj austro-ugarske epohe u BiH.

Nakon Drugog svjetskog rata nazvan je Trg 6. aprila, u spomen na dan kada je Sarajevo oslobođeno od fašističke okupacije.

Od 1993. godine nosi ime Austrijski trg, slaveći prijateljstvo između Republike Austrije i Bosne i Hercegovine.