Østrigsk fyr bliver et stateligt indtil 30 meter højt træ med en meget tæt, bred og regelmæssig krone. Barken er mørkt gråbrun til sortbrun og bliver hurtigt skorpet med dybe furer. Nålene sidder sammen parvis og er tætstillede. De er 10-15 cm lange, mørkegrønne, meget stive og er halvcirkelformede i tværsnit.

Som hos andre fyrretræer sidder hanblomsterne ved langskuddets grund, hvorimod hunblomsterne sidder i stande på sideskuddenes plads. Hanblomsterne er kegleformede og ca. 2 cm lange. Hunblomsterne er små, kugleformede og rødlige. Koglerne er spidst ægformede, relativt store med en længde på op til 7-9 cm og har brede kogleskæl. Før modenhed er koglerne først gulligbrune til grønne og derefter gråbrune med et violet skær mellem kogleskællene. Frøene er flade, 4-5 mm store og med frøvinger, der er op til 25 mm lange.