Josef Grabner hatte sein Debüt in einem Meisterschaftsspiel in der letzten Runde der Saison 1911/12 beim 2:2 auf der alten Hohen Warte gegen den WAC am 30. Juni 1912. Der Döblinger kam dabei, neben Topstar, Mittelstürmer und Torschützenkönig Johann Schwarz, als rechter Verbindungsstürmer zum Einsatz.
In der nächsten Saison war er dann schon fixer Bestandteil der Mannschaft. Eine Saison darauf, am 21. September 1913, bei der 1:2 Heimniederlage gegen den FAC, fiel er zum ersten Mal mit einer sehr starken Leistung auf. Grabner war ein hervorragender Kombinationsspieler. Er war technisch stark und konnte die Bälle gut annehmen und weiterleiten. In diesem Spiel erzielte er auch das Führungstor.
Josef Grabner war allerdings nicht nur ein guter Kombinationsspieler, sondern er war auch in der Lage für gefährliche Abschlüsse zu sorgen. In der Saison 1912/13 trat er mehrmals als Torschütze in Erscheinung und seine Leistungen wurden in der Wiener Sportpresse immer lobend erwähnt.
In der Saison 1913/14 konnte er trotz hervorragender Leistungen den Abstieg seiner Mannschaft nicht verhindern. Als im Sommer 1914 dann auch noch der Erste Weltkrieg ausbrach und die Vienna aus dem Verband austrat, verschwand Josef Grabner für einige Zeit von der Bildfläche.
Erst in der Saison 1916/17, als die Vienna wieder in den Verband eintrat und in der zweiten Liga spielte, war Josef Grabner auch wieder mit dabei und machte mit guten Leistungen und Toren Schlagzeilen. Grabner blieb auch in der Saison 1917/18 bei seinen Döblingern und zählte in fast jeder Partie immer zu den besten Spielern.
In der Saison 1918/19 trat Grabner dann auch als Mittelfeldspieler in Erscheinung und war maßgeblich am Aufstieg der Vienna in die höchste Spielklasse beteiligt. Am 24. August 1919 war er dann beim ersten Spiel der Saison (4:1 Auswärtssieg beim zweiten Aufsteiger Admira) aber nicht dabei. Erst im zweiten Spiel, bei der 1:5 Heimniederlage gegen Rudolfshügel am 14. September 1919, stand er als rechter Mittelfeldspieler am Feld.
Josef Grabner war in den Jahren gereift. Nun galt er nicht nur als guter und torgefährlicher Kombinationsspieler, sondern auch als zweikampfstark. Beim 1:1 auswärts gegen den Meister Rapid am 12. Oktober 1919, bissen sich die Stars der Hütteldorfer regelmässig die Zähne an ihm aus. Er war nicht zu überspielen.
Am 26. Februar 1920 erkrankte Josef Grabner an einer Mittelohrentzündung.