Der legendäre und groß gewachsene Innenverteidiger trat zum ersten Mal am 30. Juni 1912 in einem Meisterschaftsspiel für die Vienna zum Vorschein. Es war das letzte Spiel der allerersten Saison 1911/12 und endete mit einem 2:2 gegen den WAC auf der alten Hohen Warte. Karl Rumbold spielte rechter Verteidiger.
Karl Rumbold kam allerdings ursprünglich vom SC Simmering und hatte dort auch seinen ersten Meisterschaftseinsatz zu verzeichnen. Am 12. Mai 1912 lief er am ersten Simmeringer Sportplatz gegen den großen WAF ein. Es setzte eine 3:5 Heimniederlage und das Debüt von Karl Rumbold verlief wenig erbaulich. Am nächsten Tag schrieb eine Zeitung: „Der Simmeringer Karl Rumbold spielte zu unbeholfen und agierte zu langsam.“ Rumbold wurde allerdings als rechter Verbinder im Angriff auf das Feld geschickt. Dass er viel besser als Abwehrspieler agieren würde, wussten die Simmeringer damals noch nicht. Rumbold war damals gerade einmal 18 Jahre alt.
In der Saison 1912/13 war er dann schon fixer Bestandteil der Mannschaft und bildete im Eröffnungsspiel am WAF Platz beim 4:1 Sieg über Simmering mit dem ebenso legendären Heinrich Retschury die Innenverteidigung.
In dieser Saison befand sich die Vienna zum ersten Mal im Abstiegskampf. Der junge Karl Rumbold konnte damit nicht immer gut umgehen. Nach einer 1:3 Heimniederlage gegen Ex-Verein Simmering konnte man am nächsten Tag in der Zeitung lesen: „Bei der Vienna lagen im Abstiegskampf die Nerven blank. Zwei Spieler, Karl Rumbold und Ludwig Kohn, wurden in der zweiten Halbzeit ausgeschlossen. Vienna spielte von Beginn an mit einer unnötigen Härte, die eben dann in der zweiten Halbzeit in diese zwei Ausschlüsse mündete. Bei Karl Rumbold war es rohes Spiel. Ludwig Kohn wurde wegen Schiedsrichterbeleidigung ausgeschlossen.“
In der Saison 1913/14 zählte Karl Rumbold bereits zu den besten Verteidigern Österreichs. Obwohl er mit dem überragenden Riesentalent Franz Urban oft die Innenverteidigung bildete und dieses Gespann einen hohen Stellenwert genoß, konnte der Abstieg der Vienna nicht verhindert werden.
Karl Rumbold am 1. März 1914 bei der 1:3 Heimniederlage gegen die Amateure als er gerade den Ball zu Torhüter Roland Steinbrecher zurückspielte.
Nach dem Abstieg der Vienna und ihrem Austritt aus dem Verband, wechselte Karl Rumbold in der Kriegssaison 1995 zum WAF. Am 29. August 1915 wurde er für diesen Transfer allerdings für ein Jahr gesperrt: „Der Vienna Innenverteidiger Karl Rumbold wollte von der vom Verband ausgetretenen Vienna zum WAF wechseln. “ Er blieb also bei den Döblingern und als die Vienna wieder in den Verband eintrat und in der zweiten Liga spielte, kam auch er wieder zum Einsatz. Bei einer unglücklichen Niederlage gegen Zweitliga Topmannschaft Wacker am 17. Dezember 1916 zählte er zu den besten Spielern am Feld.
In der Saison 1917/18 bildete er mit dem Ex-Rapidler Josef Klima oft die Innenverteidigung seiner Mannschaft und das mit großartigem Erfolg. Am 29. Juli 1917 wurde berichtet: „Die Abwehr der Vienna hatte mit Rumbold und dem ehemaligen Rapidler Josef Klima Erstliganiveau.“ Am 21. April 1918 wurde ihm beim 8:4 Auswärtssieg gegen die Admira aber zu derbes Spiel nachgesagt.
Am 30. Mai 1918 wurde er als Zweitligaspieler in den Kader der Nationalmannschaft einberufen. Am 14. Juli 1918 war er beim Spiel zwischen einer Auswahl der zweiten Spielabteilung Wiens und einer Auswahl der zweiten Spielabteilung von Budapest. Seine Mannschaft siegte vor 4.000 Zuschauern auf der alten Hohen Warte 6:1 und war so dominant, dass Karl Rumbold als Abwehrspieler fast nichts zu tun bekam. Einige Tage später wurde berichtet: „Wie erst nun bekannt wurde musste Vienna Verteidiger Karl Rumbold das Städtespiel gegen Budapest unter stärkster Übelkeit bestreiten. „Die Sport Rundschau schrieb: „Nur wenige Zuschauer werden es bemerkt haben, dass er das Spiel nur mit der größten Anstrengung bis zum Ende durchhalten konnte.“ Umso höher musste man daher seine grandiose Leistung in dieser Partie einschätzen.
Am 6. September 1918 wurde er, kurz vor Kriegsende, noch an die Front geschickt.
Als die Vienna ab der Saison 1919/20 wieder erstklassig spielte, war Karl Rumbold immer noch dabei. Beim 1:5 zu Hause gegen Rudolfshügel kam er in der Presse aber nicht mehr so gut weg wie früher: „Karl Rumbold präsentierten sich nicht erstligareif und brachten damit ihre Mannschaft in arge Nöte.“ Auch in den Spielen danach waren seine Leistungen nicht wie jene wie vor dem Krieg. Er spielte nervös und unsicher, erzielte Eigentore und es kam zu vielen Missverständnissen mit seinen Mitspielern.
In den Wochen darauf wurde er von Trainer Dr. Michl Schwarz in der Mittelfeld gezogen. Dort zeigte er dann bessere Leistungen. Auch als Spielmacher im Zentrum machte er sich ganz gut. Bei der 0:1 Niederlage auswärts beim Sportclub am 22. Februar 1920 ging er auch mal in das Tor, als sein Tormann Ludwig Pekarna ausgeschlossen wurde. Viel bekam er allerdings nicht mehr zu tun.
Später kam Karl Rumbold auch wieder als Verteidiger zum Einsatz. Seine Leistungen stabilisierten sich auch auf dieser Position und er kam dort bis zum Ende der Saison regelmäßig zum Einsatz.
Nach seiner Karriere als Spieler ging Karl Rumbold später als Trainer nach Italien. In der Saison 1932/33 trainierte er unter anderem den FC Genua und erreichte mit ihm in Italiens höchster Spielklasse den 8. Platz. Im Zweiten Weltkrieg bis Juni 1940 war in Frankreich beim RC Strasburg dass damals allerdings kurz zum Deutschen Reich gehörte. Nach dem Krieg verschlug es ihn nach Spanien zu Sporting Gijon. Rumbold starb am 28. Oktober 1965.