Karl Rumbold war beim Start der ersten österreichischen Fußballmeisterschaft 17 Jahre alt. Obwohl er als „Vienna Legende“ in die österreichische Fußballgeschichte einging, war er beim Start der ersten Fußballmeisterschaft in der Saison 1911/12 beim SC Simmering unter Vertrag.
Rumbold feierte sein Debüt als 18-jähriger am 12. Mai 1912 beim Spiel zwischen Simmering und dem WAF am Simmeringer Sportplatz, welches 3:5 für die Simmeringer verloren ging. Die Kritik der Experten war vernichtend. Karl Rumbold spielte zu unbeholfen und viel zu langsam, schrieb am Tag darauf die Wiener Sportpresse.
Trotzdem ließ er sich durch die negative Presse nicht einschüchtern und ging weiter seinen Weg. Im Sommer 1912 wechselte er dann auch den Verein und ging nach Döbling zur Vienna. Dort spielte er dann auf seiner Lieblingsposition in der Verteidigung. Bei den Simmeringern musste er als rechter Verbindungsstürmer einlaufen, was ihm sichtlich weniger lag.
Bei der Vienna etablierte er sich bald und gehörte in der Saison 1913/14 mit Franz Urban zu einem sehr starken Abwehrverbund, der in der Liga zu den besten zählte.
Im Ersten Weltkrieg wurde Karl Rumbold schwer verwundet und es wurde ihm das Ende seiner Karriere vorausgesagt. Trotzdem kämpfte er sich zurück und spielte noch während des Krieges weiter erstklassigen Fußball. Später schlug er die Trainerlaufbahn ein und betreute unter anderem den spanischen Spitzenverein Sporting Gijon.