[[File:Karl-Heinz Rummenigge, Germania Ovest, Euro '80.jpeg|thumb|right|Rummenigge in azione contro i {{NazNB|CA|NLD}} durante il {{EC|1980}}.]]
Fu lanciatoEsordì in [[Nazionale di calcio della Germania|nazionale]] nelil 6 ottobre 1976 nella vittoria per 2-0 contro il {{NazNB|CA|WAL}}, per poi parteciparefigurare altra i ventidue convocati per {{WCWC2|1978}}: conqui 3giocò tutte le sei gare, segnando una doppietta all'esordio col {{NazNB|CA|MEX}} e un gol nell'ultima partita, [[Miracolo di Córdoba|la spettacolare gara]] contro l'{{NazNB|CA|AUT}} che tuttavia sancì di fatto l'eliminazione della Germania retiOvest. Vinto il [[Campionato europeo di calcio 1980|titolo europeo nel 1980]], segnòpartecipò 5anche a {{WC2|1982}}: mise a segno il gol altedesco nella sconfitta contro l'{{WCNazNB|1982CA|DZA}} e una tripletta contro il {{NazNB|CA|CHI}}. Segnò nuovamente [[Notte di Siviglia|nella semifinale]] contro la {{NazNB|CA|FRA}}: entrò in campo nei [[tempi supplementari]] sul risultato di 3-1 per gli avversari, e segnò il 3-2. La partita venne poi vinta dai tedeschi ai [[calci di rigore]], ma nella [[Finale del campionato mondiale di calcio 1982|finale]] contro l'{{NazNB|CA|ITA}}, frenato da acciacchi fisici<ref name=monti/> e ben marcato dal diciottenne [[Giuseppe Bergomi|Bergomi]],<ref>{{cita news|url=https://www.nytimes.com/1982/07/12/sports/the-man-who-marked-rummenigge.html|titolo=A Teen-Ager Who Marked Rummenigge|lingua=en|pubblicazione=The New York Times|autore=George Vecsey|data=12 luglio 1982}}</ref> non riuscì a incidere, e la sua squadra perse 3-1.
Conquistò la medaglia d'argento anche ala {{WCWC2|1986}}, dove segnò all'{{NazNB|CA|ARG}}una nellasola finalissima:rete, inella tedeschi[[Finale vennerodel sconfitticampionato con il risultatomondiale di 3-2.calcio Il1986|finale]] golcontro ail'{{NazNB|CA|ARG}}: sudamericanial fumomento ili 45ºsudamericani e ultimoerano in nazionale,vantaggio poichéper dopo l'incontro Rummenigge non vestì più la maglia tedesca2-0, cone cuialla avevafine assommatovinsero 95per presenze3-2.
Questo fu anche l'ultimo incontro giocato con la Nazionale: Rummenigge chiuse con 95 presenze e 45 gol.
