Esordisce tra i professionisti nel 1958, all'età di 17 anni, con i {{Calcio Rangers|N}}, club della prima divisione scozzese. Rimane in squadra anche durante tutti gli anni '60, giocando con buona regolarità e disputando in totale 171 partite (con 9 reti) in campionato. Nel corso di questi dodici anni nel club vince tra l'altro quattro campionati scozzesi, cinque Coppe di Scozia e quattro Coppe di Lega, oltre a giocare varie partite nelle competizioni UEFA per club, tra le quali anche la [[Finale della Coppa delle Coppe 1966-1967|finale]] della [[Coppa delle Coppe 1966-1967]], persa per 1-0 contro i tedeschi del {{Calcio Bayern Monaco|N}}. In particolare, gioca in tutto 9 partite in Coppa dei Campioni<ref name=Stats>{{Cita web|url=https://www.calcio.com/profilo_giocatori/david-provan/2/|titolo=Statistiche}}</ref>, 11 partite in Coppa delle Coppe e 2 partite (nelle quali segna anche una rete) in [[Coppa delle Fiere]]<ref name=Stats></ref>. Nell'estate del 1970 si trasferisce in [[Inghilterra]], ai londinesi del {{Calcio Crystal Palace|N}}: trova però poco spazio, giocando solamente una partita di campionato nella prima divisione inglese<ref name=Stats></ref>, e così già nel marzo del 1971 scende in terza divisione al {{Calcio Plymouth|N}}, dove rimane fino al termine della stagione 1973-1974 per un totale di 129 presenze e 10 reti in partite di campionato con i ''Pilgrims''. Chiude infine la carriera giocando per una stagione nel {{Calcio St. Mirren|N}}, con cui disputa 13 incontri nella prima divisione scozzese.