L'apprendimento di un [[classificatore]] [[Supervisioneapprendimento supervisionato|supervisionato]] è tipicamente effettuato a partire da un [[insieme di addestramento]] (training set). Molti approcci alla supervisione cercano relazioni empiriche tra i dati dell'insieme di addestramento che tendono a generare il fenomeno del cosiddetto [[sovradattamento]] (overfitting). Ciò significa che tendono a identificare relazioni nell'insieme di addestramento che non valgono in generale. Per verificare se le relazioni empiriche apprese dal classificatore sono realmente generali, si usa appunto un test set, tipicamente disgiunto dall'insieme di addestramento.
