Fu fondata, secondo la leggenda, da Diomede sulle ultime propaggini delle Murge settentrionali. Città dauna, Canusium divenne quindi alleata di Roma al tempo delle guerre puniche e, in età imperiale, stazione principale della via Traiana, nonché il centro più fiorente della regione, celebre per la produzione di lana pregiata e di vasi a figurazioni policrome. Divenuta nel IV secolo capoluogo di regione e diocesi, iniziò a decadere con la fine dell’Impero Romano. Dopo aver subito varie invasioni, fu presidio dei Normanni e fece parte del Regno di Sicilia e poi di Napoli fino al 1861, dove conobbe nuovi momenti di massimo splendore.

La cattedrale di San Sabino eretta nel 1080 su una precedente basilica bizantina, fu ricostruita dopo il violento terremoto del 1689. Il grandioso interno basilicale, a croce latina, custodisce alcune antiche sculture come il pulpito in marmo (XI sec.) di Acceptus, il pergamo e la cattedra vescovile retta da elefanti, firmata da Romualdo. Dal transetto si entra nel mausoleo sepolcrale del principe Boemondo di Antiochia, monumento funebre a pianta quadrata sormontata da una cupola, con la tomba del figlio di Roberto il Guiscardo, morto nel 1111. Di grande rilievo è la porta bronzea con decorazione scultorea di Ruggero di Melfi.

Il museo civico ha sede nel settecentesco palazzo Casieri e vi sono conservati numerosi reperti archeologici: corredi funerari (V-III secolo a.C.), ceramica di Gnathia, rilievi, armi.

Risalendo da via Sabina, in posizione dominante si ergono le vestigia del castello turrito, sul luogo dell'acropoli romana, di cui oggi rimangono tracce di muraglioni.

Poco fuori dell'abitato, sulla statale 98 per Cerignola, costeggiata dai resti di grandi sepolcri romani, si trova l'imponente arco romano, detto porta Varrone, ad arcata unica, e i resti di due torri, testimonianze uniche dell'antica via Traiana. Sul lato opposto è il ponte romano sull'Ofanto, a cinque arcate, risalente all'età traiana.

Nella zona degli Ipogei si trovano tre tombe di età ellenistica (IV-III secolo a.C.); la più vasta, detta Lagrasta, è formata da un corridoio e da nove celle decorate; interessante anche l'ipogeo del Cerbero.

Ai margini della cittadina si trovano le rovine della basilica paleocristiana di San Leucio, costruzione a pianta centrale che venne eretta nel V-VI secolo su un antico tempio italico. Grande interesse hanno i capitelli figurati e il pavimento musivo. Degni di nota sono ancora il battistero di San Giovanni e la basilica di Santa Sofia (V secolo).