Cavallo Pazzo (il cui nome in lingua originale lakota è, a seconda delle traslitterazioni, Tȟašúŋke Witkó , Tashunka Uitko o Tashunka Witko) nasce probabilmente nel 1844 nelle Black Hills (in lingua lakota, Paha Sapa).

Il suo nome, in realtà, vorrebbe dire precisamente "Il suo cavallo è pazzo", anche se la dizione "Cavallo pazzo" è ormai universalmente e storicamente utilizzata. Suo papà, a sua volta nominato Cavallo Pazzo (e più tardi Waglula, dopo aver ceduto il proprio nome al figlio), appartiene alla tribù degli Oglala, mentre sua madre, Rattling Blanket Woman, è una Minneconjou.
 
Conosciuto anche con il nome di Ricciuto, soprattutto negli anni della gioventù, in virtù dei suoi capelli molto ricci (evento piuttosto raro, tra i nativi americani, così come il loro colore molto chiaro), sopravvive alla distruzione del suo villaggio (dove viveva nell'accampamento di Lakota insieme con il suo fratello più piccolo, High Horse, e un cugino, Piccola Aquila) messa in atto dai soldati federali, e in conseguenza di quell'evento decide di mettersi alla guida dei Sioux Oglala per resistere alle uccisioni dei nativi compiute dai militari statunitensi.

Partecipa quindi al conflitto conosciuto come "Massacro di Grattan", che porta i Sioux a uccidere le forze dell'esercito statunitense. Dopo aver assistito alla morte di Conquering Bear, leader dei Lakota, Cavallo Pazzo inizia ad avere delle visioni. Suo padre Waglula lo porta in quello che oggi è conosciuto come Sylvan Lake, nel South Dakota, e qui entrambi si siedono per una richiesta di visione, una hemblecha: un'aquila con la coda rossa li conduce su una collina, dove tutti e due hanno diverse visioni.
 
Durante gli ultimi anni Cinquanta e i primi anni Sessanta dell'Ottocento, la reputazione di Cavallo Pazzo come guerriero cresce esponenzialmente, così come la sua fama tra i Lakota, al punto che le sue gesta vengono riportate nei racconti e tramandate di generazione in generazione. Il suo primo assassinio coinvolge un membro degli Shoshoni che aveva ucciso una donna Lakota; a esso seguono numerose battaglie contro i nemici tradizionali: gli Arikara, i Piedi Neri, i Pawnee, gli Shoshoni e i Crow. Nel 1864, dopo che la Third Colorado Cavalry ha decimato le tribù degli Arapaho e dei Cheyenne nel massacro del Sand Creek, Minneconjou e Oglala si alleano con loro contro l'esercito degli Stati Uniti. Cavallo Pazzo prende parte alla Battaglia di Platte Bridge e alla Battaglia di Red Buttes, che hanno luogo nel luglio del 1865. In quello stesso periodo, in virtù della sua abilità in battaglia, egli viene nominato Ogle Tanka Un, cioè un leader in guerra.
 
Il 2 agosto del 1867 è uno dei protagonisti della Wagon Box Fight, che va in scena vicino a Fort Phil Kearny. Il conflitto, però, si rivela perdente per i Lakota, complice la differenza tra le armi dei due schieramenti.

Insieme con Toro Seduto, Cavallo Pazzo è alla guida degli oltre mille guerrieri che il 25 giugno 1876, nella battaglia di Little Bighorn, hanno la meglio sui cavalleggeri dell'esercito guidato da George Custer. Tuttavia, il successo degli indiani dura poco, perché i federali, immediatamente ripresisi dal colpo, ottengono nuove vittorie in quello stesso anno. E così Cavallo Pazzo il 6 maggio 1877, dopo aver comandato novecento Oglala ormai in fuga e stremati dalla fame, si consegna al comandante di Fort Robinson, il tenente Philo Clark: muore a pochi minuti dalla mezzanotte del 5 settembre, a circa trentasette anni, dopo essere stato colpito da una baionetta.

Ma sui motivi della sua uccisione circolano versioni differenti: alcune fanno riferimento ai colpi sparati da un soldato armato; altre sostengono che, dopo aver abbandonato senza autorizzazione la riserva allo scopo di portare sua moglie - ormai malata - dai genitori, egli sia stato arrestato dal Generale George Crook, che aveva paura che tornasse a combattere: dapprima Cavallo Pazzo non si sarebbe opposto alla cattura, ma dopo aver capito che sarebbe stato destinato a una prigione, avrebbe iniziato a ribellarsi alle guardie, e sarebbe stato colpito da William Gentiles, un soldato semplice che lo avrebbe ucciso mentre veniva trattenuto dal suo vecchio amico Piccolo Grande Uomo, membro della polizia indiana che lo stava accompagnando.
 
A prescindere dalle ragioni della sua morte, da quel momento la figura leggendaria di Cavallo Pazzo entra nel mito, in America come nel resto del mondo.