S-a născut într-o familie modestă (tatăl, Ion Tănase, era laborant de farmacie), într-o casă tărănească din Vaslui, judetul Vaslui. A fost un elev mediocru, cele mai mari note fiind la muzică si sport, iar primul contact cu teatrul l-a avut prin frecventarea spectacolelor de la Grădina "Pîrjoala", unde se juca teatru popular, cu actori precum Zaharia Burienescu si I.D. Ionescu. Acest lucru l-a inspirat în crearea unui grup de teatru de amatori împreuna cu prietenii, cu care juca scene din piesele Mesterul Manole, Capitanul Valter Mărăcineanu sau Constantin Brâncoveanu, prima lor scenă fiind beciul casei. În timp, reprezentatiile s-au mutat în hambar si chiar în poiată.
Prima experientă profesională ca actor a fost în cadrul trupei de teatru de limba idis condusă de Mordechai Segalescu: aveau nevoie de un actor pentru un spectacol in Vaslui si a fost ales tânărul Tănase, care era deja nelipsit de la repetiții. În 1896 termina gimnaziul si, în ciuda dorintei sale de a deveni actor, s-a înscris la liceul militar din Iasi, unde a fost respins la examenul medical, singura probă unde nu-și făcuse griji, în favoarea unui fiu de colonel. Dezamăgit, s-a îndreptat către Brăila, unde a frecventat o scurtă perioadă liceul "Nicolae Bălcescu", la care însă a fost nevoit să renunte după câteva săptămâni din lipsă de bani.
În Brăila s-a împrietenit cu învătătorul si scriitorul Ion Adam, care i-a oferit tânărului de 18 ani catedra sa din Cursesti, Rahova, de vreme ce Adam urma să plece la cursuri în Belgia. S-a descurcat destul de bine ca învătător, însă a intrat în conflict cu directorul si câtiva profesori. Cu ajutorul lui Adam, a primit un alt post la Hârsoveni, Poenesti, unde învătase poetul Alexandru Vlahută. Tănase si-a dezvoltat repede propriul stil de predare, aducând muzica si gimnastica pe primul loc, lucru care a atras noi elevi către scoală. Părintii elevilor au fost de asemenea implicati în activitătile scolare, prin excursii in aer liber, unde preda istorie si geografie. Ajuns foarte repede un personaj iubit in localitate, atrage însă antipatia notarului si câtorva avocati locali care nu îi apreciau metodele, astfel încât Tănase este în cele din urmă dat afară.
Ziua de 14 octombrie 1899 îl găseste în Bucuresti, unde s-a înrolat voluntar la Regimentul 1 Geniu Bucuresti. Dupa efectuarea stagiului militar s-a înscris la cursurile Conservatorului de Artă Dramatică, de unde a absolvit în 1905. A inceput sa lucreze în teatru, si s-a căsătorit cu Virginia Niculescu în 1917.
In 1919 a pus bazele trupei de teatru Cărăbus în Bucuresti, împreună cu care urma să creeze o traditie de teatru de cabaret/ revistă pe parcursul următorilor 20 de ani, traditie prezentă si astăzi, mai ales la teatrul de revistă "Constantin Tănase"care functioneaza încă la adresa fostului "Cărăbus" pe Calea Victoriei, 33-35, în inima Bucurestiului.
În buna traditie a marilor actori de comedie, a creat un tip de personaj, acela al cetăteanului simplu, umil si necăjit, mereu în contradictie cu birocratia aparatului de stat; personajul său, unic în costumul său clasic, cu pătrătele, crizantemă la butonieră si bastonas, s-a facut purtătorul de cuvânt al unei întregi categorii sociale, ceea ce-l va aduce de multe ori in atentia cenzurii.
Împreună cu "Cărăbus" a făcut numeroase turnee prin tară, si cel putin un turneu în Turcia. Tănase a jucat de asemenea si la Paris. O sursă mentionează operele de caritate ale actorului – 3 scoli primare si o biserică.
La "Cărăbus", Tănase lansează carierele a numerosi artisti, mai ales Maria Tănase si Horia Serbănescu.

Tănase a murit în Bucuresti pe 29 august 1945. Au existat zvonuri conform cărora actorul ar fi fost ucis de către Armata Rosie invadatoare. Potrivit acestei versiuni, Tănase încă mai juca în Bucuresti, un an după sosirea rusilor, si a fost ucis din cauza satirei la adresa soldatilor rusi care aveau obiceiul să "rechizitioneze" toate bunurile personale purtate la vedere, mai ales ceasuri, pe care le cereau spunând "Davai ceas". Tănase a compus un cuplet:

„Rău era cu «der, die, das»
Da-i mai rău cu «davai ceas»
De la Nistru pân' la Don
Davai ceas, davai palton
Davai ceas, davai mosie
Haraso, tovărăsie”

După mai multe reprezentatii a fost arestat, amenintat cu moartea, si i s-a ordonat să nu mai joace piesa. Dar Tănase nu era omul usor de intimidat. La următorul spectacol a apărut pe scenă într-un pardesiu imens, cu mâinile "bandajate" cu ceasuri de mâna. Spectatorii l-au aplaudat frenetic la aparitie, desi actorul nu a scos nici un cuvânt. Apoi si-a deschis pardesiul, scotând la iveală un imens ceas cu pendulă. Arătând către acesta, a spus doar: "El tic, eu tac, el tic, eu tac". Două zile mai târziu marele actor era mort.
Nepotul actorului, Tănase Radu Alexandru, a oferit o versiune care pare mai plauzibilă: blocaj renal în urma unui tratament cu 20 de aspirine/zi, aplicat în urma unei infectii faringiene survenită datorită consumului unei halbe de bere rece într-o zi călduroasă de vară. Întrucât de putină vreme se inventase penicilina, un apropiat s-a oferit sa îi procure antibioticul din Italia. Din păcate un membru al familiei a refuzat oferta, argumentând că maestrul Tănase avea un sistem de autoreglare al organismului foarte eficient. Ceea ce a urmat s-a dovedit fatal pentru marele actor, teatrul românesc pierzând prematur una dintre cele mai mari valori ale sale din toate timpurile.