A nagybirtokos grófi családban született Károlyi Mihály a budapesti egyetem jogi karán szerzett diplomát. Nagybátyja, Károlyi Sándor hatására kapcsolódott be a szövetkezeti mozgalom szervezésébe. Konzervatív agráriusként 1901-ben a Szabadelvű Párt tagja lett.
1905-ben szerzett először képviselői mandátumot a pétervásári kerületben, és ekkor lépett be a Függetlenségi Pártba. 1909–1912 között az Országos Magyar Gazdasági Egyesület elnöke volt, 1910-ben pártonkívüli függetlenségi programmal választották képviselővé a kápolnai kerületben. 1912-ben ismét a Függetlenségi Párthoz csatlakozott, melynek 1913-1916 között elnöke volt.
A konzervativizmussal való szembefordulásának fontos állomása volt, amikor 1912 júniusában a véderőtörvény megszavaztatása után Tisza István parlamenti házelnök rendőri erőszakkal vetett véget az ellenzék tiltakozásának. Az ülésteremből eltávolított ellenzékiek ekkor fogtak össze a parlamenten kívüli demokratikus és szocialista ellenzékkel, hogy közös népgyűléseket rendezzenek. Károlyi az elsők egyikeként a polgári radikális demokrata Jászi Oszkár és a szociáldemokrata Landler Jenő mellett lépett fel szónokként.
1916-ban Károlyi megalapította a Függetlenségi és 48-as (Károlyi) Pártot. Polgári demokratikus reformokat – földosztást és általános választójogot – és nemzetiségi egyenjogúságot követelt. Ellenezte az Osztrák–Magyar Monarchia és Németország szövetségét: ehelyett a dunai népek barátsága és az antantbarát külpolitika híveként érvelt a háborúval szemben. Károlyi már 1915-ben követelte az országgyűlésben Magyarország háborúból való kilépését. Békepártisága a háború utolsó évében a – volt pártja kivált balszárnyából alakult – Károlyi Párt vezetőjeként igen népszerűvé tette.
Az első világháború végén, a Monarchia és a dualista államrendszer összeomlása közepette körülötte mint a demokratikus és békepárti ellenzék vezetője körül alakult ki az a politikai szövetség, amely 1918. október 23-án az Astoria szállóban Magyar Nemzeti Tanács néven ellenkormányt alakított. A testület alapító tagjai a Károlyi-féle Függetlenségi Párt, a Jászi Oszkár elnökölte Országos Polgári Radikális Párt és a Garami Ernő és Kunfi Zsigmond által vezetett Magyarországi Szociáldemokrata Párt voltak, elnökévé Károlyi Mihályt választották. A Nemzeti Tanács október 25-én tizenkét pontos, Jászi által megfogalmazott kiáltványt tett közzé, amely a háború azonnali befejezését, az ország függetlenségének megteremtését, a demokratikus reformokat és a nemzetiségekkel való megbékélést követelte az ország területi egységének sérelme nélkül.
1918. október 31-én, az őszirózsás forradalom délutánján, miután az utcai gyújtóbeszédektől - amelyekben Károlyiék minden baj okozójaként a régi rendszer vezetőit és a „felesleges” háborút nevezték meg , feltüzelt a Nemzeti Tanácsra felesküdött katonai egységek elfoglalták Budapest középületeit (délután 5 óra körül egy fanatikus csoport meggyilkolta Tisza István volt miniszterelnököt), az uralkodó nevében József főherceg Károlyit nevezte ki miniszterelnökké. Károlyi november elején felmentést kért és kapott az uralkodónak tett eskü alól, kormánya pedig „népkormányként” a Nemzeti Tanácsra esküdött fel. IV. Károly király novemberi lemondását követően az ideiglenes törvényhozói hatalmat gyakorló, addigra több száz fősre bővült Magyar Nemzeti Tanács november 16-án kikiáltotta a köztársaságot („népköztársaságot”, ami az akkori szóhasználat szerint parlamentáris demokráciát jelentett), majd 1919. január 11-én Károlyit ideiglenes köztársasági elnökké választotta és felhatalmazta a „néptörvények” elfogadásának jogával. A miniszterelnökséget Berinkey Dénes vette át.