W podziemiu odtworzono struktury władzy cywilnej oraz siłę zbrojną. Od 14 lutego 1942 roku była nią Armia Krajowa, najsilniejsza i najlepiej zorganizowana podziemna armia europejska II wojny światowej.
W obliczu Boga Wszechmogącego i Najświętszej Maryi Panny, Królowej Korony Polskiej kładę swe ręce na ten Święty Krzyż, znak Męki i Zbawienia, i przysięgam być wiernym Ojczyźnie mej, Rzeczypospolitej Polskiej, stać nieugięcie na straży jej honoru i o wyzwolenie Jej z niewoli walczyć ze wszystkich sił - aż do ofiary życia mego. Prezydentowi Rzeczypospolitej Polskiej i rozkazom Naczelnego Wodza oraz wyznaczonemu przezeń Dowódcy Armii Krajowej będę bezwzględnie posłuszny, a tajemnicy niezłomnie dochowam, cokolwiek by mnie spotkać miało. Tak mi dopomóż Bóg.
Takie słowa przysięgi składał każdy żołnierz Armii Krajowej.
Przyjmujący przysięgę odpowiadał:
Przyjmuję Cię w szeregi Armii Krajowej, walczącej z wrogiem w konspiracji o wyzwolenie Ojczyzny. Twym obowiązkiem będzie walczyć z bronią w ręku. Zwycięstwo będzie twoją nagrodą. Zdrada karana jest śmiercią.
Armia Krajowa, następczyni Służby Zwycięstwu Polski i Związku Walki Zbrojnej, powstała na mocy rozkazu Naczelnego Wodza Polskich Sił Zbrojnych generała Władysława Sikorskiego 14 lutego 1942 roku.
Pierwszym Dowódcą AK został generał Stefan Rowecki „Grot" – przedwojenny oficer, żołnierz I Brygady Legionów Polskich, uczestnik walk z bolszewikami, od pierwszych chwil po kapitulacji wrześniowej uczestnik konspiracji. Doprowadził do scalenia w Armię Krajową głównych odłamów konspiracyjnych. Tropiony przez Gestapo, został zdradzony przez hitlerowskich agentów i aresztowany 30 czerwca 1943 roku w lokalu konspiracyjnym na warszawskiej Ochocie. Odrzucił niemiecką ofertę współpracy. Prawdopodobnie został zamordowany tuż po wybuchu Powstania w Warszawie.
W 2002 roku z inicjatywy Światowego Związku Żołnierzy Armii Krajowej we współpracy z Instytutem Pamięci Narodowej powstał Klub Historyczny im. generała Stefana Roweckiego „Grota". Jego zadaniem jest zapoznawanie społeczeństwa, szczególnie młodzieży, z losami państwa polskiego w latach okupacji i powojennego zniewolenia.
W chwili największej zdolności bojowej, wiosną 1944 roku, siły Armii Krajowej liczyły około 380 tysięcy żołnierzy i oficerów. Kadra oficerska sprzed wojny była uzupełniana absolwentami tajnego szkolenia i przerzuconymi do Polski cichociemnymi.
Celem Armii Krajowej było prowadzenie oporu zbrojnego i przygotowanie do planowanego ogólnokrajowego powstania. Dla koordynowania działalności dywersyjnej powołane zostało Kierownictwo Dywersji (Kedyw) Komendy Głównej AK. Jego dowódcą został płk Emil Fieldorf ps. „Nil". To żołnierze Kedywu dokonali zamachu na kata Warszawy Franza Kutscherę.
Zajmowanie terenów Polski przez Armię Czerwoną w 1944 roku uruchomiło akcję „Burza", polegającą na atakowaniu wycofujących się Niemców i występowaniu wobec Sowietów w roli gospodarza. Ostatnim akcentem „Burzy" było Powstanie Warszawskie.
Nazwa Armii Krajowej jednoczyła także żołnierzy po jej formalnym rozwiązaniu na początku 1945 roku. Część żołnierzy i oficerów nie podporządkowała się rozkazowi demobilizacji ostatniego dowódcy AK generała Okulickiego „Niedźwiadka" i prowadziła zbrojną walkę ze zdobywającymi władzę w Polsce komunistami. Nazwa Armia Krajowa stała się na kilka najbliższych lat, a może nawet dziesięcioleci, symbolem niepodległości i patronowała wielu zabiegom o jej odzyskanie.
Dowódcy i żołnierze Armii Krajowej przez wiele lat Polski Ludowej byli tępieni i prześladowani. Do 1956 roku wielu z nich znalazło śmierć lub straciło lata życia w ubeckich więzieniach. Później ciągle należeli do obywateli drugiej kategorii.
Po 1989 roku Polska stara się oddać im należną cześć i znaczenie.