Po długich namowach zgodził się wreszcie na przybycie z Wiednia prof. Karla Wenckebacha, znanego specjalisty od chorób nowotworowych. Cztery dni później przeprowadzono badania. Diagnoza nie pozostawiała nadziei: nowotwór złośliwy wątroby nie nadający się do operowania. Informację tę przekazano gen. Składkowskiemu, który o wyniku badań poinformował prezydenta i premiera.

Marszałek Piłsudski spisał swoją ostatnią wolę: "Nie wiem czy nie zechcą mnie pochować na Wawelu. Niech! Niech tylko moje serce wtedy zamknięte schowają w Wilnie gdzie leżą moi żołnierze co w kwietniu 1919 roku mnie jako wodzowi Wilno jako prezent pod nogi rzucili. Na kamieniu czy nagrobku wyryć motto wybrane przeze mnie dla życia +Gdy mogąc wybrać, wybrał zamiast domu/ Gniazdo na skałach orła, niech umie/ Spać, gdy źrenice czerwone od gromu/ I słychać jęk szatanów w sosen zadumie/ Tak żyłem.+ A zaklinam wszystkich co mnie kochali sprowadzić zwłoki mojej matki z Sugint Wiłkomirskiego powiatu do Wilna i pochować matkę największego rycerza Polski nade mną. Niech dumne serce u stóp dumnej matki spoczywa. Matkę pochować z wojskowymi honorami ciało na lawecie i niech wszystkie armaty zagrzmią salwą pożegnalną i powitalną tak by szyby w Wilnie się trzęsły Matka mnie do tej roli jaka mnie wypadła chowała. Na kamieniu czy nagrobku Mamy wyryć wiersz z +Wacława+ Słowackiego zaczynający się od słów +Dumni nieszczęściem nie mogą+ Przed śmiercią Mama mi kazała to po kilka razy dla niej czytać".

4 maja marszałek Piłsudski przewieziony został do Belwederu. Tydzień później nastąpił krwotok z ust. Ostatnie chwile życia Piłsudskiego 12 maja tak opisywał w swoim diariuszu adiutant marszałka w Belwederze rotmistrz Aleksander Hrynkiewicz": "Ksiądz zaczyna modlitwy, podają oleje święte, którymi namaszczono rytuałem przewidziane miejsca, na głowie Komendanta. Otoczenie klęczy i modli się. Rodzina wpatrzona w oblicze Komendanta z niemym bólem, niezupełnie jeszcze świadoma tragedii nadchodzącej chwili. Zbliża się kres życia Komendanta, to widzi się i czuje bez słów i wyjaśnień. (...) Komendant szklistym i nieruchomym wzrokiem patrzy w przestrzeń jakby czynił przegląd obrazu swego bohaterskiego i tragicznego życia. Jakieś myśli, jakąś wolę objaśnia słabym ruchem rąk, które za życia i w czasie choroby były zawsze tak czynne i ruchliwe. (...) Minuty ciągną się jedna za drugą długie jak minione dziesiątki lat brzemienne historią. Odwracam głowę, na tarczy zegara 8.45, koniec epoki związanej z życiem Wielkiego Człowieka".

Tuż po śmierci marszałka, salon Pałacu Belwederskiego, w którym nastąpił zgon, zamieniono na kaplicę żałobną, gdzie na katafalku spoczywało jego ciało. Przy zmarłym zaciągnięto wartę honorową, którą pełnili czterej oficerowie, dwóch podoficerów i dwóch szeregowych. Wykonana ze srebra trumna z ciałem Piłsudskiego wystawiona była w Belwederze 13 i 14 maja. Katafalk przybrany był w purpurowe sukno z godłem Rzeczypospolitej na przedzie.

Zwłoki marszałka ubrane były w mundur, przepasany wielką wstęgą orderu Virtuti Militari i z bojowymi orderami na piersiach. W rękach Piłsudski trzymał obrazek Matki Boskiej Ostrobramskiej. Nad głową zmarłego umieszczono przybrane kirem sztandary wojska polskiego z 1831 i 1863 r. oraz sztandary legionowe. Obok stała kryształowa urna z sercem marszałka, przy niej położono czapkę maciejówkę, buławę marszałkowską oraz szablę.

15 maja trumnę z ciałem Piłsudskiego przewieziono na lawecie zaprzężonej w sześć koni do katedry św. Jana. Ustawiono ją w nawie głównej świątyni. Tam marszałka żegnały tłumy.

17 maja wieczorem pociąg wiozący ciało Piłsudskiego ruszył do Krakowa, na jego trasie zgromadziły się tysiące ludzi aby oddać zmarłemu hołd.

Pociąg żałobny z trumną Piłsudskiego dotarł do Krakowa w sobotę rano 18 maja. Na dworcu na jego przyjazd oczekiwali prezydent RP, rząd, generalicja, korpus dyplomatyczny oraz różnego rodzaju delegacje. Ośmiu generałów, z Juliuszem Rómmlem na czele, przeniosło trumnę z platformy na lawetę armatnią. Po odprawieniu modłów przez metropolitę krakowskiego arcybiskupa Adama Sapiehę, kondukt ruszył na Wawel. Na czele pochodu szedł oddział doboszy z werblami, następnie postępowała orkiestra wojskowa, poczty sztandarowe przysłane przez wszystkie pułki Wojska Polskiego oraz duchowieństwo. Po nich szedł okryty kirem koń Piłsudskiego. Za nim jechała laweta z trumną, ciągnięta przez sześć karych koni. Otaczało ją 12 adiutantów z obnażonymi szablami.

Po dotarciu na wzgórze wawelskie przemówienie ze stopni katedry wygłosił prezydent Ignacy Mościcki, który żegnając marszałka mówił m.in.: "Cieniom królewskim przybył towarzysz wiecznego snu. Skroń jego nie okala korona, a dłoń nie dzierży berła. A królem był serc i władcą doli naszej. Półwiekowym trudem swego życia brał we władanie serce po sercu, duszę po duszy, aż purpurą królestwa swego ducha zagarnął niepodzielnie całą Polskę". Następnie generałowie, przy dźwiękach dzwonu Zygmunta, wnieśli trumnę do katedry. Po mszy pontyfikalnej, którą celebrował metropolita Sapieha, generałowie znieśli ciało marszałka do krypty św. Leonarda. Na zakończenie uroczystości ustawione na wawelskim wzgórzu działa oddały 101 strzałów armatnich. W całym kraju zapanowała trzyminutowa cisza. Szacuje się, że w pogrzebie w Krakowie wzięło udział około 100 tys. osób, kondukt ciągnął się przez kilka kilometrów.

Wspominając atmosferę panującą po śmierci marszałka Cat-Mackiewicz pisał: "Piłsudski miał fanatycznych wielbicieli, którzy go kochali więcej niż własnych rodziców, niż własne dzieci, ale było wielu ludzi, którzy go nienawidzili, miał całe warstwy ludności, całe dzielnice Polski przeciwko sobie, potężną nieufność do siebie. I oto nie znać było tego w dniu pogrzebu. Przeciwnie, można stwierdzić jako fakt i prawdę, że w dniach jego pogrzebu, że na wieść o jego śmierci, strach i zalęknienie, co stanie się teraz z polską, kiedy Jego zabrakło, przeleciał od Bałtyku poprzez Poznańskie i Śląsk i od Karpat do Dźwiny. Po całej wielkiej ojczyźnie, którąśmy cztery lata po jego śmierci stracili".

W 1937 r. na polecenie metropolity krakowskiego arcybiskupa Adama Sapiehy trumna ze szczątkami marszałka Józefa Piłsudskiego została przeniesiona do krypty pod wieżą Srebrnych Dzwonów.

Uroczystości związane z pogrzebem serca Piłsudskiego odbyły się oddzielnie od głównych uroczystości pogrzebowych. Zgodnie z wolą Marszałka Józefa Piłsudskiego po śmierci jego serce zostało wyjęte z ciała i zamknięte w opatrzonym pieczęcią prezydenta szklanym słoju. Po zakończeniu uroczystości pogrzebowych w Krakowie, w Belwederze rozpoczęto przygotowania do przewiezienia serca Komendanta do Wilna. 30 maja 1935 roku wdowa w otoczeniu oficerów i rodziny przeniosła urnę z sercem na Dworzec Wschodni, gdzie została wystawiona na widok publiczny w oknie specjalnego pociągu jadącego do Wilna. Uroczystości w Wilnie odbyły się w dniu 31 maja 1935 roku. 

Urnę z sercem Marszałka przeniesiono uroczyście w lektyce wśród szpaleru wojska i tysięcznych tłumów, pragnących oddać hołd Komendantowi, do Ostrej Bramy i ustawiono naprzeciw cudownego obrazu Matki Boskiej Ostrobramskiej. Po nabożeństwie urnę zamknięto w specjalnej niszy, znajdującej się w pierwszym filarze naprzeciwko ambony. Wnęka została zasłonięta stalową płytą, którą następnie zaplombowano oraz zamurowano kolejną płytą, tym razem z marmuru.

Następnego dnia przywieziono do Wilna prochy matki Marszałka, które także złożono w kościele św. Teresy.

W pierwszą rocznicę śmierci, 12 maja 1936 roku, odbył się właściwy pogrzeb serca Marszałka oraz prochów Marii Piłsudskiej. Ceremonię poprowadził arcybiskup wileńskie Romuald Jałbrzykowski. Trumnę z prochami matki ustawiono na armatniej lawecie, a serce Marszałka w urnie na lektyce. Kondukt, w którym uczestniczyła rodzina, prezydent Mościcki, premier, marszałkowie Sejmu i Senatu, ministrowie, posłowie, oficerowie oraz przedstawiciele świata nauki i kultury, wyruszył z kościoła św. Teresy i szedł ulicami Ostrobramską, Mickiewicza i Wileńską aż na cmentarz na Rossie. Na cmentarzu po krótkich modłach urnę złożono do mauzoleum. Jednostka artylerii oddała salwę honorową, po czym odegrano hymn oraz „Pierwszą Brygadę” . Okolicznościowe przemówienie wygłosił prezydent Ignacy Mościcki. Po ceremonii przy grobie „matki i serca syna” stanęła warta honorowa.