A svájci zsoldosok a XVI. században Európa-szerte keresettek voltak, bátorságuk, hűségük és verhetetlen gyalogos harcmodoruk miatt. A pápák szolgálatában is megfordultak egységeik, de állandó római jelenlétük II. Gyula pápának köszönhető. Ő volt az, aki Matthäus Schiner sioni püspök közvetítésével szövetséget kötött a svájci kantonokkal, és azok százötven zsoldost bocsátottak rendelkezésére. A Pápai Svájci Gárda első alakulata 1506. január 22-én érkezett Rómába.
Az igazi tűzkeresztségen 1527. május 6-án estek át, amikor V. Károly császár német és spanyol zsoldosai lerohanták az Örök Várost. Róma kifosztásakor ("Sacco di Roma") a száznyolcvankilenc svájci gárdistából csak az a negyvenkét menekült meg, Hercules Göldli vezetésével, akik az utolsó pillanatban a Vatikánból - a ma is látható menekülőfalon keresztül - az Angyalvárba kísérték VII. Kelemen pápát. A többiek a Szent Péter-bazilika főoltára előtt estek el hősi küzdelemben. Parancsnokuk, Kaspar Röist már sebesülten feküdt otthonában, de a betörő ellenség így sem kímélte.

A száztíz fős alakulat ezredesi rangú parancsnokát további hat főtiszt segíti, köztük az alezredesi rangot viselő tábori lelkész. Ők mind a svájci hadsereg hivatásos állományából kerülnek ki. A többi gárdistának is le kell előbb töltenie otthon a kötelező katonai szolgálatot. További feltétel a svájci állampolgárság, a harmincévesnél fiatalabb életkor, a nőtlen állapot, a százhetvennégy centimétert meghaladó magasság és a legalább középfokú végzettség. A gárdisták gyakorló katolikusok, akiknek gyakran már a felmenőik is a pápát szolgálták, mert hagyományosan ugyanarról a környékről érkeznek. Először két évre szerződnek, amit aztán meg lehet hosszabbítani. Két év után családot is alapíthatnak.
Bár történelmi "születésnapja" január 22., a "Sacco di Roma" alatt tanúsított önfeláldozó hősiessége emlékére a Pápai Svájci Gárda valódi ünnepe május 6. Ekkor tesznek esküt az apostoli palota Szent Damasus-udvarán az új gárdisták, hogy ha kell, életüket is feláldozzák a pápáért. Az ünnepre a gárdisták rokonai és barátai mellett a svájci kormány és hadsereg magasrangú képviselői is a Vatikánba érkeznek.

Tartja magát a nézet, miszerint a svájci gárdisták színpompás egyenruháját maga Michelangelo tervezte volna. Valójában az első gárdisták ruhájáról semmi biztosat nem tudni. Valószínűleg nem különbözött a korabeli katonákétól, legfeljebb annyiban, hogy a pápa színeit és jelvényeit viselték, minthogy öltöztetésükről ő gondoskodott. A jellegzetes reneszánsz katonaruhák feltűnnek a pápai palota Raffaello által készített freskóin is ("Stanze di Raffaello"). Később az egyenruha sokban átalakult, és bár igyekezett mindig követni az adott kor divatját, a hagyományos elemek is megmaradtak. Egyenruhájuk mai formája az 1910-es években alakult ki. Jules Repond parancsnok éppen a Raffaello-freskók alapján igyekezett rekonstruálni az eredeti viseletet. Az uniformis színei - sárga, kék és piros - az alapító II. Gyula, illetve VII. Kelemen címeréből származnak.