Åtgärden äger rum i början av XX-talet (i åren som omedelbart före första världskrigets utbrott) i Schweiz, i ett tuberkulossanatorium nära Davos. Namnet på romanen framkallar föreningar med berget Gerzelberg (syndigt eller magiskt berg), där, enligt legenden, minnesinger Tannhäuser tillbringade sju år i fångenskap med gudinnan Venus.
Romanens hjälte, en ung tyskare som heter Hans Kastorp, kommer från Hamburg till Berggof-sanatoriet för att besöka sin kusin Joachim Zimsen som genomgår behandling där. Hans Kastorp avser att tillbringa högst tre veckor i sanatoriet, men i slutet av den schemalagda perioden känner han sig illa, åtföljd av en temperaturökning. Som ett resultat av en läkarundersökning visar han tecken på tuberkulos, och på huvudläkaren Behrens insats kvarstår Hans Kastorp i sanatoriet under en längre tid. Från början upptäcker Hans Kastorp att tiden i bergen inte flyter alls som på slätten, och därför är det nästan omöjligt att avgöra hur många dagar, veckor, månader, år som gått mellan dessa eller andra beskrivna händelser och hur länge hela romanen täcker. I slutet av romanen sägs det dock att Hans Kastorp tillbringade totalt sju år i sanatoriet, men till och med denna siffra kan betraktas som en viss konstnärlig konvention.
Faktum är att handlingen och händelserna som inträffar i romanen är absolut inte viktiga för att förstå dess betydelse. De är bara en ursäkt för att kontrastera karaktärernas olika livspositioner och ge författaren möjlighet att tala sina läppar i många frågor som är oroande för honom: liv, död och kärlek, sjukdom och hälsa, framsteg och konservatism, den mänskliga civilisationens öde på 1900-talets kant. Flera dussintals karaktärer passerar i romanen - främst patienter, läkare och vårdpersonal: någon återhämtar sig och lämnar Berghof, någon dör, men nya kommer ständigt på deras plats.
Bland dem som Hans Kastorp träffas redan under de första dagarna av sin vistelse i sanatoriet, innehas en speciell plats av Mr. Lodovico Settembrini - en ättling till Carbonari, en frimurer, en humanist, en stark anhängare av framsteg. Samtidigt, som en äkta italienare, hatar han passionerat Österrike-Ungern. Hans ovanliga, ibland paradoxala idéer, uttryckta i en ljus, ofta kaustisk form, har en enorm inverkan på hjärnan hos en ung man som börjar vörda Sethembrini som sin mentor.
En viktig roll i Hans Kastorps livshistoria spelades av hans kärlek till den ryska patienten på sanatoriet Madame Claudia Shosha - kärleken som han på grund av sin rigorösa uppväxt i en kalvinistisk familj ursprungligen motstår med alla medel. Många månader går innan Hans Kastorp pratar med sin älskade - detta händer under karnevalet på kvällen före fastan och Claudius avgång från sanatoriet.
Under den tid som tillbringades i sanatoriet transporterades Hans Kastorp allvarligt av många filosofiska och naturvetenskapliga idéer. Han deltar i föreläsningar om psykoanalys, han studerar allvar medicinsk litteratur, han är intresserad av frågor om liv och död, han studerar modern musik, använder för sina ändamål den senaste tekniken - inspelning, etc. I huvudsak tänker han inte längre på sitt liv på slätten han glömmer att han kommer att hitta arbete där, bryter praktiskt taget banden med sina få släktingar och börjar betrakta livet i sanatoriet som den enda möjliga existensformen.
Med sin kusin Joachim är situationen precis motsatsen. Han hade länge och hårt förberett sig för en militär karriär och anser därför varje extra månad som tillbringas i bergen som ett olyckligt hinder för att förverkliga sitt livs dröm. Vid någon tidpunkt kan han inte tåla det och, utan att uppmärksamma läkarnas varningar, lämnar sanatoriet, går in i militärtjänst och får en tjänsteman. Men mycket lång tid går, och hans sjukdom förvärras, så han tvingas återvända till bergen, men den här gången hjälper behandlingen inte honom, och han dör snart.
Strax innan detta faller en ny karaktär in i bekantkretsen av Hans Kastorp - jesuiten Nafta, den eviga och oföränderliga motståndaren till Herr Settembrini. Nafta idealiserar Europas medeltida förflutna, fördömer själva framstegsbegreppet och hela den moderna borgerliga civilisationen som ingår i detta koncept. Hans Castorp befinner sig i viss förvirring - lyssnar på de långa tvisterna mellan Settembrini och Nafta, han håller med det ena eller det andra och finner sedan motsägelser i både det ena och det andra, så att han inte längre vet vilken sida sanningen är på. Settembrinis inflytande på Hans Kastorp är emellertid så stort och jesuiternas födda misstro är så hög att han helt står på den första.
Under tiden återvände Madame Shosha till sanatoriet under en tid, men inte ensam, men åtföljdes av hennes nya vän - den rika holländaren Peperkorn. Nästan alla invånare i Berghof-sanatoriet är under magnetiskt inflytande av denna ovillkorligt starka, mystiska, om än något tungt bundna, personlighet, och Hans Kastorp känner någon släkt relation med honom, eftersom de förenas av kärlek till samma kvinna. Och detta liv slutar tragiskt. När den slutligt sjuka Peperkorn tar en promenad till vattenfallet, underhåller sina kamrater på alla sätt, på kvällen dricker han och Hans Kastorp till Brudershaft och byter till "du", trots åldersskillnaden, och på natten tar Peperkorn gift och dör, snart Madame Shosha lämnar sanatoriet - till denna gång, tydligen, för evigt.
Från ett visst ögonblick i själarna hos invånarna i sanatoriet "Berghof" börjar en viss ångest kännas. Detta sammanfaller med ankomsten av en ny patient - danska Ellie Brand, som har vissa övernaturliga förmågor, särskilt som kan läsa tankar på avstånd och orsaka humör. Patienterna är beroende av spiritualism, ordnar sessioner där Hans Kastorp är involverad, trots den kaustiska förlusten och varningar från hans mentor Settembrini. Det är efter sådana sessioner, och kanske till följd av deras tidigare uppmätta tid i sanatoriet som kränks. Patienter grälar, då och då uppstår konflikter under det mest obetydliga tillfället.
Under en av tvisterna med Nafta hävdar Settembrini att han förstör ungdomar med sina idéer. En trefald leder till ömsesidiga förolämpningar och sedan till en duell. Settembrini vägrar att skjuta, och sedan skjuter Nafta en kula i huvudet.
Och sedan slog torden från ett världskrig. Invånarna i sanatoriet börjar åka hem. Hans Kastorp åker också till slätten, skild av Mr. Settembrini för att slåss där han är nära blod, även om Settembrini själv verkar stödja en helt annan sida i detta krig.
I den slutliga scenen visas Hans Kastorp springande, krypande, fallande, tillsammans med samma unga män i soldats överrockar som föll i köttkvarnen under andra världskriget. Författaren säger medvetet ingenting om sin hjältes slutliga öde - berättelsen om honom är över, och författaren var inte själv intresserad av sitt liv utan bara som en bakgrund för berättelsen. Men som det sades i sista stycket har Hans Kastorp litet hopp om överlevnad.