De Boltzmann-verdeling

Leid de Boltzmann-verdeling af.
Om dit probleem aan te pakken gaan we eerst een stuk kansrekening doen. Stel ik heb N balletjes en die gooi ik op een willekeurige manier in een bak met k identieke compartimenten.
Het is hoogst onwaarschijnlijk dat alle balletjes in hetzelfde compartiment terecht komen, en het is een stuk waarschijnlijker dat de balletjes zich gelijkmatig over de compartimenten verspreiden. Wanneer N heel groot is dan wordt de eerste optie steeds onwaarschijnlijker en de tweede optie steeds waarschijnlijker. Indien je twee balletjes hebt dan is er nog iets bij voor te stellen dat ze beiden in hetzelfde compartiment belanden, maar wanneer je een biljoen balletjes hebt niet meer (ook al is de puur theoretische mogelijkheid wel aanwezig!). Vergelijk het met het gooien van dobbelstenen. Tweemaal achtereen zes gooien, akkoord, dat kan gebeuren, maar een biljoen maal achter elkaar zes gooien zal niet gebeuren (ook al is de puur theoretische mogelijkheid ook hier wel aanwezig!). Een biljoen maal met een dobbelsteen gooien zal een gelijkmatige verdeling te zien geven van enen, tweeën, drieën, vieren, vijven en zessen, en zo zal het ook gaan indien we een biljoen balletjes in de bak gooien. De balletjes zullen zich gelijkmatig verdelen over de compartimenten, want dat is het patroon met de hoogste waarschijnlijkheid. Kunnen we dit wiskundig maken?

Een aantal van N balletjes kan zich op 1 ∙ 2 ∙ 3 ∙ 4 ... (N − 3) (N − 2) (N − 1) N = N! verschillende manieren rangschikken, we noemen dit permutaties. Ik schrijf dat even helemaal uit voor zes onderscheidbare balletjes (ze zijn onderscheidbaar, omdat ze bijvoorbeeld genummerd zijn):
123456145236213456245136312456345126 412356435126512346534126612345634125
123465145263213465245163312465345162 412365435162512364534162612354634152
123546145326213546245316312546345216 412536435216512436534216612435634215
123564145362213564245361312564345261 412563435261512463534261612453634251
123645145623213645245613312645345612 412635435612512634534612612534634512
123654145632213654245631312654345621 412653435621512643534621612543634521
124356146235214356246135314256346125 413256436125513246536124613245635124
124365146253214365246153314265346152 413265436152513264536142613254635142
124536146325214536246315314526346215 413526436215513426536214613425635214
124563146352214563246351314562346251 413562436251513462536241613452635241
124635146523214635246513314625346512 413625436512513624536412613524635412
124653146532214653246531314652346521 413652436521513642536421613542635421
125346152346215346251346315246351246 415236451236514236541236614235641235
125364152364215364251364315264351264 415263451263514263541263614253641253
125436152436215436251436315426351426 415326451326514326541326614325641325
125463152463215463251463315462351462 415362451362514362541362614352641352
125634152634215634251634315624351624 415623451623514623541623614523641523
125643152643215643251643315642351642 415632451632514632541632614532641532
126345153246216345253146316245352146 416235452136516234542136615234642135
126354153264216354253164316254352164 416253452163516243542163615243642153
126435153426216435253416316425352416 416325452316516324542316615324642315
126453153462216453253461316452352461 416352452361516342542361615342642351
126534153624216534253614316524352614 416523452613516423542613615423642513
126543153642216543253641316542352641 416532452631516432542631615432642531
132456154236231456254136321456354126 421356453126521346543126621345643125
132465154263231465254163321465354162 421365453162521364543162621354643152
132546154326231546254316321546354216 421536453216521436543216621435643215
132564154362231564254361321564354261 421563453261521463543261621453643251
132645154623231645254613321645354612 421635453612521634543612621534643512
132654154632231654254631321654354621 421653453621521643543621621543643521
134256156234234156256134324156356124 423156456123523146546123623145645123
134265156243234165256143324165356142 423165456132523164546132623154645132
134526156324234516256314324516356214 423516456213523416546213623415645213
134562156342234561256341324561356241 423561456231523461546231623451645231
134625156423234615256413324615356412 423615456312523614546312623514645312
134652156432234651256431324651356421 423651456321523641546321623541645321
135246162345235146261345325146361245 425136461235524136561234624135651234
135264162354235164261354325164361254 425163461253524163561243624153651243
135426162435235416261435325416361425 425316461325524316561324624315651324
135462162453235461261453325461361452 425361461352524361561342624351651342
135624162534235614261534325614361524 425613461523524613561423624513651423
135642162543235641261543325641361542 425631461532524631561432624531651432
136245163245236145263145326145362145 426135462135526134562134625134652134
136254163254236154263154326154362154 426153462153526143562143625143652143
136425163425236415263415326415362415 426315462315526314562314625314652314
136452163452236451263451326451362451 426351462351526341562341625341652341
136524163524236514263514326514362514 426513462513526413562413625413652413
136542163542236541263541326541362541 426531462531526431562431625431652431
142356164235241356264135341256364125 431256463125531246563124631245653124
142365164253241365264153341265364152 431265463152531264563142631254653142
142536164325241536264315341526364215 431526463215531426563214631425653214
142563164352241563264351341562364251 431562463251531462563241631452653241
142635164523241635264513341625364512 431625463512531624563412631524653412
142653164532241653264531341652364521 431652463521531642563421631542653421
143256165234243156265134342156365124 432156465123532146564123632145654123
143265165243243165265143342165365142 432165465132532164564132632154654132
143526165324243516265314342516365214 432516465213532416564213632415654213
143562165342243561265341342561365241 432561465231532461564231632451654231
143625165423243615265413342615365412 432615465312532614564312632514654312
143652165432243651265431342651365421 432651465321532641564321632541654321
Dit zijn 1 ∙ 2 ∙ 3 ∙ 4 ∙ 5 ∙ 6 = 6! = 720 permutaties. Stel dat de bak twee compartimenten bevat, een linkercompartiment en een rechtercompartiment. Dit zijn dan alle mogelijke verdelingen van de balletjes over de compartimenten:
LinkercompartimentRechtercompartiment
Zes balletjesNul balletjes
Vijf balletjesEén balletje
Vier balletjesTwee balletjes
Drie balletjesDrie balletjes
Twee balletjesVier balletjes
Eén balletjeVijf balletjes
Nul balletjesZes balletjes
Vervolgens stel ik dat we helemaal niet geïnteresseerd zijn in de onderscheidbaarheid van de balletjes per compartiment. We willen alleen weten hoeveel balletjes er in ieder compartiment liggen. Dus dat er bijvoorbeeld vijf balletjes links liggen en eentje rechts kan op zes verschillende manieren (balletje één kan rechts liggen of balletje twee of balletje drie of balletje vier of balletje vijf of balletje zes). Deze zes verschillende manieren noemen we ieder voor zich een combinatie, en daarbij maakt het niet uit hoe (in welke volgorde) de vijf balletjes in het linkercompartiment liggen (lees: terecht gekomen zijn). Ik schrijf de voorgaande tabel nogmaals op, maar dan met het aantal combinaties erbij:
LinkercompartimentRechtercompartimentAantal combinaties
Zes balletjesNul balletjes1
Vijf balletjesEén balletje6
Vier balletjesTwee balletjes15
Drie balletjesDrie balletjes20
Twee balletjesVier balletjes15
Eén balletjeVijf balletjes6
Nul balletjesZes balletjes1
Totale aantal combinaties64
Ik zal, als voorbeeld, de vijftien combinaties van de verdeling “twee balletjes links, vier balletjes rechts” in detail uitschrijven:
CombinatieLinkercompartimentRechtercompartiment
1123456
2132456
3142356
4152346
5162345
6231456
7241356
8251346
9261345
10341256
11351246
12361245
13451236
14461235
15561234
Van iedere combinatie zijn er 48 permutaties mogelijk. Ik zal dat laten zien voor de eerste combinatie uit de bovenstaande tabel:
PermutatieLinkercompartimentRechtercompartiment
1123456
2123465
3123546
4123564
5123645
6123654
7124356
8124365
9124536
10124563
11124635
12124653
13125346
14125364
15125436
16125463
17125634
18125643
19126345
20126354
21126435
22126453
23126534
24126543
25213456
26213465
27213546
28213564
29213645
30213654
31214356
32214365
33214536
34214563
35214635
36214653
37215346
38215364
39215436
40215463
41215634
42215643
43216345
44216354
45216435
46216453
47216534
48216543
Die twee balletjes links kunnen op 2! = 2 manieren permuteren en de vier balletjes rechts op 4! = 24 manieren. Dit zijn 2 × 24 = 48 permutaties, en omdat er vijftien combinaties zijn levert dat in totaal 15 × 48 = 720 permutaties op. Het aantal permutaties blijft in alle gevallen, bij iedere verdeling, 6! = 720, maar of in een bepaald compartiment eerst balletje nummer één valt gevolgd door balletje twee (bijvoorbeeld), of andersom, dat boeit ons niet. Het gaat om het aantal balletjes per compartiment, en per compartiment zijn er Ni! permutaties mogelijk (met Ni het aantal balletjes in het i-de compartiment). Daarom kan ik het aantal combinaties per verdeling berekenen als volgt:

Gauss

Ergens in dit verhaal willen we natuurlijk de kreet normale verdeling horen en zien, de Gauss-kromme, die ziet er zo uit:


De grafiek van f (x) = e−ax2 voor a = 0.3 (de rode lijn),
a = 1 (de groene lijn) en a = 3 (de blauwe lijn)
De normale verdeling komt tot uiting in het aantal combinaties per verdeling. Voor dit voorbeeld met zes balletjes ziet dat er zo uit:

Het aantal combinaties als functie van het aantal balletjes in het rechtercompartiment, N = 6
Voor tien balletjes ziet de grafiek er zo uit:

Het aantal combinaties als functie van het aantal balletjes in het rechtercompartiment, N = 10
En voor honderd balletjes wordt de normale verdeling duidelijk zichtbaar:

Het aantal combinaties als functie van het aantal balletjes in het rechtercompartiment, N = 100
De volgende stap is om uit te gaan van een bak met drie compartimenten in plaats van twee. Ik nummer de compartimenten 1, 2 en 3. In onderstaande tabel geef ik weer alle mogelijke verdelingen van de balletjes over de compartimenten en ik schrijf gelijk het aantal combinaties erbij:
Compartiment 1Compartiment 2Compartiment 3Aantal combinaties
Zes balletjesNul balletjesNul balletjes1
Vijf balletjesEén balletjeNul balletjes6
Vijf balletjesNul balletjesEén balletje6
Vier balletjesTwee balletjesNul balletjes15
Vier balletjesEén balletjeEén balletje30
Vier balletjesNul balletjesTwee balletjes15
Drie balletjesDrie balletjesNul balletjes20
Drie balletjesTwee balletjesEén balletje60
Drie balletjesEén balletjeTwee balletjes60
Drie balletjesNul balletjesDrie balletjes20
Twee balletjesVier balletjesNul balletjes15
Twee balletjesDrie balletjesEén balletje60
Twee balletjesTwee balletjesTwee balletjes90
Twee balletjesEén balletjeDrie balletjes60
Twee balletjesNul balletjesVier balletjes15
Eén balletjeVijf balletjesNul balletjes6
Eén balletjeVier balletjesEén balletje30
Eén balletjeDrie balletjesTwee balletjes60
Eén balletjeTwee balletjesDrie balletjes60
Eén balletjeEén balletjeVier balletjes30
Eén balletjeNul balletjesVijf balletjes6
Nul balletjesZes balletjesNul balletjes1
Nul balletjesVijf balletjesEén balletje6
Nul balletjesVier balletjesTwee balletjes15
Nul balletjesDrie balletjesDrie balletjes20
Nul balletjesTwee balletjesVier balletjes15
Nul balletjesEén balletjeVijf balletjes6
Nul balletjesNul balletjesZes balletjes1
Totale aantal combinaties729
Het aantal combinaties per verdeling kan ik ook hier berekenen door het totale aantal permutaties te delen door het aantal mogelijke permutaties per compartiment:
Het is tijd voor enkele opmerkingen en conclusies: De laatste stap in dit kansrekeningsproces is de situatie dat de compartimenten een ongelijke grootte hebben. Als we even terugdenken aan de situatie met twee compartimenten en het linkercompartiment heeft een relatieve grootte van bijvoorbeeld 0.75 en het rechtercompartiment een relatieve grootte van 0.25, dan zal ieder balletje dat valt een kans van 0.75 hebben om links te vallen en een kans van 0.25 om rechts te vallen. Met de nadruk op ieder balletje. Dus in de kans die we uiteindelijk gaan berekenen moet een term komen van de vorm (bij k compartimenten, en de g’s zijn de groottes van de compartimenten):
Hetgeen ons tenslotte brengt bij de kans op een bepaalde verdeling van de balletjes over de compartimenten (de vergelijkingen (4) en (5) achter elkaar geplakt):
Of compacter genoteerd:
Vervolgens gaan we op zoek naar de optimale kans, oftewel de grootste kans. Om dat proces te vergemakkelijken (anticiperend op wat komen gaat) ga ik bij vergelijking (7) links en rechts de natuurlijke logaritme nemen. Dat mag ik straffeloos doen, want daarmee blijft het maximum nog steeds het maximum (het verschuift niet):
Tot aan dit punt was alles wiskunde, maar dat gaat nu veranderen. Ik heb het de hele tijd gehad over balletjes en die balletjes zijn vanaf nu deeltjes (atomen of elektronen of moleculen of zoiets). En de compartimenten van de bak zijn vanaf nu het aantal mogelijke energieniveau’s die een deeltje kan hebben. Dat heeft twee gevolgen: Het aantal deeltjes is constant, zijnde N:
De totale energie van al die deeltjes is ook constant, zijnde E:

Lagrange

Nu komt er een truc die we te danken hebben aan meneer Lagrange. We zoeken het maximum van ln K. Dat levert natuurlijk hetzelfde op als zoeken naar het maximum van ln K minus nog een paar constanten. En dat levert natuurlijk hetzelfde op als zoeken naar het maximum van ln K minus nog een paar constanten vermenigvuldigd met weer andere constanten. Ik heb net twee constanten genoemd, E en N, en die vermenigvuldig ik met twee willekeurige andere constanten, α en β. Oftewel, ik zoek het maximum van deze uitdrukking:

Door dit te differentiëren naar Ni en nul te stellen vind ik het maximum van K:
Hier ga ik de vergelijkingen (8), (9) en (10) in invullen:
Vervolgens ga ik differentiëren:
Hoe gaan we die faculteit differentiëren? Dat is een probleem, en daarom gaan we even een omweggetje maken. De faculteitsfunctie is gedefinieerd als volgt:

Stirling

Op deze pagina heb ik een hele goede benaderingsformule afgeleid en die staat in de boeken als de formule van Stirling:

De formule van Stirling is er ook voor de natuurlijke logaritme van de faculteitsfunctie:
De afgeleide hiervan zoek ik op in de tabel met afgeleiden:
Dit stelt mij in staat om verder te werken met vergelijking (14):
Omdat k oneindig groot is kan dit alleen opgelost worden, of beter gezegd, kan dit alleen gelden, indien dit voor iedere waarde van i geldt:
En omdat Ni ook een heel groot getal is kunnen we al die termen met Ni in de noemer verwaarlozen:
Hier ga ik nog wat mee knutselen:
De constante α vervang ik door een andere constante A als volgt:
Hiermee wordt vergelijking (22):
Dit is een belangrijk resultaat!

Vervolgens ga ik de gemiddelde energie per deeltje uitrekenen. Deze gemiddelde energie is de totale energie gedeeld door het aantal deeltjes:
Voor E en N ga ik de vergelijkingen (9) en (10) invullen (en voor k vul ik vanaf nu oneindig in, want k is immers oneindig groot):
En vervolgens ga ik daar vergelijking (24) in invullen:
Nu doen we nog een belangrijke aanname: In de literatuur wordt dit vaak weggemoffeld of in een miniscuul voetnootje vermeld, maar dit is een essentieel fundament om op verder te bouwen (anders kunnen we niet verder). Deze nieuwe informatie stelt mij in staat om gi uit te delen:
Zoals ik hiervoor vertelde zijn er oneindig veel energieniveau’s en is er sprake van een energiecontinuüm. Daarom kan ik de sommaties uit vergelijking (28) vervangen door integralen. Ik werk dat even in detail uit voor de sommatie in de noemer:
Indien iedere e-macht ‘niet zo veel’ varieert binnen de integratiegrenzen geldt bij zeer goede benadering:
Aldus wordt vergelijking (28):
Nu wil ik gaan integreren naar i, maar mijn integrand is nog helemaal niet geschreven als een functie van i. Dit is de volgende hindernis die genomen moet worden. Voor het nemen van deze hindernis zijn twee opties, allereerst de juiste (en moeilijkste):
  1. Ik zou kunnen beargumenteren dat de energie een kwadraat is van de variabele i. Al die deeltjes hebben een snelheid en de daarmee gepaard gaande (klassieke) kinetische energie per deeltje is (m is de massa van het deeltje, v is de snelheid):
    Of ik stel ieder deeltje voor als een harmonische oscillator, zeg maar een veertje, en de energie die opgeslagen zit in een veer is (k is de veerconstante, x is de uitrekking):
    Of ik beschouw het kwantummechanische probleem van een deeltje-in-een-doos (m is de massa van het deeltje, a is de breedte van de doos, i is het aantal halve golflengtes dat ‘in de doos past’):
    Er zijn talloze voorbeelden van energie die in een bepaalde situatie kwadratisch evenredig is met ‘de variabele ter plaatse’, bijvoorbeeld de energie in een spoel:
    De energie in een condensator:
    De dissipatie in een weerstand (per seconde):
    De energie-inhoud van het elektrische veld (per volume-eenheid, in een vacuüm omgeving):
    De energie-inhoud van het magnetische veld (per volume-eenheid, in een vacuüm omgeving):
    De energie-inhoud van het elektrische veld van een geladen bol (in een vacuüm omgeving):
    De rotatie-energie van een holle bol:
    De rotatie-energie van een massieve bol:
    Maar hier, in dit specifieke probleem, zit de crux er natuurlijk in dat we te maken hebben met bewegende deeltjes en kinetische energie gaat kwadratisch met de snelheid. Daarom stel ik ε als een kwadratische functie van i en ga daarmee verder werken. Dan wordt de route als volgt, vergelijking (31) wordt (met p een of andere evenredigheidsconstante):
    De integraal in de teller zoek ik op in de tabel met integralen en de integraal in de noemer zoek ik ook op in de tabel met integralen:
    En zo vinden we dat de gemiddelde energie gelijk is aan 1/(2β). De totale energie van alle deeltjes samen is dan volgens vergelijking (25):
    Met de belangrijke kanttekening dat we het hier hebben over deeltjes die alleen translaties uitvoeren, dus geen rotaties of vibraties, én al het voorgaande is uitgewerkt in één dimensie (daarom had ik helemaal bovenaan deze pagina in het plaatje ook een ééndimensionale bak getekend waar de balletjes invallen). Oftewel, vergelijking (38) betreft alleen kinetische energie, en per deeltje is dat dan:
    Vanuit de basics van de thermodynamica weten we dat de gemiddelde kinetische energie van een molecuul gelijk is aan:
    Dit is afgeleid voor een molecuul met drie vrijheidsgraden qua beweging, dus in drie dimensies. In één dimensie wordt dat dan een derde deel daarvan:
    Door de vergelijkingen (39) en (41) te combineren volgt hieruit:
    Bovenaan deze pagina heb ik een plaatje staan met een ééndimensionale bak met balletjes. Ik had ook vanaf het begin in drie dimensies kunnen werken, dan had ik nu, behalve i, nog twee variabelen, bijvoorbeeld m en n:
    Dan zag vergelijking (36) er nu zo uit:
    Dit ga ik uiteraard uitrekenen en dat doe ik in twee delen, eerst de teller:
    En vervolgens de noemer:
    Aldus wordt de oplossing van vergelijking (44):
    Waaruit direct volgt voor β:
    Waarmee vergelijking (37) wordt:
    En omdat alle gi’s gelijk zijn kan ik Agi vervangen door een nieuwe constante B:

    En omdat ik overgestapt was van een sommering naar een integraal (van het energiecontinuüm) kan ik de i-indices weglaten, welkom bij de Boltzmann-verdeling:

    En de letter k die in de laatste vergelijkingen is opgedoken staat nu in de boeken als de constante van Boltzmann.

  2. Ik had ook onderweg, terwijl ik sprak over het energiecontinuüm, gezegd kunnen hebben dat ik moet integreren over dat volledige energiecontinuüm en op die manier op een natuurlijker (of slinksere?) wijze hebben kunnen overstappen op ε als integratievariabele. Mijn vertrekpunt is wederom vergelijking (31):
    De integraal in de teller zoek ik op in de tabel met integralen en de integraal in de noemer zoek ik ook op in de tabel met integralen:
    En zo vinden we dat de gemiddelde energie gelijk is aan 1/β. Hé, dat scheelt een factor twee met het vorige resultaat, want door dezelfde redenering te gebruiken als hiervoor krijg ik het resultaat:

    Deze factor twee wordt dan bijvoorbeeld gered door te zeggen dat bij een harmonische oscillator, bijvoorbeeld een massa die aan een veer hangt en in trilling wordt gebracht, de kinetische energie slechts de helft van het verhaal is, omdat er continu een uitruil plaatsvindt tussen kinetische energie en potentiële energie. Op die manier wordt er een factor twee bijgepraat en komen we weer uit op:

    Er zijn ook nog andere ‘constructies’ die je in de literatuur en op internet tegenkomt om de factor twee goed te krijgen. Laten we even wat gaan rekenen, de gemiddelde energie van een molecuul bij kamertemperatuur is:
    Datzelfde molecuul, bestaande uit pakweg twintig protonen en neutronen, doorloopt in een kamer van drie meter hoog een verschil in potentiële energie van:
    Dus afgezien daarvan dat we het hier hebben over moleculen die alleen translaties uitvoeren (en geen vibraties) speelt de potentiële energie geen enkele rol van betekenis, de variatie in potentiële energie is slechts een tienduizendste van de totale energie.
Samengevat, ik begon met een flinke partij kansrekening en die bracht ons deze kans op een verdeling van N balletjes over k compartimenten:
Vervolgens ging ik op zoek naar de grootste kans en daarvoor nam ik eerst de natuurlijke logaritme:
Nadat de balletjes deeltjes waren geworden en de compartimenten energieniveau’s kwamen we, na het nodige rekenwerk, tot dit resultaat:
Toen ging ik de gemiddelde energie per deeltje uitrekenen:
En ik deed nog een belangrijke aanname: Omdat er oneindig veel energieniveau’s zijn werden de sommeringen integralen:
Vanuit het gegeven dat ε kwadratisch evenredig is met i konden we β bepalen:
Hetgeen ons uiteindelijk naar de Boltzmann-verdeling leidde:

De grafiek van N (ε) voor T = 10 K (de rode lijn), T = 20 K (de oranje lijn),
T = 50 K (de groene lijn), T = 100 K (de paarse lijn)
en T = 200 K (de blauwe lijn), B = 1