Laten we de zaak even opknappen: je hebt
-\int_0^t\sqrt{x}\cdot\ln(1-x)\,\mathrm{d}x
De eerste stap partiële integratie levert
\left\lbrack-\frac23x\sqrt{x}\cdot\ln(1-x)\right\rbrack_0^t -\frac23\int_0^t\frac{x\sqrt{x}}{1-x}\,\mathrm{d}x
Je wilt alvast de limiet voor t\to1 nemen in het eerste stuk en daar de limiet van het tweede stuk van aftrekken. Het vervelende is dat dat niet gaat lukken omdat beide delen apart geen eindig getal als limiet hebben maar \infty (en die twee oneindigen hebben als verschil het juiste antwoord).
Wat je moet doen is eerst de hele primitieve bepalen, daarin t en 0 invullen en dan van de hele uitdrukking de limiet nemen.
Als we in de tweede term, zoals je aangeeft, x=y^2 substitueren komt er
(eventjes zonder de factor -\frac23)
2\int\frac{y^4}{1-y^2}\,\mathrm{d}y
Door op te merken dat y^4=y^4-1+1=(y^2-1)(y^2+1)+1 kun je daar
2\int-y^2-1+\frac1{1-y^2}\,\mathrm{d}y
van maken; dan breuksplitsen: \frac2{1-y^2}=\frac1{1+y}+\frac1{1-y}, dat geeft
\int-2y^2-2+\frac1{1+y}+\frac1{1-y}\,\mathrm{d}y =-\frac23y^3-2y+\ln(1+y)-\ln(1-y)
terug substitueren geeft
-\frac23x\sqrt{x}-2\sqrt{x}+\ln(1+\sqrt{x})-\ln(1-\sqrt{x})
Als je nu alles in één primitieve bij elkaar neemt komt er
-\frac23x\sqrt{x}\cdot\ln(1-x)+\frac49x\sqrt{x}+\frac43\sqrt{x}-\frac23\ln(1+\sqrt{x})+\frac23\ln(1-\sqrt{x})
De termen met \ln(1-x) en \ln(1-\sqrt{x}) geven problemen als je de limiet voor t\to1 gaat nemen, maar die kun je bij elkaar nemen door \ln(1-x)=\ln(1+\sqrt{x})+\ln(1-\sqrt{x}) te gebruiken.
Als je netjes werkt krijg je deze primitieve
-\frac23(1+x\sqrt{x})\ln(1+\sqrt{x}) +\frac23(1-x\sqrt{x})\ln(1-\sqrt{x})+\frac49x\sqrt{x}+\frac43\sqrt{x}
Als je nu t en 0 invult hebben de eerste, derde, en vierde termen veilige limieten voor t\to0 (je kun gewoon 1 invullen). De tweede term heeft nu limiet 0 als t\to1, dat volgt uit bekende limieten voor de logaritme.