Slijpsteen, geen orakel

Er is een oude vraag — kan een machine denken? — die sinds kort niet langer alleen filosofen bezighoudt, maar iedereen die 's ochtends een tekstvak openzet en een taalmodel iets vraagt. En het eerlijke antwoord op die vraag is ongemakkelijker dan beide kampen je willen verkopen. De profeten zeggen: het denkt, het wordt binnenkort bovenmenselijk, doe mee of verlies. De ontkenners zeggen: het is een veredelde papegaai, trucage, niks aan de hand. Beiden verkopen zekerheid, en zekerheid verkoopt nu eenmaal beter dan twijfel. Geen van beiden verkoopt je de waarheid.

De waarheid ligt in het ongemakkelijke midden, en ze is bruikbaarder dan beide uitersten. Deze systemen zijn echt verbluffend en echt nuttig; ze zijn óók echt beperkt en maken fouten met een stalen gezicht. Ze begrijpen in een bepaalde zin veel; ze missen in een andere zin het fundament — de directe, lijfelijke band met de wereld die mensen hebben en zij niet. Ze hebben, om het beeldend te zeggen, de schaduw van de menselijke kennis, niet de zon zelf. Ze weten hoe mensen over de smaak van zout schrijven; geproefd hebben ze nooit.

De verkeerde vraag en de goede

De vraag "denkt het écht?" blijkt de verkeerde vraag — niet omdat ze oninteressant is, maar omdat ze onbeslisbaar is en je geen stap verder brengt in de praktijk. De vruchtbaarder vraag is: hoe werk je er goed mee samen? Wat is van de machine, en wat van jou? Van de machine: het snel verwerken van enorme hoeveelheden tekst, het meedenken, het verbanden leggen, het tegenspreken, het eerste klad, de tiende variant, de geduldige uitleg om twee uur 's nachts. Van jou: het oordeel, de verantwoordelijkheid, de directe band met mensen en de wereld, de morele weging, en het laatste woord.

Een taalmodel is een uitstekende denkpartner en een slechte baas; een briljante leerling-gezel en een gevaarlijke autopiloot. Het is op zijn best niet wanneer je het gelooft, maar wanneer je het gebruikt om scherper te denken en het daarna narekent. Een tegenspreker die nooit moe wordt, een spiegel die terugpraat. Geen orakel. Een slijpsteen.

Waarom dat onderscheid alles is

Het gevaar zit niet in wat de machine kan, maar in wat wij ermee doen als we vergeten waar haar grens ligt. Wie de uitkomst klakkeloos overneemt, vervangt zijn eigen denken door dat van een systeem dat met overtuiging onzin kan produceren. Wie de uitkomst gebruikt als grondstof — als vertrekpunt om op te bouwen, tegen in te gaan, scherper van te worden — vermenigvuldigt zijn eigen vermogen zonder het uit handen te geven. Het verschil tussen die twee houdingen is het verschil tussen een gereedschap en een kruk.

Een moment om mee te nemen: de volgende keer dat een systeem je een antwoord geeft, vraag niet "klopt dit?" maar "hoe controleer ik dit?". Het eerste maakt je afhankelijk. Het tweede maakt je scherper. De machine is de slijpsteen; het mes — en de hand die het vasthoudt — blijf jij.

Vertrouwensscore 0.8 — De beschrijving van wat huidige taalmodellen wel en niet zijn, is met opzet voorzichtig: de wetenschap is hier in volle beweging en stellige uitspraken over "begrip" zijn aan beide kanten verdacht. Het praktische advies — gebruiken en narekenen in plaats van geloven — staat steviger en sluit aan op breed gedeeld inzicht over verantwoord gebruik.