Wer erfindet die Computermythen? ~ Joseph Weizenbaum & Gunna Wendt
Eén van de pioniers van het vak kunstmatige intelligentie (AI) werd ook al meteen de grootste criticus daarvan.
Joseph Weizenbaum [1923 — 2008] schreef in de jaren zestig de eerste software die wij nu als ‘chatbot’ zouden typeren. ELIZA heette dit programma. En daarmee leek een intelligent gesprek mogelijk te zijn. Weizenbaum had de software zo geschreven dat die op trefwoorden reageerde. En dit gebeurde dan door zo’n trefwoord te herhalen in een vraag; zoals een therapeut dit in een gesprek zou doen.
Tijdens éen van de eerste testen chatte Weizenbaum’s secretaresse met ELIZA. En zij verbijsterde de onderzoeker door hem te verzoeken de kamer te verlaten. Terwijl de secretaresse toch wist met software van doen te hebben, en niet met een echt mens berichtjes uit te wisselen.
Dit is overigens een algemeen bekend verhaal, dat iedereen zou behoren te kennen. Omdat het wat mij betreft zo al twee waarschuwingen biedt over computertechnologie. Gebruikers kunnen makkelijk geheel in beslag genomen worden door iets op een scherm dat zij als echt ervaren. En makers hebben doorgaans geen goed benul van hoe hun vindingen precies zullen worden benut.
Weizenbaum ergerde zich voornamelijk aan de religieuze trekjes in de beloften van al het moois dat computers zouden gaan bieden. Sowieso hebben de harde wetenschappen vreemd gelovige trekjes, volgens hem; met pausen en dogma’s en al.
Van Weizenbaum heb ik het standaardwerk Computer Power and Human Reason gelezen, heel lang geleden. Dat boek moest altijd nog eens opnieuw worden bekeken. Alleen dateert het wel uit 1976. Dus was ik ook benieuwd naar wat er van hem sindsdien nog verschenen was.
Wer erfindet die Computermythen? bleek alleen een wat ander boek te zijn dan gehoopt. De uitgave is de weerslag van een tal gesprekken die Weizenbaum voerde met Gunna Wendt. Als introductie in het leven en de algemene gedachten van de computercriticaster is het daarmee ongetwijfeld voorbeeldig. Maar voor mij als ingevoerde leek ontbraken de nieuwe ideeën helaas, of de echt verrassende stellingnames.
Mij hoef je niet te vertellen altijd sceptisch te moeten blijven. Ik had daarentegen graag gelezen wat het me kan opleveren om eeuwig sceptisch te zijn; naast de pijnlijke wetenschap dat er over zo veel vaak niets rechtuit gezegd kan worden; voor wie maatschappelijk niet buitenspel wil komen te staan.
Ook blijkt de titel van het boek een retorische vraag te zijn. Joseph Weizenbaum ging nog wel in op welke mythes er tot zijn grote chagrijn bestaan over computers — zoals het papierloze kantoor, of het waanidee dat door computers alles sneller en efficiënter zal gaan. Alleen behandelt hij geen moment waar deze ideeën dan vandaan zouden komen.
Had deze uitgave overigens wel het probleem uit de tijd te stammen van voor het commerciële internet. Weizenbaum had in dit boek nog geen weet van de vorm die de grote communicatierevolutie zou krijgen; en waarmee enkele van de computermythen waar hij nog zo schamper over was nu wel lijken uit te komen.
Overigens zijn daarbij niet zelden eerder economische wetten van betekenis dan puur technische ontwikkelingen.
Elke leverancier bijvoorbeeld, kan flink op kosten besparen door zijn afnemers een deel van het werk te laten doen, als dat voorheen nog zelf betaald moest worden.
IKEA kan goedkope boekenkasten leveren, door die kasten als bouwpakket te verkopen. Want als zo’n kast al in een timmerfabriek in elkaar wordt gezet, kost dat de fabrikant geld, niet de klant. ‘Flatpacks’ zijn bovendien goedkoper om te vervoeren en om op te slaan dan al gemonteerde kasten; die veel meer ruimte innemen.
Net zo besparen de banken of verzekeraars behoorlijk op personeel door hun klanten zelf van alles online te laten doen. Reizen hoeven niet meer door een specialist in een winkelpand te worden geboekt, want iedereen kan dat achter een scherm thuis, etcetera.
En dan heeft Weizenbaum ongetwijfeld gelijk in de zin dat er daarmee geen werk verdwenen is; terugredenerend naar de mythe die hij aanvalt — het zijn nu immers anderen die de benodigde inspanning verrichten. Alleen vind ik zo’n oude mythe over wat de computer zou brengen, en almaar niet deed, veel minder interessant dan de principes achter de verschuiving die er inmiddels wel heeft plaatsgehad.
RSS feeds