Idd na storm Nils heb ik meermalen chatgtp geconsulteerd om niet onbeslagen op het ijs te lomen tegenover de verzekering.

Je komt dingen te weten waar je anders geen benul van hebt.

Kan het iedereen aanraden.

Wanneer AI feiten “verzint”, heet dat een “hallucinatie”. Hoewel dat vreemd klinkt, betekent het dat een AI een antwoord genereert dat aannemelijk klinkt, maar niet (helemaal) klopt.  AI is gebaseerd op taalmodellen die met grote hoeveelheden menselijke tekst zijn getraind. Maar het belangrijkste punt is dat een taalmodel voorspelt welk woord waarschijnlijk als volgende komt, niet per se wat feitelijk waar is. Het model leert dus patronen in taal. Daardoor kan het heel goed uitleg geven, teksten schrijven en vragen beantwoorden, maar het “weet” dingen niet zoals een mens dat weet.

Wat er precies gebeurt is het volgende:  wanneer je een vraag stelt, analyseert het model je vraag en berekent het welke woorden statistisch het best passen als antwoord. Zo bouwt het stap voor stap een zin of tekst. Als de trainingsdata waarmee AI gevoed is, onvolledig zijn of als het model moet improviseren, kan het een niet-bestaande bron noemen, een verkeerde datum geven, een plausibel maar fout detail verzinnen. 

Belangrijk verschil met een zoekmachine is, dat een zoekmachine bestaande pagina’s afzoekt. Een AI taalmodel genereert een nieuw antwoord dat is gebaseerd op patronen. Daarom is het verstandig om voor belangrijke dingen (bijv. medische, juridische of wetenschappelijke informatie) informatie te controleren met betrouwbare bronnen.

Probeer trouwens ook deze AI eens. Een Frans initiatief:  Mistral.ai

Vooral op het gebied van juridische vraagstukken is het gebruik van AI zeer discutabel. AI genereert inderdaad goed klinkende termen en maakt daar een voor een leek logisch geheel van. Meestal is het klinklare onzin en heeft het niks met wet- en regelgeving of jurisprudentie van doen. Hoe controleer je als leek of de tekst klopt?

Uiteraard gebruiken juristen ook databases, maar wel juridische en zeker geen Chatgtp.

We hadden hier gistereren bij de lunch toevallig een gesprek over met een jurist. Chat GPT is totaal onbetrouwbaar volgens hem. Het model verzint wetsteksten, verwijst naar niet bestaande artikelen etc. Ik heb dezelfde ervaring toen in onze (zakelijke) licentiecontracten liet analyseren: hij kwam met totale, voor een leek indrukwekkend uitziende, onzin. Dat gezegd hebbende: ik gebruik AI voor het analyseren van data en (steeds vaker) als vervanger voor Google. Ik gebruik Mistral (Le Chat) ChatGPT, en een groot aantal andere modellen die op mijn eigen server, veilig los van het internet, draaien: ik wil mijn kostbare data natuurlijk niet gratis en voor niets delen met de wereld.... 

@Willem
Inderdaad zo werkt het en dat betekend in basis onbetrouwbaar. Verder gaat het bij ai uitsluitend om zoveel mogelijk geld te verdienen. Hoe dat is onduidelijk. De voeding van ai is het internet en langzamerhand (steeds sneller) is de content van het internet steeds meer gegenereerd door ai. Wat een mooie paradox oplevert en dus op termijn heeft niemand er iets meer aan. Wat er dan al verpest is dat weet niemand maar voor mij staat vast dat ai de wereld niet beter maakt. Los daarvan vind ik de 'i' in ai volkomen onterecht. Als het ergens niets meer te maken heeft dat is het wel intelligentie. Maar dat heeft Willem al beschreven.

Als het gaat om het opzoeken van zaken, op welk gebied dan ook gebruik ik Perplexity (pro). Ook AI natuurlijk, maar vooral gericht en ingesteld op het duidelijk uitleggen van dingen. Of het nou juridisch of medisch of technisch is, of voor vertalingen. Alle antwoorden komen met bronvermelding (niet de Libelle of zo) en zijn dus goed kontroleerbaar. Ik gebruik het elke dag. Aanrader.