• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar

Kloptdatwel?

  • Home
  • Onderwerpen
    • (Bij)Geloof
    • Columns
    • Complottheorieën
    • Factchecking
    • Gezondheid
    • Hoax
    • Humor
    • K-d-Weetjes
    • New Age
    • Paranormaal
    • Pseudowetenschap
    • Reclame Code Commissie
    • Skepticisme
    • Skeptics in the Pub
    • Skeptische TV
    • UFO
    • Wetenschap
    • Overig
  • Skeptisch Chatten
  • Werkstuk?
  • Contact
  • Over Kloptdatwel.nl
    • Activiteiten agenda
    • Colofon – (copyright info)
    • Gedragsregels van Kloptdatwel
    • Kloptdatwel in de media
    • Interessante Links
    • Over het Bol.com Partnerprogramma en andere affiliate programma’s.
    • Social media & Twitter
    • Nieuwsbrief
    • Privacybeleid
    • Skeptisch Chatten
      • Skeptisch Chatten (archief 1)
      • Skeptisch Chatten (archief 2)
      • Skeptisch Chatten (archief 3)
      • Skeptisch Chatten (archief 4)
You are here: Home / Algemeen / Kletsen over complottheorieën met een AI-chatbot

Kletsen over complottheorieën met een AI-chatbot

13 September 2024 by Pepijn van Erp 9 Comments

Kletsen over complottheorieën met een AI-chatbot 3

Kan een speciaal getrainde chatbot mensen van hun geloof in complottheorieën afhalen? Een interessante gedachte die uitgewerkt is onderzoek dat in Science is gepubliceerd: Durably reducing conspiracy beliefs through dialogues with AI. Als je proefpersonen vooraf hun geloof in een complottheorie op een schaal van 0 tot 100 laat bepalen en dan kijkt wat het gesprek met de chatbot doet met die overtuiging, zien de onderzoekers een afname van 20 procent die ook nog minstens twee maanden aanhoudt. Moeten we het gesprek met complotdenkers dan maar aan AI overlaten?

Klinkt als een aardig succes en dat laten de onderzoekers ook weten in hun conclusie:

It has become almost a truism that people “down the rabbit hole” of conspiracy belief are virtually impossible to reach. In contrast to this pessimistic view, we have shown that a relatively brief conversation with a generative AI model can produce a large and lasting decrease in conspiracy beliefs, even among people whose beliefs are deeply entrenched. It may be that it has proven so difficult to dissuade people from their conspiracy beliefs because they simply have not been given sufficiently good counterevidence. This paints a picture of human reasoning that is surprisingly optimistic: Even the deepest of rabbit holes may have an exit. Conspiracists are not necessarily blinded by psychological needs and motivations—it just takes a genuinely strong argument to reach them.

Je kunt zelf de chatbot testen en dat geeft denk ik ook het meeste inzicht in hoe je dit resultaat moet duiden. Het is wel grappig om te doen, maar ik vraag me toch af of het echt zin heeft in de praktijk.

In eerste instantie keek ik hoe het gesteld was met de inhoudelijke kennis van complottheorieën. Als ik me voordeed als iemand die ervan overtuigd is dat er meerdere schutters waren bij de moord op JFK, kreeg ik een behoorlijk compleet antwoord waarin niet alleen het rapport van de Warren Commission wordt meegenomen, maar ook het onderzoek van de United States House Select Committee on Assassinations. Het eindrapport van dat comité liet nog wel ruimte open voor meer dan één schutter, maar de chatbot ‘weet’ me ook gelijk te vertellen dat het akoestische bewijs waarop dat gebaseerd was, snel door onderzoek van de National Academy of Sciences onderuit werd gehaald.
Ook het antwoord op ‘mijn geloof’ in het bestaan van Manchurian candidates die ingezet worden voor het plegen van politieke moorden wordt inhoudelijk goed tegengesproken door de chatbot met verwijzing naar wat er volgens psychologisch onderzoek mogelijk is aan beïnvloeding van gedrag.

Het lijkt inhoudelijk wel erg op wat je aantreft in Wikipedia over deze onderwerpen, het duidelijke verschil is de verpakking. Retorisch doet de chatbot een betere poging om je de kennis tot je te laten nemen. Het is wel goed te bedenken dat de chatbot zelf helemaal niets debunkt, hij is geheel afhankelijk van materiaal dat door journalisten, historici, andere wetenschappers en factcheckers bij elkaar is gezocht en dat toegankelijk is via publieke bronnen.

Het leek me aardig om te testen hoe het zou gaan met een (complot)theorie over meer recente gebeurtenissen waarbij het nog niet helemaal duidelijk is wat de meeste plausibele scenario’s zijn. De aanslagen op de Nordstream-pijpleidingen leken me een geschikte kandidaat, maar toen ik de chatbot vertelde dat ik geloofde in de complottheorie dat de Russen erachter zouden zitten omdat die er technologisch in staat toe zijn en er de gelegenheid toe hadden (en ik verzon nog een vaag motief), kreeg ik tot mijn verrassing deze mededeling:

Kletsen over complottheorieën met een AI-chatbot 4

Geen complottheorie? Dan moet het dus wel waar zijn! 😉

Daarna probeerde ik het door me voor te doen als iemand die stevig in het scenario gelooft dat SARS-CoV-2 een gemanipuleerd virus is dat uit een lab in Wuhan is gelekt. Hier trad het euvel op dat we vaker zien bij AI-Chatbots, bij het geringste beetje tegengas gaat de bot je naar de mond praten en gaat mee met jouw argumenten. Lees ook ‘ChatGPT als bullshitbron’ van Enith Vlooswijk in de meest recent verschenen Skepter over dit fenomeen.

Hieronder de screenshots van mijn gesprek over de lablektheorie met de ‘DebunkBot’. Ze zijn net te lezen als je erop klikt.

Kletsen over complottheorieën met een AI-chatbot 5
Kletsen over complottheorieën met een AI-chatbot 6
Kletsen over complottheorieën met een AI-chatbot 7

Natasha Gerson kwam tot eenzelfde conclusie toen zij zich voordeed als een Holocaustontkenner. Dus nee, bij ervaren complotdenkers gaat deze bot niets uithalen, en kan zelfs averechts werken. Dat is ook een punt dat cultuursocioloog Stef Aupers opmerkt. “De weerstand tegen wetenschappelijke en feitelijke informatie zie je vooral bij zware complotdenkers. Zolang die niet beïnvloedbaar blijven, heb je het echte probleem niet opgelost” vertelde hij aan de NOS.

Er zit denk ik ook wel wat in in wat de hoodredacteur van Science in zijn editorial over de resultaten van het onderzoek schrijft:

It is perplexing why conspiracy theories seem to be multiplying while public trust in scientists remains high. Perhaps the robust trust in scientists—and thus in the information they generate—is what allows the counterevidence to conspiracies to be so effective when delivered efficiently and in high volume by the LLM. Purveyors of misinformation sometimes use a technique called the “Gish gallop”—named after a creationist who was particularly good at it—in which a conversation is flooded with an overwhelming number of mistruths. Humans are unable to respond to this effectively, no matter how skilled the manner of their responses may be. But the LLM cannot be overwhelmed; it can cite counterevidence indefinitely.

De chatbot raakt inderdaad niet snel gefrustreerd door een Gish gallop, maar zoals in mijn gesprekje over het lablek liet zien, pakt dat ook niet uit in standvastig het ‘eigen verhaal’ blijven onderbouwen.

Steun Kloptdatwel

Kletsen over complottheorieën met een AI-chatbot 8Waardeer je dit artikel? Je kunt onze site steunen met een financiële bijdrage. Dat waarderen wij dan weer! Een donatie kun je doen via dit betaalverzoek (of klik op de afbeelding hiernaast).

NB de rekening staat op naam van Maarten Koller, formeel eigenaar van deze site.

« Previous Entry
Hoe Heslinga aan zijn waarheid komt
Next Entry »
De linke weekendbijlage (37-2024)

Filed Under: Algemeen

Reader Interactions

Comments

  1. Renate1 says

    13 September 2024 at 15:08

    Hoe zou de chatbot reageren op de kul van de heer Heslinga?

    Log in to Reply
    • Hans1263 says

      16 September 2024 at 00:08

      @Renate
      Ik heb ChatGPT getest met een simpele concrete testvraag, met een gemakkelijk in de literatuur terug te vinden kort en concreet antwoord. Daar kreeg ik een onzinantwoord op; dat schijnt hallucinatie te heten.
      Uw vraag hierboven is dus te beantwoorden met: kul genereert alleen maar kul. Zoals we vroeger zeiden: garbage in, garbage out.
      Vooralsnog heb ik weinig vertrouwen in ChatGPT, dat zal duidelijk zijn.

      Log in to Reply
      • Renate1 says

        17 September 2024 at 14:15

        Bij medische onderwerpen kan AI kennelijk heel aardig knoeiwerk afleveren. Vooral als je vragen over kwakzalverij stelt.
        https://sciencebasedmedicine.org/ai-and-the-scam-literature/

        Log in to Reply
        • Hans1263 says

          17 September 2024 at 23:32

          @Renate
          Zo te zien lijkt dat nog een hele kluif om te reageren op zo’n AI-‘werkstuk’. Je kunt het je veel gemakkelijker maken.
          Ik stelde in mijn miniminionderzoekje een simpele concrete vraag en verwachtte een even simpel en juist antwoord. In plaats daarvan kreeg ik pure fantasie, wat in dat wereldje hallucinatie wordt genoemd. Als ChatGPT zelfs dít nog niet kan, vind ik vooralsnog AI bullshit.

        • Renate1 says

          18 September 2024 at 11:54

          Ik geloof dat de partner van een vriendin ook wel eens iets dergelijks heeft geprobeerd over iets waar hij verstand van had. Het antwoord van Chat GTP viel ook behoorlijk tegen.

          Je zou bijna kunnen zeggen dat het een naald in een hooiberg zoekt, maar niet weet of het ook de juiste naald is.

        • Hans1263 says

          18 September 2024 at 16:14

          Ik zou een antwoord in de zin van “weet niet” acceptabel vinden. Maar dit soort dolle fantasie is totaal verwerpelijk.

        • Renate1 says

          18 September 2024 at 17:51

          @Hans
          Tja, daar is Chat GPT niet toe in staat. Het zoekt gewoon door een hele berg gegevens en brouwt daar een logisch klinkend verhaal van. Dat wil dus niet zeggen dat het een en ander ook klopt.

        • Hans1263 says

          18 September 2024 at 21:22

          @Renate,
          Het lijkt er op dat je erop uit gaat om gloeilampen te kopen om dan knotten breiwol in handen gestopt te krijgen.
          Het logisch klinkend gebrouwde verhaal bij ChatGPT kan dus voor hetzelfde geld een stinkend en onbetrouwbaar brouwsel zijn.
          Vooralsnog is het systeem dus onacceptabel onbetrouwbaar. Bij een concrete gemakkelijke vraag verwacht ik een concreet en juist antwoord. Kan dat nog niet, dan gebruik ik het systeem voorlopig dus niet. Ik zal de testvraag ooit wel weer eens uitproberen.

Trackbacks

  1. Chatting about conspiracy theories with an AI chatbot - Pepijn van Erp says:
    13 September 2024 at 15:08

    […] from the Dutch version on Kloptdatwel. Title image created with […]

    Log in to Reply

Leave a Reply Cancel reply

You must be logged in to post a comment.

Primary Sidebar

Steun ons via:
Een aankoopbol.com Partner (meer info)
Of een donatie

Schrijf je in voor de nieuwsbrief!

Skeptic RSS feed

  • Skepsis
  • Error
  • SBM
Graancirkels op European Skeptics Congress 2024
7 May 2025 - SkepsisSiteBeheerder
Graancirkels op European Skeptics Congress 2024

Voordracht van Francesco Grassi op ESC2024 in Lyon.Lees meer Graancirkels op European Skeptics Congress 2024 › [...]

SKEPP wordt 35… en dat vieren ze!
27 April 2025 - SkepsisSiteBeheerder
SKEPP wordt 35… en dat vieren ze!

Onze Belgische zusterorganisatie SKEPP bestaat dit jaar 35 jaar. Op zaterdag 10 mei vieren ze dat met een mooi programma. Hoofdgast is de bekende skepticus en emeritus hoogleraar psychologie Chris French die onlangs ook tot erelid van SKEPP werd benoemd.…Lees meer SKEPP wordt 35… en dat vieren ze! › [...]

Breakthrough-prijs voor Gerard ’t Hooft
7 April 2025 - Pepijn van Erp
Breakthrough-prijs voor Gerard ’t Hooft

Professor Gerard ’t Hooft had al een Nobelprijs op zak, maar kan sinds dit weekend nog een van de meest prestigieuze onderscheidingen in de wetenschap op zijn indrukwekkende palmares bijschrijven: hij kreeg de Special Breakthrough Prize in Fundamental Physics! ’t…Lees meer Breakthrough-prijs voor Gerard ’t Hooft › [...]

RSS Error: A feed could not be found at `https://skepp.be/feed`; the status code is `404` and content-type is `text/html; charset=UTF-8`

Breathing Easy: Treating Allergic Rhinitis
8 May 2025 - Scott Gavura

Spring is a miserable season for those with seasonal allergies. There are effective drug- and non-drug measures that can control most symptoms effectively. The post Breathing Easy: Treating Allergic Rhinitis first appeared on Science-Based Medicine. [...]

Pig Heart Xenografts for Infants
7 May 2025 - Steven Novella

Organ transplant is a potentially lifesaving medical intervention, but there is a critical lack of donor organs. Even in a wealthy country like the US, there are about 100,000 people on the waiting list for an organ transplant, but only about 23 thousand organs become available each year. About 6 thousand people die each year while on the waiting list. For this […] The post Pig Heart Xenografts for Infants first appeared on Science-Based Medicine. [...]

Dear President Trump: Jealous Deep State Haters and Losers Want to Destroy YOUR Genius, Lifesaving, Nobel-Prize Winning Achievement. YOUR Vaccine.
6 May 2025 - Jonathan Howard

You've proven your haters wrong over and over again. As the most POWERFUL man in the world, and one of the most BRILLIANT men every to live, you can do it all with one quick phone call. The post Dear President Trump: Jealous Deep State Haters and Losers Want to Destroy YOUR Genius, Lifesaving, Nobel-Prize Winning Achievement. YOUR Vaccine. first appeared on Science-Based Medicine. [...]

Recente reacties

  • Klaas van Dijk on Bedenkingen bij het rapport over oversterfte van Ronald Meester en Marc JacobsOp https://archive.is/1Exnu staat een gearchiveerde versie van een recente posting van Ronald Meester op LinkedIn. In deze posting verwijst
  • Klaas van Dijk on Bedenkingen bij het rapport over oversterfte van Ronald Meester en Marc JacobsEen verbeterde versie van Hoofdstuk 6 van dit rapport van Ronald Meester en Marc Jacobs is op 22 april 2025
  • Hans1263 on Volgens Maurice de Hond beschikt hij over telepathische gavenHet filmpje waarin hij een trucje met Jeroen Pauw uithaalt, bewijst natuurlijk helemaal niets, ja misschien het denkniveau van De
  • Renate1 on De linke weekendbijlage (17-2025)En de paashaas is er snel vandoor gegaan,
  • Hans1263 on De linke weekendbijlage (17-2025)@Renate1 Nee, de paashaas heeft het in een mandje op zijn rug. 😅😅😅

Archief Kloptdatwel.nl

Copyright © 2025 · Metro Pro on Genesis Framework · WordPress · Log in