Coinbase onder vuur na AI die nep WK uitslag verstuurt als breaking news

Coinbase ligt onder vuur na een opvallende blunder: een door AI gegenereerde melding op het prediction market platform van het bedrijf verstuurt een volledig verzonnen uitslag van een WK voetbalwedstrijd naar miljoenen gebruikers, nog voordat de wedstrijd überhaupt begonnen is. De melding claimt dat Noorwegen Brazilië met 3-2 verslaat, met twee doelpunten van Erling Haaland. De fout roept serieuze vragen op over de inzet van AI bij financiële producten.

Tegelijkertijd onthult Coinbase CEO Brian Armstrong dat inmiddels zo’n 40% van alle dagelijkse code bij Coinbase door AI wordt geschreven, en dat hij dat percentage voor oktober naar boven de 50% wil brengen.

AI verstuurt nep uitslag als breaking news

De AI van Coinbase stuurt een pushmelding de wereld in met daarin een volledig fictief nieuwsbericht. Noorwegen zou Brazilië hebben verslagen in de achtste finale van het WK, met een 3-2 overwinning en twee treffers van Haaland. Het bericht presenteert dit als breaking news, terwijl de wedstrijd op dat moment nog niet eens is gespeeld. De eigen marktpagina van Coinbase laat zelfs zien dat er sprake is van een weersvertraging en dat er nog geen resultaat bestaat.

Gebruikers pikken de fout snel op en delen screenshots op sociale media. Critici noemen het gedrag van de AI gevaarlijk en onverantwoord, zeker voor een platform dat prediction markets positioneert als instrumenten voor waarheidsvinding. De vraag rijst hoe een systeem dat miljoenen gebruikers bereikt zulke hallucinaties kan produceren en verspreiden zonder enige controle.

Armstrong erkent de fout en belooft onderzoek

CEO Brian Armstrong reageert op de ophef en geeft aan dat hij de fout samen met zijn team onderzoekt. De blunder komt op een ongemakkelijk moment: Armstrong kondigt kort daarvoor nog aan trots te zijn op het feit dat 40% van de code bij Coinbase door AI wordt gegenereerd. Hij wil dat percentage voor oktober naar meer dan 50% brengen, met de kanttekening dat alle AI code uiteraard beoordeeld en begrepen moet worden en dat niet alle afdelingen AI gegenereerde code kunnen gebruiken.

Het incident laat zien dat de snelle opmars van AI bij techbedrijven ook risico’s met zich meebrengt, zeker als het gaat om producten die direct invloed hebben op de informatie die gebruikers ontvangen. Voor Coinbase, dat prediction markets presenteert als betrouwbare tools, is de timing extra pijnlijk. Of de fout gevolgen heeft voor hoe het bedrijf AI inzet bij dit soort producten, is nog niet duidelijk.