Anthropic waarschuwt voor ai-misbruik in beursprospectus

In de aanloop naar de beursgang, de eerste van een groot ai-bedrijf, heeft Anthropic maandag zijn aanvraag voor een beursnotering ingediend. Naar het prospectus dat een blik werpt op het financiële reilen en zeilen van het bedrijf en de risico’s is maandenlang reikhalzend uitgekeken. Volgens Anthropic kan er met ai een hoop mis gaan.Belangrijke delen hiervan waren al uitgelekt, maar ook de details zijn voer voor beleggers. Met 335 pagina’s informatie – exclusief de bijlagen – biedt Anthropic een kijkje op de (enorme) risico’s, zijn financiële conditie, de governance, de (on)veiligheid en alles wat aan de aandelenuitgifte vastzit.Alleen al het hoofdstuk risicofactoren telt bijna honderd pagina’s waarin wordt opgesomd wat er allemaal kan misgaan. En dat is veel. Want het bedrijf dat qua beurswaarde in de buurt van Elon Musks SpaceX kan komen, werkt aan een potentieel zeer gevaarlijke technologie. Misbruik van ai, verlies aan controle, gebruik door dictators en economische disruptie zijn de grote risico’s.MisbruikDe afgelopen weken werden cyberaanvallen uitgevoerd waarbij ai een rol speelde. En ai-agenten kunnen onbedoeld gedrag gaan vertonen. Als gebruikers de controle verliezen over voldoende krachtige ai-systemen is dat een wereldwijd gevaar van de eerste orde. Zo erkent Anthropic.Het bedrijf is voorloper bij een technologie…