Volledig scherm
Foto ter illustratie © ANP XTRA

Onderzoeksgroep brengt ‘te gevaarlijk’ algoritme toch uit

Te gevaarlijk om los te laten in de echte wereld. Zo beschreef onderzoeksgroep OpenAI begin dit jaar haar nieuwste algoritme. Het systeem kan vrijwel vanuit het niets complete teksten van a tot z aan elkaar verzinnen, in goed lopende zinnen. Ondanks het gevaar is het algoritme tóch uitgebracht.

Het algoritme kan worden ingezet bij de productie van spammails, phishing, nepnieuws en propaganda. OpenAI besloot daarom de software, die GPT-2 heet, niet uit te brengen. Dat is nu alsnog gebeurd, eerst in kleine brokjes en daarna helemaal.

Volgens OpenAI is het mogelijk om racistische, marxistische, jihadistische en anarchistische propaganda te maken met het systeem. Voer een titel in en GPT-2 schrijft er een heel artikel over. Schrijf een dichtregel en GPT-2 maakt zelf het gedicht af. Eerdere systemen verloren halverwege een zin de draad of maakten vreemde grammaticale fouten. Volgens OpenAI is het moeilijk te ontdekken dat het om nepberichten gaat. Na de gedeeltelijke releases zouden er nog geen aanwijzingen zijn dat de technologie is misbruikt.

Het uitbrengen van GPT-2 heeft niet enkel (mogelijke) negatieve gevolgen. Zo kan de techniek worden ingezet voor het verbeteren van vertaalmachines, het ontwikkelen van slimme schrijfhulpjes en om spraakassistenten zoals Siri (Apple) en Google Assistant beter te laten functioneren.

OpenAI is in 2015 met veel tamtam in het leven geroepen. Onder de initiatiefnemers zijn belangrijke mensen uit Silicon Valley, zoals Elon Musk (Tesla, SpaceX, PayPal) en Peter Thiel. De groep wil kunstmatige intelligentie ontwikkelen waar de mensheid baat bij heeft. Microsoft heeft 1 miljard dollar in het onderzoek gestoken.

  1. Na gemeenten schakelt ook Tweede Kamer uit voorzorg kwetsbare Citrix-servers uit

    Na gemeenten schakelt ook Tweede Kamer uit voorzorg kwetsbare Ci­trix-ser­vers uit

    Kamerleden en medewerkers van de Tweede Kamer kunnen voorlopig niet vanuit huis werken. Vanwege zorgen over de veiligheid van het thuiswerksysteem van Citrix, heeft de Kamer het systeem uitgeschakeld. Verschillende gemeenten in Nederland, waaronder Amsterdam en Rotterdam besloten vandaag eveneens uit voorzorg alle Citrix-servers uit te schakelen. De server, waarmee onder meer op andere plekken ingelogd kan worden op een beveiligd netwerk, kampt met beveiligingsproblemen.
  2. Nederlander (22) verdiende 2 ton met aanbieden 12 miljard inlognamen en wachtwoorden
    Video

    Nederlan­der (22) verdiende 2 ton met aanbieden 12 miljard inlognamen en wachtwoor­den

    Een 22-jarige Nederlander wordt door internationale instanties gezien als een belangrijke spil in de grootschalige handel van privacygevoelige gegevens. De man uit Arnhem wordt verdacht van directe betrokkenheid bij een beruchte zoekmachine die voor twee dollar per dag toegang gaf tot meer dan twaalf miljard gestolen inlognamen en wachtwoorden. Zijn vermoedelijke compagnon, een man uit Noord-Ierland, is eveneens aangehouden. Samen verdienden ze meer dan twee ton.