Ing. Calogero Bono
OpenAI heeft een pakket maatregelen aangekondigd om de risico's van geweld in ChatGPT te beperken. De nieuwigheden betreffen informatie over wapens voor gebruikers onder de 18, antwoorden over massa-aanslagen uit het verleden en een nieuw veiligheidsrapport, het eerste gepland voor begin 2027. De regels komen er in de komende weken. Ze zijn belangrijk omdat ze iedereen raken die ChatGPT dagelijks gebruikt, ook gezinnen en bedrijven.
Enkele termen, voordat we de feiten induiken. ChatGPT for Teens is de ervaring van ChatGPT voor jongeren onder de 18, met extra beperkingen op gevoelige inhoud. Age prediction is het systeem dat, op basis van signalen zoals gebruikersgedrag, inschat of een gebruiker wel of niet 18 jaar oud is. Persona is de partner van OpenAI die de leeftijdscontrole uitvoert. Ouderlijk toezicht laat ouders hun eigen account koppelen aan dat van hun kind. Het Community Safety Report is het periodieke rapport dat OpenAI belooft te publiceren.
Wat heeft OpenAI aangekondigd?
Volgens de officiële mededeling van OpenAI zijn er twee nieuwigheden. De eerste is een nieuw rapport over de veiligheid van de gemeenschap. De tweede is een reeks strengere beperkingen op inhoud over wapens voor minderjarigen.
Het bedrijf verklaart in het derde kwartaal van 2026 meer dan 200 meldingen aan de politie te hebben gedaan voor dreigende geweldsdreigingen. Dat cijfer komt van OpenAI zelf en is niet onafhankelijk te verifiëren.
Zoals Punto Informatico herinnert, is de zet een reactie op klachten in de Verenigde Staten en op kritiek van Common Sense Media op ChatGPT for Teens.
Wat verandert er voor vragen over massa-aanslagen en geweld?
OpenAI stelt dat de modellen zijn getraind om geen bruikbare instructies te geven om geweld te plannen of te plegen. Nu zal het model minder gedetailleerde informatie geven over eerdere massa-aanslagen en over wie ze pleegde, ook al zijn die gegevens elders online te vinden.
Vragen blijven mogelijk om de gebeurtenissen te begrijpen, de impact op slachtoffers en gemeenschappen, en de waarschuwingssignalen. Reconstructies worden beperkt, met details over wapens, uitrusting en aankoopwijzen, en vergelijkingen over de omvang van de schade die de notoriteit van de dader zouden kunnen vergroten. Deze beperkingen gelden ongeacht leeftijd en reden van de vraag.
Als recente chats mogelijke geweldsignalen tonen, zal ChatGPT voorzichtiger reageren. Het bedrijf werkt eraan dezelfde beperkingen toe te passen wanneer het voorspelt dat de gebruiker minderjarig is.
Kan ChatGPT gesprekken sluiten en accounts schorsen?
Ja, volgens OpenAI. Samen met experts op het gebied van geestelijke gezondheid en geweldpreventie werkt het bedrijf aan vroegere automatische ingrepen. Als een gesprek een obsessie met geweld of het idee om iemand schade toe te brengen laat zien, kan ChatGPT de chat automatisch sluiten. Als dat meerdere keren gebeurt, kan het account tijdelijk worden geschorst.
Blokkades voor accounts die de regels over gewelddadige activiteiten overtreden blijven van kracht. OpenAI erkent dat nog moet worden uitgezocht hoe signalen betrouwbaar te herkennen zijn en wanneer er moet worden ingegrepen.
Welke nieuwe bescherming krijgen tieners en ouders?
Voor gebruikers onder de 18 worden de beperkingen op informatie over wapens en beveiligingssystemen verscherpt, ook wanneer een vraag onschuldig lijkt. Tieners kunnen ChatGPT nog steeds gebruiken om geweld te voorkomen, steun te zoeken en zich tot een vertrouwde volwassene te wenden.
De age prediction, vorig jaar gelanceerd, beoordeelt tijdens het gebruik nieuwe signalen en plaatst gebruikers in de ervaring voor minderjarigen. Wie er ten onrechte in wordt geplaatst, kan via Persona bevestigen dat hij of zij volwassen is.
Wat het ouderlijk toezicht betreft, worden ouders sinds juli gewaarschuwd als het account van hun kind wordt gedeactiveerd wegens schendingen rond geweld. OpenAI werkt aan een melding ook bij een schorsing door herhaalde gesprekken over dit onderwerp.
Om verder te lezen – OpenAI ontwikkelt een autonome hacker, de veiligheid van de Italiaanse mkb staat op het spel en OpenAI brengt een autonome hacker uit, de veiligheid van de Italiaanse mkb loopt al achter.
Beperkingen om te kennen
Bijna alles berust op verklaringen van OpenAI. Er zijn geen onafhankelijke gegevens over de werkzaamheid van de filters of over het foutenpercentage van de age prediction. Precieze criteria voor het sluiten van een chat of het schorsen van een account ontbreken. Sommige maatregelen, zoals meldingen aan ouders bij een schorsing, zijn nog in ontwikkeling. Het eerste rapport, over het tweede halfjaar van 2026, verschijnt pas begin 2027.
Wat verandert er voor wie met digitale techniek werkt
Als je producten ontwikkelt die ChatGPT integreren of de antwoorden ervan gebruikt, reken dan op weigeringen en minder gedetailleerde antwoorden over wapens, fysieke veiligheid en gewelddadige misdaadverslaggeving. Dat geldt ook voor legitiem onderzoek, omdat de beperkingen op aanslagen uit het verleden niet afhangen van de reden van de vraag. Wie diensten voor jongeren bouwt, moet bedenken dat de door het systeem geschatte leeftijd de ervaring kan veranderen. Voor bedrijven met minderjarige medewerkers of klanten is het zinvol uit te leggen dat er ouderlijk toezicht en leeftijdscontrole bestaan. Plan ook een duidelijke boodschap in voor het moment dat een antwoord wordt geweigerd.
Ons oordeel
De richting is begrijpelijk, maar de aankondiging blijft eerder een belofte dan een resultaat. Het beperken van reconstructies van eerdere aanslagen is een verstandige keuze, al maakt het de grens tussen onderzoek en risico minder duidelijk. Het gevoelige punt is de leeftijdsvoorspelling, die fout kan zitten en volwassenen kan dwingen zich te identificeren. Het halfjaarlijkse rapport zal de echte toetssteen zijn, en dan vooral als het gegevens bevat en niet alleen voorbeelden. Over het vertrouwen in modellen helpt de vergelijking met Anthropic Claude en OpenAI om de verschillen in te schatten.
Veelgestelde vragen
Wanneer gaan de nieuwe regels van ChatGPT in werking?
In de komende weken. OpenAI geeft aan dat de maatregelen binnenkort worden uitgerold en daarna verder worden verfijnd. Sommige functies, zoals bepaalde meldingen aan ouders, zijn nog in ontwikkeling.
Geeft ChatGPT ook volwassenen minder informatie?
Gedeeltelijk wel. De beperkingen op reconstructies van eerdere massa-aanslagen gelden ongeacht leeftijd en reden van de vraag. Vragen om de gebeurtenissen te begrijpen en waarschuwingssignalen te herkennen blijven mogelijk.
Wat gebeurt er als ChatGPT me voor een minderjarige aanziet?
Je kunt bevestigen dat je meerderjarig bent. OpenAI beschrijft een snelle procedure die de privacy beschermt, uitgevoerd door Persona. Daarna worden de beschermingen voor tieners opgeheven.
Wanneer verschijnt het Community Safety Report?
Begin 2027. Het eerste rapport gaat over het tweede halfjaar van 2026, en updates volgen om de zes maanden.
Worden ouders op de hoogte gebracht als hun kind over geweld praat?
Dat hangt af van het geval. Sinds juli is er een melding bij deactivering van een account wegens schendingen rond geweld. OpenAI werkt ook aan een melding bij een schorsing door herhaalde gesprekken over dit onderwerp.
Waar je op moet letten voor het rapport van 2027
De beloften van OpenAI worden de komende maanden getoetst, tussen de invoering van de regels en het eerste rapport. Er zijn drie signalen die het volgen waard zijn.
- Controleer of het rapport van 2027 meetbare gegevens bevat en niet alleen anonieme voorbeelden.
- Volg hoe OpenAI de criteria voor het sluiten van chats en het schorsen van accounts verduidelijkt.
- Kijk of de meldingen aan ouders bij schorsingen er echt komen en binnen welke termijn.
