Ing. Calogero Bono
OpenAI ha annunciato un pacchetto di misure per limitare i rischi legati alla violenza in ChatGPT. Le novità riguardano le informazioni sulle armi per gli utenti sotto i 18 anni, le risposte sugli attacchi di massa del passato e un nuovo report sulla sicurezza, il primo previsto all'inizio del 2027. Le regole arriveranno nelle prossime settimane. Contano perché toccano chi usa ChatGPT ogni giorno, famiglie e aziende comprese.
Kilka pojęć, zanim przejdziemy do faktów. ChatGPT for Teens to esperiencja ChatGPT stworzona dla osób poniżej 18. roku życia, z dodatkowymi ograniczeniami dotyczącymi treści wrażliwych. Age prediction to system, który szacuje na podstawie sygnałów, takich jak sposób korzystania, czy użytkownik ma mniej lub więcej niż 18 lat. Persona to partner OpenAI, który obsługuje weryfikację wieku. Kontrola rodzicielska pozwala rodzicom połączyć własne konto z kontem dziecka. Community Safety Report to okresowy raport, który OpenAI obiecuje publikować.
Co ogłosiła OpenAI?
Według oficjalnego komunikatu OpenAI nowości są dwie. Pierwsza to nowy raport o bezpieczeństwie społeczności. Druga to bardziej surowe ograniczenia dotyczące treści związanych z bronią dla nieletnich.
Firma deklaruje, że w trzecim kwartale 2026 roku wysłała ponad 200 zgłoszeń do organów ścigania dotyczących bezpośrednich gróźb przemocy. Dane podaje OpenAI i nie można ich zweryfikować niezależnie.
Jak przypomina Punto Informatico, ruch odpowiada na skargi złożone w Stanach Zjednoczonych i krytykę Common Sense Media dotyczącą ChatGPT for Teens.
Co się zmienia w pytaniach o ataki masowe i przemoc?
OpenAI twierdzi, że jej modele są trenowane tak, by nie podawać instrukcji przydatnych do planowania lub popełniania przemocy. Teraz model będzie udzielał mniej szczegółowych informacji o dawnych atakach masowych i ich sprawcach, nawet jeśli dane są dostępne gdzie indziej w sieci.
Nadal możliwe będą pytania pozwalające zrozumieć wydarzenia, ich wpływ na ofiary i społeczności oraz sygnały ostrzegawcze. Ograniczone zostają rekonstrukcje z detalami dotyczącymi broni, sprzętu i sposobów zakupu oraz porównania skali zniszczeń, które mogłyby zwiększać rozgłos sprawcy. Ograniczenia te obowiązują niezależnie od wieku i powodu pytania.
Jeśli ostatnie czaty wykazują oznaki możliwej przemocy, ChatGPT odpowie ostrożniej. Firma pracuje nad stosowaniem tych samych ograniczeń wtedy, gdy przewiduje, że użytkownik jest niepełnoletni.
Czy ChatGPT będzie mógł zamykać rozmowy i zawieszać konta?
Tak, według OpenAI. Wraz z ekspertami od zdrowia psychicznego i zapobiegania przemocy firma pracuje nad wcześniejszymi, automatycznymi interwencjami. Jeśli rozmowa pokazuje fiksację na przemocy lub zamiar skrzywdzenia kogoś, ChatGPT będzie mógł automatycznie zamknąć czat. Jeśli zdarzy się to wielokrotnie, konto może zostać tymczasowo zawieszone.
Nadal obowiązują blokady kont naruszających zasady dotyczące działań przemocowych. OpenAI przyznaje, że wciąż trzeba ustalić, jak wiarygodnie rozpoznawać sygnały i kiedy interweniować.
Jakie nowe zabezpieczenia dla nastolatków i rodziców?
Dla osób poniżej 18. roku życia rosną ograniczenia dotyczące informacji o broni i systemach zabezpieczeń, nawet gdy pytanie wydaje się niewinne. Nastolatkowie mogą jednak nadal korzystać z ChatGPT, by zapobiegać przemocy, szukać wsparcia i zwrócić się do zaufanego dorosłego.
Age prediction, uruchomione w zeszłym roku, ocenia nowe sygnały podczas korzystania i przenosi użytkowników do doświadczenia dla nieletnich. Osoba błędnie zakwalifikowana może potwierdzić, że jest dorosła, za pośrednictwem Persona.
Jeśli chodzi o kontrole rodzicielskie, od lipca rodzice są informowani, gdy konto dziecka zostaje dezaktywowane z powodu naruszeń dotyczących przemocy. OpenAI pracuje nad powiadomieniem także o zawieszeniu wynikającym z powtarzających się rozmów na ten temat.
Aby pogłębić temat, zobacz OpenAI sviluppa un hacker autonomo — la sicurezza delle PMI italiane è a rischio oraz OpenAI sforna un hacker autonomo — la sicurezza delle PMI italiane è già in ritardo.
Ograniczenia, o których warto wiedzieć
Niemal wszystko opiera się na deklaracjach OpenAI. Brak niezależnych danych o skuteczności filtrów i o wskaźniku błędów age prediction. Nie ma precyzyjnych kryteriów decydujących o zamknięciu czatu lub zawieszeniu konta. Niektóre działania, jak powiadomienia dla rodziców o zawieszeniu, są wciąż w przygotowaniu. Pierwszy raport, dotyczący drugiego półrocza 2026, pojawi się dopiero na początku 2027 roku.
Co się zmienia dla osób pracujących w świecie cyfrowym
Jeśli tworzysz produkty zintegrowane z ChatGPT albo korzystasz z jego odpowiedzi, spodziewaj się odmów i mniej szczegółowych odpowiedzi dotyczących broni, bezpieczeństwa fizycznego i brutalnych wydarzeń. Dotyczy to także uprawnionych badań, ponieważ ograniczenia dotyczące dawnych ataków nie zależą od powodu pytania. Kto tworzy usługi dla młodzieży, powinien wziąć pod uwagę, że szacowany przez system wiek może zmienić doświadczenie użytkownika. Firmy z pracownikami lub klientami niepełnoletnimi warto poinformować, że istnieją kontrole rodzicielskie i weryfikacja wieku. Dobrze też przygotować jasny komunikat na wypadek odmowy odpowiedzi.
Nasze zdanie
Kierunek jest zrozumiały, ale ogłoszenie pozostaje raczej zobowiązaniem niż wynikiem. Ograniczanie rekonstrukcji dawnych ataków to rozsądny wybór, choć czyni granicę między badaniem a ryzykiem mniej przejrzystą. Delikatny punkt to przewidywanie wieku, które może się mylić i zmuszać dorosłych do identyfikacji. Prawdziwym sprawdzianem będzie półroczny raport, jeśli zawrze dane, a nie tylko przykłady. W kwestii zaufania do modeli porównanie z Anthropic Claude e OpenAI pomaga ocenić różnice.
Najczęstsze pytania
Kiedy wchodzą w życie nowe zasady ChatGPT?
W ciągu najbliższych tygodni. OpenAI deklaruje, że środki zaczną być wdrażane wkrótce, a następnie zostaną dopracowane. Niektóre funkcje, jak część powiadomień dla rodziców, są wciąż w przygotowaniu.
Czy ChatGPT będzie dawał mniej informacji także dorosłym?
Po części tak. Ograniczenia dotyczące rekonstrukcji dawnych ataków masowych obowiązują niezależnie od wieku i powodu pytania. Nadal możliwe będą pytania pozwalające zrozumieć wydarzenia i rozpoznać sygnały ostrzegawcze.
Co się stanie, jeśli ChatGPT uzna mnie za niepełnoletniego?
Możesz potwierdzić, że jesteś dorosły. OpenAI wskazuje szybką procedurę chroniącą prywatność, prowadzoną przez Persona, po której zdejmowane są ochrony przeznaczone dla nastolatków.
Kiedy pojawi się Community Safety Report?
Na początku 2027 roku. Pierwszy raport obejmie drugie półrocze 2026, a kolejne aktualizacje będą pojawiać się co sześć miesięcy.
Czy rodzice zostaną powiadomieni, jeśli dziecko rozmawia o przemocy?
Zależy od przypadku. Od lipca istnieje powiadomienie o dezaktywacji konta z powodu naruszeń dotyczących przemocy. OpenAI pracuje nad powiadomieniem także o zawieszeniu wynikającym z powtarzających się rozmów na ten temat.
Na co zwrócić uwagę przed raportem z 2027 roku
Obietnice OpenAI zostaną sprawdzone w najbliższych miesiącach, między wdrożeniem zasad a pierwszym raportem. Warto obserwować trzy sygnały.
- Sprawdź, czy raport z 2027 roku zawiera mierzalne dane, a nie tylko anonimowe przykłady.
- Obserwuj, jak OpenAI wyjaśnia kryteria zamykania czatów i zawieszania kont.
- Zweryfikuj, czy powiadomienia dla rodziców o zawieszeniach rzeczywiście docierają i w jakim czasie.
