Ing. Calogero Bono
OpenAI объявила пакет мер, призванных ограничить риски, связанные с насилием в ChatGPT. Изменения касаются информации об оружии для пользователей младше 18 лет, ответов о массовых атаках прошлого и нового отчёта о безопасности, первого из которых ждут в начале 2027 года. Правила появятся в ближайшие недели. Они важны, потому что затрагивают всех, кто ежедневно пользуется ChatGPT, включая семьи и компании.
Несколько терминов, прежде чем перейти к фактам. ChatGPT for Teens — версия ChatGPT для пользователей младше 18 лет с дополнительными ограничениями на чувствительный контент. Age prediction — система, которая по признакам поведения, например по особенностям использования, оценивает, старше ли пользователь 18 лет. Persona — партнёр OpenAI, который занимается проверкой возраста. Родительский контроль позволяет родителям связать свой аккаунт с аккаунтом ребёнка. Community Safety Report — периодический отчёт, который OpenAI обещает публиковать.
Что объявила OpenAI?
Согласно официальному пресс-релизу OpenAI, новостей две. Первая — новый отчёт о безопасности сообщества. Вторая — более строгие ограничения на контент, связанный с оружием, для несовершеннолетних.
Компания заявляет, что в третьем квартале 2026 года направила в правоохранительные органы более 200 сообщений о непосредственных угрозах насилия. Эти данные предоставлены самой OpenAI и не могут быть независимо проверены.
Как напоминает Punto Informatico, шаг является ответом на жалобы, поданные в США, и на критику Common Sense Media в адрес ChatGPT for Teens.
Что меняется в вопросах об атаках и насилии?
OpenAI утверждает, что её модели обучены не давать инструкций, полезных для планирования или совершения насилия. Теперь модель будет давать менее подробную информацию о массовых атаках прошлого и их исполнителях, даже если эти данные есть в открытом доступе.
По-прежнему допустимы вопросы, которые помогают понять события, их влияние на жертв и общество, а также распознать тревожные признаки. Ограничиваются реконструкции с подробностями об оружии, снаряжении и способах приобретения, а также сравнения масштаба ущерба, которые могут повысить известность исполнителя. Эти ограничения действуют независимо от возраста и причины запроса.
Если в недавних чатах видны признаки возможного насилия, ChatGPT будет отвечать осторожнее. Компания работает над тем, чтобы применять те же ограничения, когда предполагает, что пользователь несовершеннолетний.
Сможет ли ChatGPT закрывать беседы и блокировать аккаунты?
Да, по словам OpenAI. Вместе со специалистами по психическому здоровью и профилактике насилия компания разрабатывает более ранние автоматические меры. Если беседа показывает одержимость насилием или желание причинить кому-то вред, ChatGPT сможет автоматически закрыть чат. Если такое повторяется, аккаунт может быть временно заблокирован.
Блокировки за нарушения правил о насильственной деятельности сохраняются. OpenAI признаёт, что ещё предстоит понять, как надёжно распознавать такие сигналы и когда вмешиваться.
Какие новые меры защиты для подростков и родителей?
Для пользователей младше 18 лет ужесточаются ограничения на информацию об оружии и системах безопасности, даже если вопрос кажется безобидным. Подростки по-прежнему могут использовать ChatGPT, чтобы предотвратить насилие, найти поддержку и обратиться к доверенному взрослому.
Age prediction, запущенная в прошлом году, оценивает новые признаки во время использования и переводит пользователей в версию для несовершеннолетних. Тех, кого система отнесла к младшей группе по ошибке, можно подтвердить как взрослых через Persona.
Что касается родительского контроля, с июля родители получают уведомление, если аккаунт ребёнка отключён за нарушения, связанные с насилием. OpenAI работает над уведомлением и о блокировке из-за повторяющихся обсуждений этой темы.
Для более глубокого погружения читай OpenAI разрабатывает автономного хакера — безопасность итальянских МСП под угрозой и OpenAI выпускает автономного хакера — безопасность итальянских МСП уже отстаёт.
Ограничения, которые стоит знать
Почти всё держится на заявлениях самой OpenAI. Независимых данных об эффективности фильтров и о доле ошибок в age prediction нет. Не хватает точных критериев, по которым чат закрывается или аккаунт блокируется. Некоторые меры, например уведомления родителям о блокировке, ещё находятся в разработке. Первый отчёт, за второе полугодие 2026 года, выйдет только в начале 2027 года.
Что меняется для тех, кто работает с цифровыми продуктами
Если ты разрабатываешь продукты на основе ChatGPT или используешь его ответы, готовься к отказам и более общим ответам на вопросы об оружии, физической безопасности и резонансных случаях насилия. Это касается и законных исследований, ведь ограничения на разбор прошлых атак не зависят от причины запроса. Тем, кто создаёт сервисы для молодёжи, стоит учитывать, что оценка возраста системой может изменить пользовательский опыт. Компаниям, где есть сотрудники или клиенты несовершеннолетние, имеет смысл объяснить, что существуют родительский контроль и проверка возраста. Также полезно заранее продумать понятное сообщение на случай, когда ответ отклонён.
Наше мнение
Направление понятно, но объявление пока скорее обещание, чем результат. Ограничение разборов прошлых атак — разумное решение, хотя оно делает границу между исследованием и риском менее прозрачной. Самый уязвимый момент — оценка возраста – она может ошибаться и заставить взрослых подтверждать личность. Полугодовой отчёт станет настоящей проверкой, если в нём будут данные, а не только примеры. Для понимания различий в подходах к доверию к моделям полезно сравнить с Anthropic Claude и OpenAI.
Частые вопросы
Когда вступят в силу новые правила ChatGPT?
В ближайшие недели. OpenAI заявляет, что меры начнут внедряться в скором времени и затем будут уточняться. Некоторые функции, например часть уведомлений родителям, ещё в разработке.
ChatGPT будет давать меньше информации и взрослым?
Отчасти да. Ограничения на разбор прошлых массовых атак действуют независимо от возраста и причины запроса. Вопросы, помогающие понять события и распознать тревожные признаки, по-прежнему допустимы.
Что делать, если ChatGPT принял меня за несовершеннолетнего?
Можно подтвердить, что тебе есть 18 лет. OpenAI предлагает быструю процедуру с соблюдением конфиденциальности, которую проводит Persona, после неё защиты для подростков снимаются.
Когда выйдет Community Safety Report?
В начале 2027 года. Первый отчёт будет касаться второго полугодия 2026 года, а дальнейшие обновления будут выходить каждые полгода.
Родители получат уведомление, если ребёнок обсуждает насилие?
Зависит от случая. С июля родители получают уведомление, если аккаунт ребёнка отключён за нарушения, связанные с насилием. OpenAI работает и над уведомлением о блокировке из-за повторяющихся обсуждений этой темы.
На что смотреть до отчёта 2027 года
Обещания OpenAI проверят ближайшие месяцы, между запуском правил и первым отчётом. Есть три сигнала, за которыми стоит следить.
- Проверь, содержит ли отчёт 2027 года измеримые данные, а не только обезличенные примеры.
- Следи за тем, как OpenAI уточняет критерии закрытия чатов и блокировки аккаунтов.
- Убедись, что уведомления родителям о блокировках действительно приходят и в какие сроки.
