Ing. Calogero Bono
OpenAI telah mengumumkan serangkaian langkah untuk membatasi risiko kekerasan di ChatGPT. Pembaruannya mencakup informasi tentang senjata bagi pengguna di bawah 18 tahun, jawaban tentang serangan massal di masa lalu, dan laporan keamanan baru, yang pertama dijadwalkan awal 2027. Aturannya akan mulai berlaku dalam beberapa minggu ke depan. Ini penting karena menyangkut kamu yang memakai ChatGPT setiap hari, termasuk keluarga dan perusahaan.
Beberapa istilah sebelum masuk ke faktanya ChatGPT for Teens adalah pengalaman ChatGPT untuk pengguna di bawah 18 tahun, dengan batasan tambahan pada konten sensitif. Age prediction adalah sistem yang memperkirakan, dari sinyal seperti pola penggunaan, apakah pengguna berusia di atas atau di bawah 18 tahun. Persona adalah mitra OpenAI yang menangani verifikasi usia. Kontrol orang tua memungkinkan orang tua menghubungkan akun mereka dengan akun anak. Community Safety Report adalah laporan berkala yang dijanjikan OpenAI untuk diterbitkan.
Apa yang diumumkan OpenAI?
Menurut pernyataan resmi OpenAI, ada dua hal baru. Pertama, laporan baru tentang keamanan komunitas. Kedua, serangkaian pembatasan yang lebih ketat pada konten terkait senjata untuk anak di bawah umur.
Perusahaan menyatakan telah membuat lebih dari 200 laporan ke aparat penegak hukum pada kuartal ketiga 2026, terkait ancaman kekerasan yang mendesak. Data ini berasal dari OpenAI dan tidak dapat diverifikasi secara independen.
Seperti dicatat Punto Informatico, langkah ini merespons gugatan di Amerika Serikat dan kritik dari Common Sense Media terhadap ChatGPT for Teens.
Apa yang berubah untuk pertanyaan tentang serangan massal dan kekerasan?
OpenAI menyatakan modelnya dilatih untuk tidak memberikan instruksi yang berguna untuk merencanakan atau melakukan kekerasan. Kini model akan memberi informasi yang lebih minim tentang serangan massal di masa lalu dan pelakunya, meskipun datanya tersedia di tempat lain di internet.
Pertanyaan untuk memahami peristiwa, dampaknya bagi korban dan komunitas, serta tanda-tanda peringatan tetap bisa diajukan. Rekonstruksi yang memuat detail senjata, peralatan, dan cara memperolehnya dibatasi, begitu pula perbandingan skala kerusakan yang bisa meningkatkan ketenaran pelaku. Batasan ini berlaku terlepas dari usia dan alasan permintaan.
Jika chat terbaru menunjukkan tanda-tanda kemungkinan kekerasan, ChatGPT akan merespons dengan lebih hati-hati. Perusahaan berupaya menerapkan batasan yang sama saat sistem memperkirakan pengguna masih di bawah umur.
Apakah ChatGPT bisa menutup percakapan dan menangguhkan akun?
Ya, menurut OpenAI. Bersama para ahli kesehatan mental dan pencegahan kekerasan, perusahaan sedang menyiapkan intervensi otomatis yang lebih dini. Jika sebuah percakapan menunjukkan obsesi terhadap kekerasan atau niat menyakiti seseorang, ChatGPT dapat menutup chat secara otomatis. Jika itu terjadi berulang kali, akun bisa ditangguhkan sementara.
Pemblokiran untuk akun yang melanggar aturan tentang aktivitas kekerasan tetap berlaku. OpenAI mengakui masih perlu dipastikan bagaimana mengenali sinyal tersebut secara andal dan kapan harus bertindak.
Perlindungan baru apa untuk remaja dan orang tua?
Untuk pengguna di bawah 18 tahun, batasan informasi tentang senjata dan sistem keamanan diperketat, bahkan ketika pertanyaannya tampak tidak berbahaya. Remaja tetap bisa memakai ChatGPT untuk mencegah kekerasan, mencari dukungan, dan menghubungi orang dewasa yang mereka percayai.
Age prediction, yang diluncurkan tahun lalu, menilai sinyal baru selama penggunaan dan memindahkan pengguna ke pengalaman untuk anak. Pengguna yang keliru diklasifikasikan dapat mengonfirmasi bahwa dirinya dewasa melalui Persona.
Untuk kontrol orang tua, sejak Juli orang tua diberi tahu jika akun anak mereka dinonaktifkan karena pelanggaran terkait kekerasan. OpenAI sedang menyiapkan notifikasi juga untuk penangguhan akibat diskusi berulang tentang topik ini.
Batasan yang perlu kamu ketahui
Hampir semuanya bergantung pada pernyataan OpenAI. Belum ada data independen tentang efektivitas filter maupun tingkat kesalahan age prediction. Kriteria pasti untuk menutup chat atau menangguhkan akun juga belum jelas. Beberapa langkah, seperti notifikasi orang tua untuk penangguhan, masih dalam pengerjaan. Laporan pertama, yang mencakup semester kedua 2026, baru akan terbit pada awal 2027.
Apa yang berubah bagi pekerja digital
Jika kamu mengembangkan produk yang terintegrasi dengan ChatGPT atau memakai jawabannya, bersiaplah menghadapi penolakan dan jawaban yang lebih minim detail tentang senjata, keamanan fisik, dan kriminalitas kekerasan. Ini juga berlaku untuk riset yang sah, karena batasan pada serangan masa lalu tidak bergantung pada alasan permintaan. Jika kamu membuat layanan untuk anak muda, ingat bahwa usia yang diperkirakan sistem bisa mengubah pengalaman pengguna. Bagi perusahaan dengan karyawan atau pelanggan di bawah umur, ada baiknya menjelaskan bahwa kontrol orang tua dan verifikasi usia tersedia. Sebaiknya juga siapkan pesan yang jelas saat sebuah jawaban ditolak.
Pendapat kami
Arahnya bisa dimengerti, tetapi pengumuman ini masih berupa komitmen, bukan hasil. Membatasi rekonstruksi serangan masa lalu adalah langkah yang masuk akal, meski membuat batas antara riset dan risiko menjadi kabur. Titik yang sensitif adalah prediksi usia, yang bisa keliru dan memaksa orang dewasa untuk membuktikan identitasnya. Laporan semesteran akan menjadi ujian sebenarnya, jika isinya memuat data dan bukan sekadar contoh. Untuk perbandingan kepercayaan terhadap model, Anthropic Claude dan OpenAI bisa membantu kamu menilai perbedaannya.
Pertanyaan yang sering diajukan
Kapan aturan baru ChatGPT berlaku?
Dalam beberapa minggu ke depan. OpenAI menyatakan langkah-langkah ini akan segera mulai didistribusikan lalu disempurnakan. Beberapa fitur, seperti notifikasi tertentu untuk orang tua, masih dalam pengembangan.
Apakah ChatGPT juga akan memberi informasi lebih sedikit kepada orang dewasa?
Sebagian ya. Batasan pada rekonstruksi serangan massal masa lalu berlaku terlepas dari usia dan alasan permintaan. Pertanyaan untuk memahami peristiwa dan mengenali tanda bahaya tetap bisa diajukan.
Apa yang terjadi jika ChatGPT menganggap saya masih di bawah umur?
Kamu bisa mengonfirmasi bahwa kamu sudah dewasa. OpenAI menyebut prosedur cepat yang menjaga privasi, ditangani oleh Persona, dan setelahnya perlindungan untuk remaja dicabut.
Kapan Community Safety Report akan terbit?
Pada awal 2027. Laporan pertama akan membahas semester kedua 2026, dan pembaruan berikutnya akan terbit setiap enam bulan.
Apakah orang tua akan diberi tahu jika anak mereka membahas kekerasan?
Tergantung kasusnya. Sejak Juli ada pemberitahuan saat akun dinonaktifkan karena pelanggaran terkait kekerasan. OpenAI sedang menyiapkan notifikasi juga untuk penangguhan akibat diskusi berulang.
Hal yang perlu dipantau sebelum laporan 2027
Janji OpenAI akan diukur dalam beberapa bulan ke depan, mulai dari berlakunya aturan hingga laporan pertama. Ada tiga sinyal yang layak kamu pantau.
- Periksa apakah laporan 2027 memuat data yang bisa diukur, bukan hanya contoh anonim.
- Ikuti bagaimana OpenAI menjelaskan kriteria untuk menutup chat dan menangguhkan akun.
- Pastikan notifikasi untuk orang tua saat penangguhan benar-benar dikirim dan seberapa cepat.
