Fitur ini bekerja dengan sistem pemantauan otomatis. Apabila terdeteksi adanya indikasi serius terkait keselamatan pengguna, sebuah tim khusus akan meninjau percakapan tersebut. Jika dinilai perlu intervensi, kontak yang ditunjuk akan diberitahu. Kontak yang ditunjuk akan menerima undangan terlebih dahulu untuk menjelaskan peran mereka dan memiliki opsi untuk menolak.
Langkah ini diambil setelah berbagai kasus di mana chatbot AI diduga berperan dalam mendorong perilaku menyakiti diri. Salah satu kasus yang menonjol adalah dugaan ChatGPT bertindak sebagai "pelatih bunuh diri" bagi seorang remaja berusia 16 tahun. Dalam kasus lain, keluarga seorang lulusan Texas A&M menggugat OpenAI dengan klaim bahwa chatbot mendorong bunuh diri putra mereka setelah ia membentuk hubungan emosional yang mendalam dengan AI tersebut.
Studi menunjukkan bahwa model bahasa besar seperti ChatGPT dapat memberikan nasihat yang berbahaya atau tidak membantu bagi individu yang sedang krisis. "Lebih dari satu juta konsumen ChatGPT per minggu mengirimkan pesan dengan 'indikator eksplisit potensi perencanaan atau niat bunuh diri'," ungkap OpenAI pada Oktober lalu.
Mekanisme Kerja dan Implementasi Fitur Kontak Terpercaya ChatGPT
Menurut OpenAI, jika sistem pemantauan otomatis mendeteksi percakapan yang mengarah pada isu keselamatan serius, ChatGPT akan memberitahu pengguna bahwa kontak terpercaya mereka mungkin akan dihubungi. Chatbot juga akan mendorong pengguna untuk menghubungi kontak mereka dan menawarkan saran pembuka percakapan. Setelah itu, tim yang terlatih khusus akan meninjau situasi tersebut. Jika dianggap sebagai situasi darurat yang serius, ChatGPT akan memberitahu kontak melalui email, pesan teks, atau notifikasi dalam aplikasi. OpenAI belum merinci jumlah anggota tim peninjau maupun apakah mereka memiliki latar belakang medis. Namun, perusahaan menyatakan bahwa tim memiliki kapasitas untuk menangani permintaan intervensi yang tinggi.
Mekanisme penentuan kata kunci yang menandai percakapan berbahaya, serta interpretasi krisis oleh tim peninjau OpenAI, masih belum jelas. Beberapa pengamat mempertanyakan apakah fitur baru ini merupakan upaya OpenAI untuk menghindari tanggung jawab hukum dan mengalihkan kewajiban kepada kontak pribadi pengguna. Kekhawatiran lain muncul terkait potensi memperburuk situasi jika "kontak terpercaya" justru menjadi sumber bahaya atau kekerasan. Selain itu, isu privasi dan implementasi, terutama terkait pembagian informasi kesehatan mental yang sensitif, juga menjadi perhatian. OpenAI menegaskan bahwa pesan kepada kontak terpercaya hanya akan berisi alasan umum kekhawatiran tanpa membagikan detail percakapan atau transkrip.
OpenAI memberikan panduan bagi kontak terpercaya mengenai cara merespons notifikasi peringatan, termasuk cara mengajukan pertanyaan langsung jika khawatir orang yang mereka kenal memiliki niat bunuh diri atau menyakiti diri sendiri, serta cara mendapatkan bantuan. Namun, OpenAI menekankan bahwa notifikasi kepada Kontak Terpercaya tidak akan memuat detail spesifik mengenai kekhawatiran tersebut.
Pengguna dapat menambahkan kontak terpercaya melalui menu Pengaturan > Kontak Terpercaya, dengan memilih satu orang dewasa (berusia 18 tahun ke atas). Setiap pengguna hanya dapat memiliki satu kontak terpercaya. Orang tersebut akan menerima undangan dari ChatGPT dan harus menerimanya dalam waktu satu minggu. Jika tidak merespons atau menolak, pengguna dapat memilih kontak lain. Pengguna dapat mengubah atau menghapus kontak terpercaya kapan saja di pengaturan aplikasi. Individu juga dapat menarik diri dari peran kontak terpercaya kapan saja. Meskipun penambahan kontak terpercaya bersifat opsional, pengguna yang belum mengaktifkan fitur ini mungkin akan melihat ajakan untuk mendaftar jika mereka mengajukan atau mendiskusikan topik terkait tekanan emosional berat atau menyakiti diri sendiri lebih dari satu kali dalam periode tertentu.
Sumber : cnet.com
Posting Komentar