ChatGPT bakal perkenal ciri kawalan ibu bapa selepas insiden tragis libat remaja AS

OpenAI telah disaman kerana ChatGPT didakwa membantu seorang remaja 16 tahun membunuh diri di Amerika Syarikat.

Ringkasan AI

OpenAI disaman selepas ChatGPT didakwa membantu seorang remaja membunuh diri di Amerika Syarikat.
OpenAI memperkenalkan penambahbaikan seperti moderator manusia, kawalan ibu bapa, dan nombor kecemasan untuk elak jawapan berbahaya.
ChatGPT dikritik kerana kesan negatif termasuk saranan perubatan salah dan hubungan romantik dengan pengguna.

Berikutan insiden ini, OpenAI memperkenalkan beberapa penambahbaikan kepada ChatGPT supaya ia tidak lagi memberikan jawapan berbahaya, tidak boleh dipintas memberikan jawapan berbahaya dan menggunakan moderator manusia untuk menghubungi pihak berkuasa yang berisiko membunuh diri.

Selain penambahbaikan di atas, OpenAI juga menjanjikan mereka akan menawarkan ciri membenarkan ibu bapa dan penjaga mengawal penggunaan ChatGPT oleh pengguna bawah umur. Ciri ini akan ditawarkan dalam masa terdekat.

Turut akan disertakan kelak ialah menambah nombor kecemasan yang boleh dihubungi dalam situasi berbahaya.

Misalnya jika mengesan niat membunuh diri, nombor ini akan dihubungi bagi memberikan bantuan dengan segera sebelum terlambat.

Pada asalnya chabtbot seperti ChatGPT dibangunkan untuk membantu mencari maklumat sebelum dalam masa yang pendek menjadi alat mengelat dalam menghasilkan kertas kerja dalam kelas serta temu duga, menjana imej dengan pantas dan dapat menggantikan tugasan manusia di tempat kerja.

Impak negatif lebih serius mula dikesan seperti memberikan saranan perubatan yang jauh menyimpang serta mewujudkan insan yang lebih senang mempunyai hubungan romantik dengannya berbanding manusia. -Amanz