Media sosial ini telah menguji perangkat lunak baru di Amerika Serikat (AS) selama sembilan bulan terakhir, namun pada Selasa (28/11) mereka telah mengumumkan perangkat itu kini akan diluncurkan secara lebih luas. Mari kita lihat lebih dekat perangkat ini dan mengapa Anda akan memainkan peran penting.

Perangkat lunak dirancang cari pengguna dengan indikasi bunuh diri. Facebook mengatakan langkah baru itu dilakukan dengan memindai postingan Facebook dan siaran langsung video dari kata-kata dan kalimat yang bisa menandakan niat bunuh diri.

Secara teknis, itu berarti pengenalan pola. Tapi sistem itu juga memantau bagaimana Anda menanggapi postingan tersebut.

Misalnya, menurut Facebook, komentar seperti "Apakah kamu baik-baik saja?" dan "Bisakah saya membantu?" sangat berguna untuk mengidentifikasi postingan masalah.

Facebook sedang meningkatkan perangkat pencegahan bunuh diri mereka.

Supplied: Facebook

Pengguna diarahkan ke tempat mencari bantuan

Begitu perangkat lunak tersebut mengidentifikasi pengguna yang mungkin sedang mempertimbangkan untuk bunuh diri, perangkat itu memeringatkan tim spesialis yang dilatih untuk menangani kasus bunuh diri dan menyakiti diri sendiri. Mereka adalah orang-orang yang saat ini ditugaskan untuk meninjau postingan yang dilaporkan secara manual oleh pengguna.

Tim tersebut kemudian bisa memberi tahu pihak berwenang jika perlu atau mengarahkan pengguna untuk mengakses layanan yang tersedia, seperti nomor telepon bantuan, di mana mereka bisa mendapatkan saran. Pengguna juga bisa melihat cara yang disarankan untuk menjangkau teman.

Berapa lama proses itu berlangsung?

Facebook belum mengatakannya, namun wakil presiden manajemen produk dari perusahaan itu, yakni Guy Rosen, mengatakan bahwa kecepatan merupakan prioritas. "Kecepatan sangat penting, kita harus membantu orang secara real time (aktual)," sebutnya.

Untuk mempercepat prosesnya, Facebook mengatakan pihaknya menggunakan program kecerdasan buatan dan otomatisasi jika memungkinkan, namun seperti yang kita ketahui, konteks begitu sangat penting di dunia maya dan kata-kata bisa dengan mudah disalahartikan.

Itu adalah sesuatu yang, dikatakan Facebook, sedang dikerjakan."Kami terus mengerjakan teknologi ini untuk meningkatkan akurasi dan menghindari kesalahan positif sebelum tim kami mengkajinya," kata Rosen.

Kapan akan diluncurkan di Australia?

Belum jelas kapan perangkat ini diluncurkan di Australia. Facebook belum mengatakan di mana mereka akan meluncurkan perangkat lunak berikutnya, namun mereka mengatakan bahwa tujuannya adalah untuk, pada akhirnya, mengoperasikannya di seluruh dunia.

Meski demikian, perangkat itu tidak akan diluncurkan di Uni Eropa (EU) karena masalah "sensitivitas". Reuters bertanya kepada Rosen mengapa demikian, tapi ia menolak untuk membahas masalah ini.

Apa saja yang bisa dilakukan secara daring untuk atasi bunuh diri?

Perusahaan teknologi lainnya juga berusaha mencegah kasus bunuh diri. Misalnya, mesin pencarian Google menampilkan nomor telepon untuk hotline bunuh diri sebagai tanggapan atas pencarian tertentu.

Tapi bukan hanya bunuh diri yang menjadi masalah daring. Facebook juga mencari percakapan yang mencurigakan secara daring antara anak-anak dan predator seksual dewasa.

Namun Ryan Calo, seorang profesor hukum dari Universitas Washington yang menulis tentang teknologi, mengatakan, akan sulit bagi perusahaan teknologi untuk membenarkan pemindaian percakapan. "Begitu Anda membuka akses itu, Anda mungkin bertanya-tanya apa hal lain yang bisa dilakukan," kata Calo.

Simak berita ini dalam bahasa Inggris di sini.