Polisi Panik Gara-gara AI Anthropic Bikin Laporan Pembunuhan

NEW YORK – Insiden yang disebutkan di atas hanyalah salah satu dari serangkaian kejadian “tak disengaja” yang diungkapkan oleh Anthropic sendiri dalam sebuah laporan yang diterbitkan pada tanggal 9 Oktober.

https://www.youtube.com/watch?v=m6H2bXQ

Kepolisian kota Philadelphia (Pennsylvania, AS) mengecam keras perusahaan teknologi Anthropic setelah model kecerdasan buatan (AI) mereka secara otomatis menghasilkan dan mengirimkan laporan palsu tentang kasus pembunuhan yang belum terpecahkan.

Insiden ini menimbulkan kekhawatiran tentang tindakan agen AI yang tidak dapat Diprediksi, karena mereka mampu melakukan banyak tugas di internet tanpa pengawasan langsung dari manusia.

Menurut Departemen Kepolisian Philadelphia, insiden tersebut terjadi pada tanggal 18 Juli ketika model AI Anthropic, Claude, menjalankan program uji coba untuk berinteraksi secara otomatis dengan situs web acak.

Setelah mengakses portal PhillyUnsolvedMurders.com (situs web publik yang menerima informasi tentang pembunuhan yang belum terpecahkan), model AI tersebut menampilkan dirinya seolah-olah memiliki informasi yang relevan dan Menyediakan informasi palsu, dengan mengklaim Sebelumnya melihat seseorang yang sesuai dengan deskripsi di dekat Tempat kejadian pada saat insiden tersebut terjadi.

Untungnya, sistem keamanan kepolisian mengkategorikan laporan palsu ini sebagai spam, sehingga informasi tersebut tidak sampai ke Pusat Kejahatan Real-Time untuk diproses. Kepolisian Bahkan memastikan tidak ada bukti pelanggaran server atau pencurian data.