LONDON – Di era chatbot, Character.AI, platform chatbot yang tersebut didukung oleh Google, sedang ditinjau serta menghadapi kritik lantaran melibatkan pengguna pada konten kekerasan yang mengganggu serta vulgar, termasuk penembakan di area sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu telah lama mengakibatkan kemarahan sebab jaringan yang disebutkan mengizinkan anak pada bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna menyebabkan kemudian berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian lalu pendapat bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, kemudian bahkan bermain game.
Namun, jaringan yang dimaksud telah lama terungkap dikarenakan kurangnya keamanan yang dimaksud efektif, yang akhirnya menjadikannya tempat berkembangnya sebagian konten yang tersebut berbahaya lalu tak pantas. Penggunawan yang digunakan berusia 13 tahun pun dapat mendaftar, tetapi bukan ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang dimaksud lebih lanjut muda berbohong tentang usia mereka.
Platform yang disebutkan gagal menerapkan panduan yang digunakan aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang digunakan menjelaskan penembakan di tempat sekolah atau korban dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang dimaksud nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer lalu Daniel de Freitas yang mana menggambarkan merekan sebagai karakter yang baik hati.
Beberapa pengguna sudah melaporkan bot yang digunakan menyamar sebagai korban penembakan di tempat sekolah.
