LONDON – Di era chatbot, Character.AI, platform chatbot yang dimaksud didukung oleh Google, sedang ditinjau kemudian menghadapi kritik akibat melibatkan pengguna di konten kekerasan yang tersebut mengganggu lalu vulgar, termasuk penembakan di tempat sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang tersebut menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah menyebabkan kemarahan oleh sebab itu sistem yang disebutkan mengizinkan anak di dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer kemudian Daniel de Freitas. Aplikasi ini memungkinkan pengguna menghasilkan juga berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian lalu ucapan bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, dan juga bahkan bermain game.
Namun, media yang disebutkan telah dilakukan terungkap oleh sebab itu kurangnya keamanan yang mana efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa jumlah konten yang mana berbahaya serta tak pantas. Konsumen yang digunakan berusia 13 tahun pun dapat mendaftar, tetapi bukan ada cara untuk mengautentikasi verifikasi usia guna menjaga dari anak-anak yang dimaksud tambahan muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan pada sekolah atau korban di area dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang tersebut nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer juga Daniel de Freitas yang dimaksud menggambarkan dia sebagai karakter yang baik hati.
Beberapa pengguna sudah melaporkan bot yang menyamar sebagai korban penembakan dalam sekolah.
