Moderasi Metaverse Buruk, Keamanan Meta Bisa Terancam

Addiction.id-Jakarta Direktur Teknologi di Meta Andrew Bosworth memperingatkan karyawannya bahwa menciptakan pengalaman virtual reality (VR) yang aman merupakan bagian penting dari rencana bisnis. Di lain sisi, ini mungkin sulit diwujudkan untuk skala besar.

Financial Times melaporkan, tampaknya Bosworth ingin dunia virtual Meta punya tingkat keamanan yang hampir serupa dengan Disney—kendatipun keamanan dari pengembang pihak ketiga punya standard yang lebih longgar daripada yang dibuat oleh Meta. Adapun pelecehan atau perilaku toxic  lainnya bisa mengancaman rencana perusahaan yang ingin mewujudkan internet masa depan, yang mendorong pelanggan beralih dari VR.

Pada saat yang sama, Bosworth mengatakan bahwa mengawasi perilaku pengguna pada skala besar, mungkin mustahil. FIn” Ia mengutip Teori Ketidakmungkinan Masnick—yang dicetuskan oleh pendiri Techdirt Mike Masnick, bahwa moderasi konten berskala tidak mungkin dilakukan dengan baik.” Perlu Dicatat, tulisan Masnick bukan argumen yang menentang mendorong moderasi yang lebih baik, tetapi menekankan bahwa sistem besar akan selalu mengacaukan segmen populasi yang sangat besar.

Bosworth tampaknya menyarankan bahwa Meta bisa memoderasi ruang seperti platform Horizon Worlds VR menggunakan versi yang lebih ketat dari aturan komunitas yang ada. “VR atau moderasi metaverse bisa memiliki bias yang lebih kuat terhadap penegakan, penangguhan yang lebih lama, hingga pengusiran dari ruang multiuser,” tutur dia.

Bosworth turut mengunggah tulisan di blog-nya dengan judul  “Menjaga orang tetap aman di VR dan di luarnya”. Ini merujuk pada sejumlah alat moderasi VR Meta yang ada—termasuk membiarkan orang memblokir pengguna lain di VR, serta sistem pengawasan Horizon yang luas untuk memantau dan melaporkan perilaku buruk. Meta bahkan telah menjanjikan $50 juta (atau Rp709 miliar) untuk penelitian masalah praktis dan etika seputar rencana metaverse-nya.

Diketahui, platform lama Meta seperti Facebook dan Instagram telah dihukum karena mengalamai kegagalan yang serius mengenai moderasi. Ini termasuk respons yang lambat dan tidak memadai terhadap konten yang mempromosikan kebencian dan menghasut kekerasan. Rebranding perusahaan baru-baru ini menawarkan hal baru, namun VR dan dunia virtual kemungkinan akan menghadapi serangkaian masalah yang benar-benar baru.

“Kami sering melakukan percakapan secara internal dan eksternal tentang tantangan yang kami hadapi, saling timbal balik, dan potensi hasil pekerjaan kami,” tulis Bosworth melalui blog. “Ada masalah sosial dan teknis yang sulit, dan kami bergulat dengan mereka setiap hari.”

(LH)

Leave a Reply

Your email address will not be published. Required fields are marked *




Enter Captcha Here :