SAN FRANCISCO — Chanelle Siggens kısa süre önce en sevdiği nişancı oyunu Population One’ı oynamak için bir Oculus Quest sanal gerçeklik başlığı taktı. Oyunu açtıktan sonra avatarını sürükleyici dijital dünyadaki sanal bir lobiye çevirdi ve aksiyonun başlamasını bekledi.
Ama o beklerken başka bir oyuncunun avatarı onunkine yaklaştı. Bayan Siggens, yabancının daha sonra avatarına el yordamıyla ve boşalmayı simüle ettiğini söyledi. Şok oldu, avatarı erkek görünen oyuncudan durmasını istedi.
“Sana ne diyeceğimi bilmiyorum der gibi omuz silkti. 29 yaşındaki Toronto’da ikamet eden Bayan Siggens, metaverse – ne istersem yapacağım’ dedi. “Sonra uzaklaştı. ”
Dünyanın en büyük teknoloji şirketleri – Microsoft, Google, Apple ve diğerleri – insanların avatarlarına video oyunları oynamaktan ve spor derslerine katılmaktan toplantılara katılmak için her şeyi yaptırabilecekleri bir sanal gerçeklik dünyası olan metaverse’yi yaratmaya hızla ilerliyorlar. Ekim ayında, Facebook’un kurucusu ve CEO’su Mark Zuckerberg, metaverse’e o kadar çok inandığını ve bu çabaya milyarlarca yatırım yapacağını söyledi. Ayrıca şirketinin adını Meta olarak değiştirdi.
Teknoloji devleri konsepte büyük bahse girse de, metaverse’in güvenliğiyle ilgili sorular su yüzüne çıktı. Araştırmacılar, metaverse’nin bir parçası olan sanal gerçeklik oyunlarında taciz, saldırı, zorbalık ve nefret söyleminin halihazırda yaygın olduğunu ve yanlış davranışı kolayca bildirecek çok az mekanizma olduğunu söyledi. Kar amacı gütmeyen Dijital Nefretle Mücadele Merkezi’ne göre, popüler bir sanal gerçeklik oyunu olan VRChat’ta, her yedi dakikada bir ihlal eden bir olay meydana geliyor.
Meta veri tabanındaki kötü davranış, günümüzün çevrimiçi taciz ve zorbalıklarından daha şiddetli olabilir. Çünkü sanal gerçeklik, insanları dijital dünyadaki istenmeyen dokunuşların gerçek gibi hissettirilebildiği ve duyusal deneyimin arttığı her şeyi kapsayan bir dijital ortama sürüklüyor.
Bayan Siggens, “Kötü bir şey olduğunda, biri gelip sizi ellediğinde, zihniniz sizi bunun gerçek dünyada olduğunu düşünmeniz için kandırıyor” dedi. “Tam metaverse ile çok daha yoğun olacak. ”
Oyunlarda ve sanal gerçeklikte toksik davranış yeni değil. Ancak Meta ve diğer büyük şirketler metaverse’i geleceğin platformları haline getirirken, şirketlerin milyarlarca insana ulaşmasıyla sorunların daha da büyümesi muhtemel. Şirketler, Oculus Quest kulaklıklarını yapan Meta ile tatillerde ürünlerin fiyatlarını düşürerek insanları metaverse’e katılmaya teşvik ediyor.
Sanal gerçeklik oyunu Population One’dan bir görüntü. Kredi. . . BigBox VR
Sn. Metaverse’in zararlarıyla ilgili soruların farkında görünen Zuckerberg, onu gizlilik ve güvenlik göz önünde bulundurarak inşa edeceğine söz verdi. Yine de kendi teğmenleri bile oradaki toksik davranışları gerçekten önleyip önleyemeyeceklerini merak ettiler.
Mart ayında, 2022’de baş teknoloji sorumlusu olacak olan bir Meta yöneticisi Andrew Bosworth, bir çalışan notunda, insanların meta veri tabanında ne dediklerini ve nasıl davrandıklarını denetlemenin “herhangi bir anlamlı ölçekte neredeyse imkansız olduğunu” yazdı. Not, daha önce The Financial Times tarafından bildirildi.
Meta sözcüsü Kristina Milian, şirketin metaverse üzerinde politika yapıcılar, uzmanlar ve endüstri ortaklarıyla çalıştığını söyledi. Kasım ayındaki bir blog yazısında Meta, ürünlerini sorumlu bir şekilde geliştirmek için küresel araştırmalara 50 milyon dolar yatırım yaptığını da söyledi.
The New York Times tarafından görüntülenen dahili bir nota göre Meta, çalışanlarından metaverse’yi test etmek için gönüllü olmalarını istedi. Bir şirket sözcüsü Horizon Worlds, bir yabancının kısa süre önce Meta sanal gerçeklik oyununun bir testçisinin avatarını el yordamıyla bulduğunu söyledi. Meta’nın öğrendiğini söylediği olay, daha önce The Verge tarafından bildirildi.
Sanal gerçeklikteki hatalı davranışın izlenmesi genellikle zordur çünkü olaylar gerçek zamanlı olarak meydana gelir ve genellikle kaydedilmez.
Güvenlik nedenleriyle çocukların cihazlarını izlemek için yapay zeka kullanan Bark’ın baş ebeveyni Titania Jordan, özellikle çocukların metaverse’de karşılaşabilecekleri konusunda endişeli olduğunu söyledi. İstismarcıların, bir oyundaki sohbet mesajları yoluyla veya kulaklık aracılığıyla onlarla konuşarak, belgelenmesi zor eylemler yoluyla çocukları hedef alabileceğini söyledi.
“V. R., tamamen başka bir karmaşıklık dünyasıdır,” dedi Jordan. “Kötü bir aktör olan birini tespit etme ve onları süresiz olarak engelleme yeteneği ya da sonuçları, öylece tekrar baş edememeleri için, bunlar hala geliştiriliyor. ”
Dijital Nefretle Mücadele Merkezi’nde araştırma başkanı olan Callum Hood, VRChat adlı bir geliştirici tarafından yapılan ve büyük ölçüde Oculus Quest kulaklıkları aracılığıyla oynanan VRChat oyunundaki etkileşimleri kaydetmek için birkaç hafta geçirdi. Oyunda, insanlar sanal topluluklar oluşturabilir ve avatarlarına kart oynayabilir, sanal bir kulüpte parti yapabilir veya konuşmak için sanal kamusal alanlarda buluşabilir. Oculus, onu gençler için güvenli olarak değerlendiriyor.
Yine de 11 saatlik bir süre içinde Bay Hood, VRChat’ta 100’den fazla sorunlu olay kaydettiğini ve bunların bazılarının 13 yaşın altında olduğunu söyleyen kullanıcıları içerdiğini söyledi. Bazı durumlarda, kullanıcıların avatarları reşit olmayanlara karşı cinsel ve şiddet içeren tehditlerde bulundu. , dedi. Başka bir durumda, birisi reşit olmayan bir kişiye müstehcen içerik göstermeye çalıştı.
Bay Hood, olayların Oculus’un ve VRChat’ın hizmet şartlarını ihlal ettiğini söyledi. Bulgularını her iki şirkete de bildirdiğini ancak geri dönmediğini söyledi.
“VRChat güvenli değil çünkü geliştiricileri ve Facebook, kötü niyetli kullanıcıların hizmetlerine erişememesini sağlamak için temel önlemleri uygulamada başarısız oldu” dedi. “Kötüye kullanan kullanıcılar için güvenli bir sığınak oluşturdular ve aynı zamanda reşit olmayanları meta veriye girmeye davet ettiler. ”
Bir kamp ateşi etrafında oyuncularla VRChat’tan bir görüntü. Kredi. . . VRChat
Milian, Meta’nın topluluk standartlarının ve VR politikasının, geliştiricilerin uyması gereken platformunda neye izin verildiğini özetlediğini söyledi. “Irk, etnik köken, ulusal köken, dini inanç, cinsel yönelim, kast, cinsiyet, cinsiyet, cinsel kimlik ve ciddi hastalık veya engelliliğe dayalı olarak insanlara saldıran içeriğe izin vermiyoruz” dedi.
Reşit olmayanların hesap oluşturmasına veya Oculus cihazlarını kullanmasına izin verilmediğini söyledi. Sorumluluğun bir kısmı, uygulamaların geliştiricilerine aittir.
VRChat, yorum isteğine yanıt vermedi.
Bayan Siggens, Population One sanal gerçeklik oyununu oynarken tacize maruz kaldıktan sonra, çoğu aynı oyunu oynayan kadınlar için bir sanal destek grubuna katıldığını söyledi. Üyeler oyun içinde düzenli olarak tacizle uğraştığını söyledi. Haziran ayında Meta, Population One’ın geliştiricisi BigBox VR’yi satın aldı.
Destek grubunun bir başka üyesi, Tucson, Ariz’den 48 yaşındaki Mari DeGrazia, Birinci Popülasyon’da taciz ve saldırının “haftada iki ila üç kez, hatta daha fazla olduğunu gördüğünü” söyledi. ”
“Bazen, oyunun kurallarını ihlal eden şeylerin günde iki ila üç kez gerçekleştiğini görüyoruz” diye ekledi.
BigBox VR, bir yorum isteğine yanıt vermedi.
Bayan DeGrazia, Population One’ın arkasındaki kişilerin şikayetlerine yanıt verdiğini ve oyunu daha güvenli hale getirmekle ilgilendiklerini söyledi. Tacizlere rağmen, düzenli olarak oyun oynadığı ve bu etkileşimlerden zevk aldığı bir sanal arkadaş topluluğu bulduğunu söyledi.
“Oynamayı bırakmayacağım, çünkü kadınlar da dahil olmak üzere çeşitli insanların bu oyunu oynamasının önemli olduğunu düşünüyorum” dedi. “Bazen zor olsa da, bunun dışına itilmeyeceğiz. ”
Temmuz ayında, Bayan DeGrazia, Population One’ı oynamak için duyuları vızıltı ve titreşimler yoluyla ileten dokunsal bir yelek giydi. Başka bir oyuncu avatarının göğsünü ellediğinde, “çok kötü hissettirdi” dedi. Bay Zuckerberg’in, insanların daha fazla duyum hissetmelerine izin veren tam vücut kıyafetleri giyebilecekleri bir metaverse tarif ettiğini ve bunun rahatsız edici olduğunu söyledi.
Bayan Siggens, en sonunda, Birinci Popülasyon’da kendisini taciz eden kişinin kullanıcı hesabını oyun içindeki bir form aracılığıyla bildirdiğini söyledi. Daha sonra, kullanıcıya karşı cezai işlem yapıldığını söyleyen otomatik bir yanıt aldı.
“Bir gün mü, bir hafta mı yoksa sonsuza kadar mı yasaklandılar bilmiyorum” dedi. “Her iki durumda da, sadece olmaya devam ediyor. ”
Bayan Siggens, yabancının avatarıyla olan olaydan bir saat sonra, avatarının farklı bir kullanıcı tarafından tekrar arandığını söyledi.
Ryan Mac raporlamaya katkıda bulundu.
Ama o beklerken başka bir oyuncunun avatarı onunkine yaklaştı. Bayan Siggens, yabancının daha sonra avatarına el yordamıyla ve boşalmayı simüle ettiğini söyledi. Şok oldu, avatarı erkek görünen oyuncudan durmasını istedi.
“Sana ne diyeceğimi bilmiyorum der gibi omuz silkti. 29 yaşındaki Toronto’da ikamet eden Bayan Siggens, metaverse – ne istersem yapacağım’ dedi. “Sonra uzaklaştı. ”
Dünyanın en büyük teknoloji şirketleri – Microsoft, Google, Apple ve diğerleri – insanların avatarlarına video oyunları oynamaktan ve spor derslerine katılmaktan toplantılara katılmak için her şeyi yaptırabilecekleri bir sanal gerçeklik dünyası olan metaverse’yi yaratmaya hızla ilerliyorlar. Ekim ayında, Facebook’un kurucusu ve CEO’su Mark Zuckerberg, metaverse’e o kadar çok inandığını ve bu çabaya milyarlarca yatırım yapacağını söyledi. Ayrıca şirketinin adını Meta olarak değiştirdi.
Teknoloji devleri konsepte büyük bahse girse de, metaverse’in güvenliğiyle ilgili sorular su yüzüne çıktı. Araştırmacılar, metaverse’nin bir parçası olan sanal gerçeklik oyunlarında taciz, saldırı, zorbalık ve nefret söyleminin halihazırda yaygın olduğunu ve yanlış davranışı kolayca bildirecek çok az mekanizma olduğunu söyledi. Kar amacı gütmeyen Dijital Nefretle Mücadele Merkezi’ne göre, popüler bir sanal gerçeklik oyunu olan VRChat’ta, her yedi dakikada bir ihlal eden bir olay meydana geliyor.
Meta veri tabanındaki kötü davranış, günümüzün çevrimiçi taciz ve zorbalıklarından daha şiddetli olabilir. Çünkü sanal gerçeklik, insanları dijital dünyadaki istenmeyen dokunuşların gerçek gibi hissettirilebildiği ve duyusal deneyimin arttığı her şeyi kapsayan bir dijital ortama sürüklüyor.
Bayan Siggens, “Kötü bir şey olduğunda, biri gelip sizi ellediğinde, zihniniz sizi bunun gerçek dünyada olduğunu düşünmeniz için kandırıyor” dedi. “Tam metaverse ile çok daha yoğun olacak. ”
Oyunlarda ve sanal gerçeklikte toksik davranış yeni değil. Ancak Meta ve diğer büyük şirketler metaverse’i geleceğin platformları haline getirirken, şirketlerin milyarlarca insana ulaşmasıyla sorunların daha da büyümesi muhtemel. Şirketler, Oculus Quest kulaklıklarını yapan Meta ile tatillerde ürünlerin fiyatlarını düşürerek insanları metaverse’e katılmaya teşvik ediyor.
Sanal gerçeklik oyunu Population One’dan bir görüntü. Kredi. . . BigBox VR
Sn. Metaverse’in zararlarıyla ilgili soruların farkında görünen Zuckerberg, onu gizlilik ve güvenlik göz önünde bulundurarak inşa edeceğine söz verdi. Yine de kendi teğmenleri bile oradaki toksik davranışları gerçekten önleyip önleyemeyeceklerini merak ettiler.
Mart ayında, 2022’de baş teknoloji sorumlusu olacak olan bir Meta yöneticisi Andrew Bosworth, bir çalışan notunda, insanların meta veri tabanında ne dediklerini ve nasıl davrandıklarını denetlemenin “herhangi bir anlamlı ölçekte neredeyse imkansız olduğunu” yazdı. Not, daha önce The Financial Times tarafından bildirildi.
Meta sözcüsü Kristina Milian, şirketin metaverse üzerinde politika yapıcılar, uzmanlar ve endüstri ortaklarıyla çalıştığını söyledi. Kasım ayındaki bir blog yazısında Meta, ürünlerini sorumlu bir şekilde geliştirmek için küresel araştırmalara 50 milyon dolar yatırım yaptığını da söyledi.
The New York Times tarafından görüntülenen dahili bir nota göre Meta, çalışanlarından metaverse’yi test etmek için gönüllü olmalarını istedi. Bir şirket sözcüsü Horizon Worlds, bir yabancının kısa süre önce Meta sanal gerçeklik oyununun bir testçisinin avatarını el yordamıyla bulduğunu söyledi. Meta’nın öğrendiğini söylediği olay, daha önce The Verge tarafından bildirildi.
Sanal gerçeklikteki hatalı davranışın izlenmesi genellikle zordur çünkü olaylar gerçek zamanlı olarak meydana gelir ve genellikle kaydedilmez.
Güvenlik nedenleriyle çocukların cihazlarını izlemek için yapay zeka kullanan Bark’ın baş ebeveyni Titania Jordan, özellikle çocukların metaverse’de karşılaşabilecekleri konusunda endişeli olduğunu söyledi. İstismarcıların, bir oyundaki sohbet mesajları yoluyla veya kulaklık aracılığıyla onlarla konuşarak, belgelenmesi zor eylemler yoluyla çocukları hedef alabileceğini söyledi.
“V. R., tamamen başka bir karmaşıklık dünyasıdır,” dedi Jordan. “Kötü bir aktör olan birini tespit etme ve onları süresiz olarak engelleme yeteneği ya da sonuçları, öylece tekrar baş edememeleri için, bunlar hala geliştiriliyor. ”
Dijital Nefretle Mücadele Merkezi’nde araştırma başkanı olan Callum Hood, VRChat adlı bir geliştirici tarafından yapılan ve büyük ölçüde Oculus Quest kulaklıkları aracılığıyla oynanan VRChat oyunundaki etkileşimleri kaydetmek için birkaç hafta geçirdi. Oyunda, insanlar sanal topluluklar oluşturabilir ve avatarlarına kart oynayabilir, sanal bir kulüpte parti yapabilir veya konuşmak için sanal kamusal alanlarda buluşabilir. Oculus, onu gençler için güvenli olarak değerlendiriyor.
Yine de 11 saatlik bir süre içinde Bay Hood, VRChat’ta 100’den fazla sorunlu olay kaydettiğini ve bunların bazılarının 13 yaşın altında olduğunu söyleyen kullanıcıları içerdiğini söyledi. Bazı durumlarda, kullanıcıların avatarları reşit olmayanlara karşı cinsel ve şiddet içeren tehditlerde bulundu. , dedi. Başka bir durumda, birisi reşit olmayan bir kişiye müstehcen içerik göstermeye çalıştı.
Bay Hood, olayların Oculus’un ve VRChat’ın hizmet şartlarını ihlal ettiğini söyledi. Bulgularını her iki şirkete de bildirdiğini ancak geri dönmediğini söyledi.
“VRChat güvenli değil çünkü geliştiricileri ve Facebook, kötü niyetli kullanıcıların hizmetlerine erişememesini sağlamak için temel önlemleri uygulamada başarısız oldu” dedi. “Kötüye kullanan kullanıcılar için güvenli bir sığınak oluşturdular ve aynı zamanda reşit olmayanları meta veriye girmeye davet ettiler. ”
Bir kamp ateşi etrafında oyuncularla VRChat’tan bir görüntü. Kredi. . . VRChat
Milian, Meta’nın topluluk standartlarının ve VR politikasının, geliştiricilerin uyması gereken platformunda neye izin verildiğini özetlediğini söyledi. “Irk, etnik köken, ulusal köken, dini inanç, cinsel yönelim, kast, cinsiyet, cinsiyet, cinsel kimlik ve ciddi hastalık veya engelliliğe dayalı olarak insanlara saldıran içeriğe izin vermiyoruz” dedi.
Reşit olmayanların hesap oluşturmasına veya Oculus cihazlarını kullanmasına izin verilmediğini söyledi. Sorumluluğun bir kısmı, uygulamaların geliştiricilerine aittir.
VRChat, yorum isteğine yanıt vermedi.
Bayan Siggens, Population One sanal gerçeklik oyununu oynarken tacize maruz kaldıktan sonra, çoğu aynı oyunu oynayan kadınlar için bir sanal destek grubuna katıldığını söyledi. Üyeler oyun içinde düzenli olarak tacizle uğraştığını söyledi. Haziran ayında Meta, Population One’ın geliştiricisi BigBox VR’yi satın aldı.
Destek grubunun bir başka üyesi, Tucson, Ariz’den 48 yaşındaki Mari DeGrazia, Birinci Popülasyon’da taciz ve saldırının “haftada iki ila üç kez, hatta daha fazla olduğunu gördüğünü” söyledi. ”
“Bazen, oyunun kurallarını ihlal eden şeylerin günde iki ila üç kez gerçekleştiğini görüyoruz” diye ekledi.
BigBox VR, bir yorum isteğine yanıt vermedi.
Bayan DeGrazia, Population One’ın arkasındaki kişilerin şikayetlerine yanıt verdiğini ve oyunu daha güvenli hale getirmekle ilgilendiklerini söyledi. Tacizlere rağmen, düzenli olarak oyun oynadığı ve bu etkileşimlerden zevk aldığı bir sanal arkadaş topluluğu bulduğunu söyledi.
“Oynamayı bırakmayacağım, çünkü kadınlar da dahil olmak üzere çeşitli insanların bu oyunu oynamasının önemli olduğunu düşünüyorum” dedi. “Bazen zor olsa da, bunun dışına itilmeyeceğiz. ”
Temmuz ayında, Bayan DeGrazia, Population One’ı oynamak için duyuları vızıltı ve titreşimler yoluyla ileten dokunsal bir yelek giydi. Başka bir oyuncu avatarının göğsünü ellediğinde, “çok kötü hissettirdi” dedi. Bay Zuckerberg’in, insanların daha fazla duyum hissetmelerine izin veren tam vücut kıyafetleri giyebilecekleri bir metaverse tarif ettiğini ve bunun rahatsız edici olduğunu söyledi.
Bayan Siggens, en sonunda, Birinci Popülasyon’da kendisini taciz eden kişinin kullanıcı hesabını oyun içindeki bir form aracılığıyla bildirdiğini söyledi. Daha sonra, kullanıcıya karşı cezai işlem yapıldığını söyleyen otomatik bir yanıt aldı.
“Bir gün mü, bir hafta mı yoksa sonsuza kadar mı yasaklandılar bilmiyorum” dedi. “Her iki durumda da, sadece olmaya devam ediyor. ”
Bayan Siggens, yabancının avatarıyla olan olaydan bir saat sonra, avatarının farklı bir kullanıcı tarafından tekrar arandığını söyledi.
Ryan Mac raporlamaya katkıda bulundu.