TikTok’un algoritması için dört ana hedef vardır: 用户价值, 用户价值 (长期), 作者价值 ve 平台价值, şirketin “kullanıcı değeri”, “uzun vadeli kullanıcı değeri”, “yaratıcı değeri, ” ve “platform değeri. ”
Bu hedefler dizisi, dünyadaki en başarılı video uygulamasının nasıl bu kadar eğlenceli, bazılarına göre bağımlılık yapan bir ürün oluşturduğuna dair yeni ayrıntılar sunan, şirket çalışanları için açık ve açıklayıcı bir belgeden alınmıştır.
“TikTok Algo 100” başlıklı belge, TikTok’un Pekin’deki mühendislik ekibi tarafından üretildi. Bir şirket sözcüsü Hilary McQuaide, orijinalliğini doğruladı ve teknik bilgisi olmayan çalışanlara algoritmanın nasıl çalıştığını açıklamak için yazıldığını söyledi. Belge, baskın video uygulaması hakkında yeni bir ayrıntı düzeyi sunuyor ve hem uygulamanın matematiksel çekirdeğine hem de şirketin insan doğası anlayışına – can sıkıntısına yönelik eğilimlerimiz, kültürel ipuçlarına duyarlılığımız – ilişkin açıklayıcı bir bakış sunuyor ve bunun neden böyle olduğunu açıklamaya yardımcı oluyor. koymak çok zor. Belge ayrıca, ABD Ticaret Bakanlığı’nın TikTok’un ABD için bir güvenlik riski oluşturup oluşturmadığına ilişkin bir rapor hazırladığı sırada, şirketin Çinli ana şirketi ByteDance ile olan kesintisiz bağlantısı üzerindeki perdeyi kaldırıyor.
Her ay TikTok’ta vakit geçiren milyarlarca insan (kelimenin tam anlamıyla!) arasındaysanız, uygulamayı 2021’in gençlik kültürü ve genel olarak çevrimiçi kültür için merkezi araç olarak biliyorsunuzdur. Sonsuz bir video akışı görüntüler ve giderek yerini aldığı sosyal medya uygulamalarının aksine, arkadaşlarla bağlantı kurmaktan çok eğlence işlevi görür.
Diğer kısa video uygulamalarının başarısız olduğu yerlerde başarılı oldu, çünkü oluşturmayı çok kolaylaştırıyor, kullanıcılara ölü havayı doldurmaya zorlamak yerine dans etmeleri için fon müziği veya canlandırmaları için memler veriyor. Ve yaratmadan tüketen birçok kullanıcı için, uygulama tercihlerinizi okumakta ve sosyalizm veya Excel ipuçları veya seks, muhafazakar siyaset veya belirli bir ünlü ile ilgileniyor olsanız da sizi birçok “tarafından” birine yönlendirmede şaşırtıcı derecede iyidir. . İnsanların arzularını kendilerine bile ifşa etmede şaşırtıcı derecede iyidir – “TikTok Algoritması Cinselliğimi Benden Daha İyi Biliyordu”, uygulamanın içsel yaşamlarının röntgenine hayran kalan insanlarla ilgili bir dizi manşetten birini okuyor.
TikTok, beğeniler ve yorumlar gibi faktörlerin yanı sıra altyazılar, sesler ve hashtag’ler gibi video bilgilerini de hesaba kattığını söyleyerek öneri sisteminin ana hatlarını herkese açık bir şekilde paylaştı. Dış analistler de kodunu kırmaya çalıştılar. Yakın tarihli bir Wall Street Journal raporu, TikTok’un sizi kaydırmaya devam edecek daha fazla videoya yönlendirmek için her videoyu izlemek için ne kadar zaman harcadığınıza nasıl büyük ölçüde güvendiğini ve bu sürecin bazen genç izleyicileri tehlikeli tavşan deliklerine, özellikle de içeriğe doğru yönlendirebileceğini gösterdi. intiharı veya kendine zarar vermeyi teşvik ediyor – TikTok’un hizmet şartlarını ihlal eden içeriği agresif bir şekilde silerek durdurmaya çalıştığını söylediği sorunlar.
Yeni belge, okuma yetkisi olan ancak paylaşma yetkisi olmayan ve isminin açıklanmaması koşuluyla temin eden bir kişi tarafından The New York Times ile paylaşıldı. Kişi, uygulamanın kendine zarar verebilecek “üzücü” içeriğe doğru itilmesinden rahatsız oldu.
Belge açık bir şekilde açıklıyor ki, şirketin günlük aktif kullanıcıları ekleme “nihai hedefi” doğrultusunda, hizmet ettiği video akışında birbiriyle yakından ilişkili iki ölçüt için optimizasyon yapmayı seçti: “elde tutma” – yani bir kullanıcının gelip gelmediği. geri – ve “harcanan zaman. ” Uygulama sizi mümkün olduğunca uzun süre orada tutmak istiyor. Deneyim bazen bir bağımlılık olarak tanımlanır, ancak aynı zamanda sık sık pop kültürü eleştirisini de hatırlatır. Oyun yazarı David Mamet, 1998’de “sahte sanat” hakkında küçümseyici bir yazı yazan, “insanların yaz filmlerine çekildiklerini çünkü onlar değiltatmin edicidir ve bu nedenle zorlamayı tekrarlama fırsatları sunarlar. ”
Algoritmik tavsiyelerin sosyal bir tehdit oluşturduğuna inanan analistler için TikTok belgesi şüphelerini doğruluyor.
“Bu sistem, izleme süresinin anahtar olduğu anlamına gelir. Algo Transparency adlı Paris merkezli bir grup olan Algo Transparency’nin kurucusu Guillaume Chaslot, “Algoritma, insanlara gerçekten istediklerini vermek yerine insanları bağımlı hale getirmeye çalışıyor” dedi. özellikle çocuklar. Bay Chaslot, isteğim üzerine TikTok belgesini inceledi.
“TikTok’un algoritmasının çocuklarımızın hayatını yönlendirmesine izin vermenin çılgınca bir fikir olduğunu düşünüyorum” dedi. “Bir çocuğun izlediği her video, TikTok onun hakkında bir parça bilgi ediniyor. Algoritma, birkaç saat içinde müzik zevkini, fiziksel çekiciliğini, depresyonda olup olmadığını, uyuşturucu kullanıp kullanmadığını ve diğer birçok hassas bilgiyi tespit edebilir. Bu bilgilerin bir kısmının ona karşı kullanılma riski yüksek. Potansiyel olarak onu mikro hedeflemek veya platforma daha bağımlı hale getirmek için kullanılabilir. ”
Belge, izlenme süresinin TikTok’un dikkate aldığı tek faktör olmadığını söylüyor. Belge, videoların nasıl puanlandığına ilişkin kaba bir denklem sunuyor; burada makine öğrenimi ve gerçek kullanıcı davranışı tarafından yönlendirilen bir tahmin, üç veri bitinin her biri için özetleniyor: beğeniler, yorumlar ve oynatma süresinin yanı sıra videonun sahip olduğuna dair bir gösterge. oynandı:
Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay
Belgede, “Öneri sistemi, bu denkleme dayalı olarak tüm videolara puan veriyor ve kullanıcılara en yüksek puanlara sahip videoları geri veriyor” diyor. “Kısacası, bu belgede gösterilen denklem oldukça basitleştirilmiştir. Kullanılan gerçek denklem çok daha karmaşıktır, ancak arkasındaki mantık aynıdır. ”
Belge, şirketin “yem gibi” – insanlardan açıkça onları sevmelerini isteyerek algoritmayı oynamak için tasarlanmış videoları – belirlemek ve bastırmak için sistemini nasıl değiştirdiğini ve şirketin daha nüanslı sorular aracılığıyla nasıl düşündüğünü ayrıntılı olarak gösteriyor.
“Bazı yazarların videolarında bazı kültürel referanslar olabilir ve kullanıcılar bu referansları ancak yazarın daha fazla videosunu izleyerek daha iyi anlayabilirler. Bu nedenle, bir kullanıcının tüm bu videoları izlediği toplam değer, eklenen her bir videoyu izleme değerlerinden daha yüksek” diyor belge. “Başka bir örnek: Bir kullanıcı belirli bir video türünü beğenirse, ancak uygulama aynı türden ona itmeye devam ederse, çabucak sıkılır ve uygulamayı kapatır. Bu durumda, aynı tür videoları izleyen kullanıcının yarattığı toplam değer, her bir videoyu izlemekten daha düşüktür, çünkü tekrarlar can sıkıntısına yol açar. ”
Belge, “Bu sorunun iki çözümü var” diye devam ediyor. “Bazı varsayımlarda bulunun ve değeri değer denklemine bölün. Örneğin, tekrarlanan maruz kalma açısından, ‘same_author_seen’ değerini ekleyebiliriz ve can sıkıntısı sorunu için de ‘aynı_tag_bugün’ negatif bir değer ekleyebiliriz. Değer denkleminin yanı sıra, kullanıcılara u besleme ve dağılım vb. için zorunlu tavsiye gibi başka çözümler de işe yarayabilir. Örneğin, can sıkıntısı sorunu dağılım yoluyla çözülebilir. ”
TikTok’un algoritmasının hedeflerini gösteren bir grafik raporun bir parçasıydı. (Not: Bu görüntü The New York Times tarafından orijinal belgelerden çoğaltılmıştır.) Kredi. . . New York Times
Belgedeki başka bir tablo, “içerik oluşturuculardan para kazanmanın” şirketin hedeflerinden biri olduğunu gösteriyor; bu, TikTok’un videoları yalnızca eğlenceli değil, kazançlıysa kısmen tercih edebileceğine dair bir öneri.
Belgeyi inceleyen California San Diego Üniversitesi’nde bilgisayar bilimi profesörü olan Julian McAuley, bir e-postada, makalenin TikTok’un tahminlerini tam olarak nasıl yaptığı konusunda ayrıntılı bilgi vermediğini, ancak açıklamasının öneri motoru “tamamen makul, ancak geleneksel şeyler. “Şirketin üstünlüğü, makine öğrenimini “muhteşem veri hacimleri, yüksek etkileşimli kullanıcılar ve kullanıcıların algoritmik olarak önerilen içeriği tüketmeye uygun olduğu bir ayar ile birleştirmesinden geliyor (bu özelliklerin tümüne ne kadar az ayarın sahip olduğunu düşünün!). Algoritmik bir sihir değil. ”
Bay McAuley, insanların neden ona sürekli TikTok’u sorduğu konusunda biraz kafasının karıştığını da sözlerine ekledi.
“Tavsiye için sihirli bir kodu kırdıklarına dair bir algı var gibi görünüyor (medyada mı?
Ve gerçekten de, belge, teknoloji şirketlerinin eleştirmenler ve düzenleyiciler için kavraması imkansız olarak sunduğu, ancak tipik olarak herhangi bir sıradan kullanıcının anlayabileceği özelliklere odaklanan öneri sisteminin türünü aydınlatmak için çok şey yapıyor. Örneğin, Journal’ın sızdırılmış Facebook belgelerini kapsaması, Facebook’un yorumlara daha fazla ağırlık verme kararının bölücü içeriğin yayılmasına nasıl yardımcı olduğunu gösterdi. Modeller karmaşık olsa da, belgede özetlenen TikTok öneri algoritmasında doğası gereği uğursuz veya anlaşılmaz hiçbir şey yoktur.
Ancak belge, TikTok’un 2020’de Başkan Donald J. Trump’ın yönetiminin sonunda TikTok’un satışını zorlamaya çalıştığında, mülkiyeti spazmodik bir odak haline gelen Çinli ebeveyni ByteDance ile bağlarını koparmak için hiçbir şey yapmadığını da açıkça ortaya koyuyor. yönetimi Oracle ile müttefik bir Amerikan şirketine.
TikTok belgesi, LinkedIn biyografisinde hem TikTok hem de ByteDance’in benzer Çin uygulaması Douyin üzerinde çalıştığını söyleyen bir mühendislik yöneticisine sorular yöneltiyor ve giderek bölünmüş bir teknoloji endüstrisinin kalan küresel unsuru olan mühendislik yeteneğine bir bakış sunuyor. Belge, mühendislik müdürünün Pekin Üniversitesi’ne gittiğini, Columbia Üniversitesi’nde bilgisayar bilimleri alanında yüksek lisans derecesi aldığını ve 2017’de Pekin’deki ByteDance’e gelmeden önce iki yıl Facebook için çalıştığını söylüyor. Belge anlaşılır, ancak ana dili olmayan İngilizce olarak yazılmıştır ve şu şekildedir: Çin teknoloji endüstrisinin perspektifinden. Örneğin, Facebook ve Google gibi rakip Amerikan şirketlerine atıfta bulunmaz, ancak “Toutiao/Kuaishou/Weibo benzer bir şey yaptıysa, onların yaptıklarıyla aynı stratejiyi başlatabilir miyiz?” tartışmasını içerir.
ABD-Çin İlişkilerini Anlayın
<saat/>
Kart 1 / 6
ABD-Çin ilişkilerinde gergin bir dönem. İki güç, kendi kıyılarının ötesinde nüfuz elde etmek için yarışırken, teknolojide rekabet ederken ve askeri avantajlar için manevra yaparken derinden anlaşmazlık içindedir. ABD-Çin ilişkilerindeki ana cepheler hakkında bilinmesi gerekenler şunlardır:
Pasifik hakimiyeti. Çin askeri varlığını geliştirirken, ABD bölgedeki ittifaklarını genişletmeye çalıştı. Önemli bir potansiyel parlama noktası, Komünist Partinin Çin bölgesi olarak gördüğü demokratik ada olan Tayvan’dır. ABD oraya müdahale ederse, bölgesel düzeni yeniden şekillendirebilir.
Ticaret. Trump yönetiminin başlattığı ticaret savaşı teknik olarak durakladı. Ancak Biden yönetimi, Çin’in ekonomik politikalarını protesto etmeye ve Çin mallarına gümrük tarifeleri uygulamaya devam ederek, ticari ilişkilerde çözülme olmadığının sinyalini verdi.
Teknoloji. İnternet devleri çoğunlukla Çin’den çıkarıldı, ancak birçok ABD teknoloji şirketi orada hâlâ büyük işler yapıyor ve Washington’da siber güvenlik endişelerini artırıyor. Bay Xi, Çin’in teknolojik “özgüvene” ulaşması gerektiğini söyledi. ”
İnsan hakları. Bay Xi döneminde, Çin’in Hong Kong’daki demokrasi yanlısı protestolara yönelik Pekin’in baskıları ve Xinjiang’daki Müslümanların toplu olarak tutuklanması konusundaki anlaşmazlıklar da dahil olmak üzere değerler ve özgürlükler konusunda ABD ile çatışmaları daha sık hale geldi.
Dünya liderliği. Çin’in liderleri her yerde Amerika’nın gerileme işaretleri görüyor ve küresel liderlikte daha büyük bir sese sahip olmak, Batı’nın egemen olduğu kurumlarda daha büyük bir rol aramak ve hayal kırıklıklarını Batı ile paylaşan müttefiklere kur yapmak istiyorlar.
Belge, TikTok’un geliştirme sürecinin Douyin’in süreciyle yakından iç içe olduğunu söylüyor. Belge bir noktada TikTok çalışanlarına “Douyin Tavsiye Stratejisi Başlatma Süreci”ne atıfta bulunuyor ve “TikTok ve Douyin için aynı belge” olduğunu söyleyen dahili bir şirket belgesine bağlantı veriyor. ”
TikTok çalışanları da ByteDance’in ekosistemiyle derinden iç içedir. Slack gibi kurumsal bir iç iletişim sistemi olan Lark adlı bir ByteDance ürünü kullanıyorlar, ancak çalışanları sistemi daha fazla kullanmaya zorlamayı amaçlayan agresif performans yönetimi özellikleri var. Örneğin, bana verilen ekran görüntülerine göre, iş arkadaşlarınızdan daha fazla veya daha az eylem gerçekleştirip gerçekleştirmediğinizi (mesajları açmak gibi) söyleyen bir grafik var.
Çin tüketici teknolojisi ile ilgili endişeler Amerika Birleşik Devletleri’nde iki taraflıdır. Başkan Trump’ın Ağustos 2020’de uygulamayı yasaklamaya çalışan yürütme emri, TikTok’un “veri toplamasının Çin Komünist Partisinin Amerikalıların kişisel ve tescilli bilgilerine erişmesine izin vermekle tehdit ettiği” konusunda uyardı. Çin hükümeti, “şantaj için kişisel bilgi dosyaları oluşturabilir ve kurumsal casusluk yapabilir” dedi. Bu yasak mahkemede durdu ve cumhurbaşkanlığı seçimlerinden sonra kayboldu. Başkan Biden yürütme emrini iptal etti, ancak yönetimi daha sonra TikTok’un oluşturduğu güvenlik tehditlerine ilişkin kendi soruşturmasını duyurdu ve adı açıklanmayan bir üst düzey yönetim yetkilisi gazetecilere Çin’in “dijital teknolojilerden ve Amerikan verilerini kabul edilemez ulusal güvenlik riskleri sunacak şekilde kullanmaya çalıştığını söyledi. . ”
E-postayla gönderilen bir açıklamada, Bayan McQuaide, “Kodda bazı ortak noktalar olsa da, TikTok ve Douyin uygulamaları tamamen ayrı sunucularda ayrı ayrı çalıştırılıyor ve hiçbir kod kullanıcı verilerini içermiyor. ”
Ayrıca, “TikTok, Çin hükümetine hiçbir zaman kullanıcı verilerini sağlamadı ve istendiğinde biz de vermeyeceğiz. ”
CEO’su Singapur’da yaşayan TikTok, Bay Trump altında siyasi baskı yoğunlaşırken, bir dizi iyi bağlantıları olan Amerikalı ve Avrupalı yönetici ve güvenlik uzmanlarını işe aldı. Resmi bir merkezi olmadığını söylüyor. Kullanıcı verilerini Singapur’da bir yedekle Amerika Birleşik Devletleri’nde depolayarak Amerikan endişelerini yatıştırmaya çalıştı.
Amerikan hükümetinin güvenlik endişeleri iki şekilde ortaya çıkıyor. İlki, Bay Trump’ın yürütme emrinde önerdiği gibi, TikTok’un sahip olduğu geniş veri hazinesinin – örneğin, sonunda Amerikan kamu görevlisi olabilecek uygulama hayranlarının özel cinsel arzuları hakkında – bir sorun olarak görülüp görülmemesi gerektiğidir. ulusal güvenlik sorunu. Verilerin bu şekilde kullanıldığına dair hiçbir kanıt yok ve TikTok, Amerikalıların hayatlarının ayrıntılarını sosyal medyada paylaştığı tek yer değil. İkinci endişe, TikTok’un politik olarak hassas gönderileri sansürleyip sansürlemediğidir.
Toronto’daki siber güvenlik gözlemcisi kuruluşu Citizen Lab tarafından bu yıl yayınlanan bir rapor, bu endişelerin her ikisinin de en iyi ihtimalle gizli olduğunu öne sürdü: TikTok’un hassas konuları sansürlediğine veya Çin’e veri aktardığına dair herhangi bir belirti bulunamadı.
Ancak TikTok’un insanların iç yaşamlarına bakışları olağandışı. Benimle paylaşılan başka bir ekran görüntüsü, içerik moderatörlerinin yalnızca herkese açık olarak yayınlanan videolara değil, aynı zamanda arkadaşlara gönderilen veya sisteme yüklenen ancak paylaşılmayan içeriğe de erişebildiğini gösteriyor; WhatsApp ve Signal gibi uçtan uca sağlayan uygulamalardan farklı olarak şifreleme.
İkinci soru, Çin hükümetinin propagandayı yaymak için platformu kullanıp kullanamayacağıdır. TikTok, Çin’deki azınlık Müslümanların toplu olarak tutuklanmasını kınayan bir videoyu sansürledikten sonra, ülke hükümetinin eleştirilmesine izin verdi. Örneğin, üst düzey bir Çinli lideri cinsel saldırıyla suçlayan Çinli tenis yıldızına atıfta bulunan #whereispengshuai etiketi, sistemde otomatik olarak tamamlanıyor, ancak bu etikete sahip TikTok videoları çok az görüntüleniyor. Şirketin, Twitter’da çok daha fazla etkileşimi olan ancak benzer şekilde Instagram’da çok az katılımı olan aramayı bastırıp bastırmadığını söylemenin bağımsız bir yolu yok.
Bazı Amerikalı analistler TikTok’u derin bir tehdit olarak görüyor; diğerleri bunu, orta yaşlarına yaklaşan Amerikalıların, ebeveynleri onları sosyal medyada hayatlarının ayrıntılarını paylaşırlarsa asla iş bulamayacakları konusunda uyardıklarında yüz yüze kaldıkları bir tür bilgisiz panik olarak görüyor. Sosyal ağlardan bankalara ve kredi kartlarına kadar pek çok başka ürün, kullanıcıları hakkında daha kesin veriler toplar. Yabancı güvenlik servisleri bu verileri isteseydi, muhtemelen onu gölgeli veri komisyoncuları endüstrisinden satın almanın bir yolunu bulabilirdi.
New America araştırma kuruluşunda siber güvenlik politikası görevlisi olan Samm Sacks, “TikTok tarafından gözetleme veya sansür hakkında çıldırmak, bu sorunların herhangi bir belirli şirketten veya Çin’deki mülkiyetinden çok daha büyük olduğu gerçeğinden dikkati dağıtıyor” dedi. “TikTok Amerika’ya ait olsa bile, Pekin’in açık veri komisyoncusu pazarındaki verilerini satın almasını engelleyen hiçbir yasa veya düzenleme yok. ”
Bu sütunu bildirmenin bana hatırlattığı bir şey var: TikTok’un Amerikan ulusal güvenliğine oluşturduğu tehdit tamamen varsayımsal görünüyor ve hem ABD-Çin ilişkisine hem de teknoloji ve kültürün geleceğine ilişkin analizinize bağlı. Ancak algoritmanın beni bağımlı kılan şeyi kavraması – tenis atışları, Türk yemek videoları ve izlemeyi sevdiğim diğer tüm şeyler arasında – bu sütunu bitirme yeteneğim için açık ve mevcut bir tehlike oluşturdu.
Bu hedefler dizisi, dünyadaki en başarılı video uygulamasının nasıl bu kadar eğlenceli, bazılarına göre bağımlılık yapan bir ürün oluşturduğuna dair yeni ayrıntılar sunan, şirket çalışanları için açık ve açıklayıcı bir belgeden alınmıştır.
“TikTok Algo 100” başlıklı belge, TikTok’un Pekin’deki mühendislik ekibi tarafından üretildi. Bir şirket sözcüsü Hilary McQuaide, orijinalliğini doğruladı ve teknik bilgisi olmayan çalışanlara algoritmanın nasıl çalıştığını açıklamak için yazıldığını söyledi. Belge, baskın video uygulaması hakkında yeni bir ayrıntı düzeyi sunuyor ve hem uygulamanın matematiksel çekirdeğine hem de şirketin insan doğası anlayışına – can sıkıntısına yönelik eğilimlerimiz, kültürel ipuçlarına duyarlılığımız – ilişkin açıklayıcı bir bakış sunuyor ve bunun neden böyle olduğunu açıklamaya yardımcı oluyor. koymak çok zor. Belge ayrıca, ABD Ticaret Bakanlığı’nın TikTok’un ABD için bir güvenlik riski oluşturup oluşturmadığına ilişkin bir rapor hazırladığı sırada, şirketin Çinli ana şirketi ByteDance ile olan kesintisiz bağlantısı üzerindeki perdeyi kaldırıyor.
Her ay TikTok’ta vakit geçiren milyarlarca insan (kelimenin tam anlamıyla!) arasındaysanız, uygulamayı 2021’in gençlik kültürü ve genel olarak çevrimiçi kültür için merkezi araç olarak biliyorsunuzdur. Sonsuz bir video akışı görüntüler ve giderek yerini aldığı sosyal medya uygulamalarının aksine, arkadaşlarla bağlantı kurmaktan çok eğlence işlevi görür.
Diğer kısa video uygulamalarının başarısız olduğu yerlerde başarılı oldu, çünkü oluşturmayı çok kolaylaştırıyor, kullanıcılara ölü havayı doldurmaya zorlamak yerine dans etmeleri için fon müziği veya canlandırmaları için memler veriyor. Ve yaratmadan tüketen birçok kullanıcı için, uygulama tercihlerinizi okumakta ve sosyalizm veya Excel ipuçları veya seks, muhafazakar siyaset veya belirli bir ünlü ile ilgileniyor olsanız da sizi birçok “tarafından” birine yönlendirmede şaşırtıcı derecede iyidir. . İnsanların arzularını kendilerine bile ifşa etmede şaşırtıcı derecede iyidir – “TikTok Algoritması Cinselliğimi Benden Daha İyi Biliyordu”, uygulamanın içsel yaşamlarının röntgenine hayran kalan insanlarla ilgili bir dizi manşetten birini okuyor.
TikTok, beğeniler ve yorumlar gibi faktörlerin yanı sıra altyazılar, sesler ve hashtag’ler gibi video bilgilerini de hesaba kattığını söyleyerek öneri sisteminin ana hatlarını herkese açık bir şekilde paylaştı. Dış analistler de kodunu kırmaya çalıştılar. Yakın tarihli bir Wall Street Journal raporu, TikTok’un sizi kaydırmaya devam edecek daha fazla videoya yönlendirmek için her videoyu izlemek için ne kadar zaman harcadığınıza nasıl büyük ölçüde güvendiğini ve bu sürecin bazen genç izleyicileri tehlikeli tavşan deliklerine, özellikle de içeriğe doğru yönlendirebileceğini gösterdi. intiharı veya kendine zarar vermeyi teşvik ediyor – TikTok’un hizmet şartlarını ihlal eden içeriği agresif bir şekilde silerek durdurmaya çalıştığını söylediği sorunlar.
Yeni belge, okuma yetkisi olan ancak paylaşma yetkisi olmayan ve isminin açıklanmaması koşuluyla temin eden bir kişi tarafından The New York Times ile paylaşıldı. Kişi, uygulamanın kendine zarar verebilecek “üzücü” içeriğe doğru itilmesinden rahatsız oldu.
Belge açık bir şekilde açıklıyor ki, şirketin günlük aktif kullanıcıları ekleme “nihai hedefi” doğrultusunda, hizmet ettiği video akışında birbiriyle yakından ilişkili iki ölçüt için optimizasyon yapmayı seçti: “elde tutma” – yani bir kullanıcının gelip gelmediği. geri – ve “harcanan zaman. ” Uygulama sizi mümkün olduğunca uzun süre orada tutmak istiyor. Deneyim bazen bir bağımlılık olarak tanımlanır, ancak aynı zamanda sık sık pop kültürü eleştirisini de hatırlatır. Oyun yazarı David Mamet, 1998’de “sahte sanat” hakkında küçümseyici bir yazı yazan, “insanların yaz filmlerine çekildiklerini çünkü onlar değiltatmin edicidir ve bu nedenle zorlamayı tekrarlama fırsatları sunarlar. ”
Algoritmik tavsiyelerin sosyal bir tehdit oluşturduğuna inanan analistler için TikTok belgesi şüphelerini doğruluyor.
“Bu sistem, izleme süresinin anahtar olduğu anlamına gelir. Algo Transparency adlı Paris merkezli bir grup olan Algo Transparency’nin kurucusu Guillaume Chaslot, “Algoritma, insanlara gerçekten istediklerini vermek yerine insanları bağımlı hale getirmeye çalışıyor” dedi. özellikle çocuklar. Bay Chaslot, isteğim üzerine TikTok belgesini inceledi.
“TikTok’un algoritmasının çocuklarımızın hayatını yönlendirmesine izin vermenin çılgınca bir fikir olduğunu düşünüyorum” dedi. “Bir çocuğun izlediği her video, TikTok onun hakkında bir parça bilgi ediniyor. Algoritma, birkaç saat içinde müzik zevkini, fiziksel çekiciliğini, depresyonda olup olmadığını, uyuşturucu kullanıp kullanmadığını ve diğer birçok hassas bilgiyi tespit edebilir. Bu bilgilerin bir kısmının ona karşı kullanılma riski yüksek. Potansiyel olarak onu mikro hedeflemek veya platforma daha bağımlı hale getirmek için kullanılabilir. ”
Belge, izlenme süresinin TikTok’un dikkate aldığı tek faktör olmadığını söylüyor. Belge, videoların nasıl puanlandığına ilişkin kaba bir denklem sunuyor; burada makine öğrenimi ve gerçek kullanıcı davranışı tarafından yönlendirilen bir tahmin, üç veri bitinin her biri için özetleniyor: beğeniler, yorumlar ve oynatma süresinin yanı sıra videonun sahip olduğuna dair bir gösterge. oynandı:
Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay
Belgede, “Öneri sistemi, bu denkleme dayalı olarak tüm videolara puan veriyor ve kullanıcılara en yüksek puanlara sahip videoları geri veriyor” diyor. “Kısacası, bu belgede gösterilen denklem oldukça basitleştirilmiştir. Kullanılan gerçek denklem çok daha karmaşıktır, ancak arkasındaki mantık aynıdır. ”
Belge, şirketin “yem gibi” – insanlardan açıkça onları sevmelerini isteyerek algoritmayı oynamak için tasarlanmış videoları – belirlemek ve bastırmak için sistemini nasıl değiştirdiğini ve şirketin daha nüanslı sorular aracılığıyla nasıl düşündüğünü ayrıntılı olarak gösteriyor.
“Bazı yazarların videolarında bazı kültürel referanslar olabilir ve kullanıcılar bu referansları ancak yazarın daha fazla videosunu izleyerek daha iyi anlayabilirler. Bu nedenle, bir kullanıcının tüm bu videoları izlediği toplam değer, eklenen her bir videoyu izleme değerlerinden daha yüksek” diyor belge. “Başka bir örnek: Bir kullanıcı belirli bir video türünü beğenirse, ancak uygulama aynı türden ona itmeye devam ederse, çabucak sıkılır ve uygulamayı kapatır. Bu durumda, aynı tür videoları izleyen kullanıcının yarattığı toplam değer, her bir videoyu izlemekten daha düşüktür, çünkü tekrarlar can sıkıntısına yol açar. ”
Belge, “Bu sorunun iki çözümü var” diye devam ediyor. “Bazı varsayımlarda bulunun ve değeri değer denklemine bölün. Örneğin, tekrarlanan maruz kalma açısından, ‘same_author_seen’ değerini ekleyebiliriz ve can sıkıntısı sorunu için de ‘aynı_tag_bugün’ negatif bir değer ekleyebiliriz. Değer denkleminin yanı sıra, kullanıcılara u besleme ve dağılım vb. için zorunlu tavsiye gibi başka çözümler de işe yarayabilir. Örneğin, can sıkıntısı sorunu dağılım yoluyla çözülebilir. ”
TikTok’un algoritmasının hedeflerini gösteren bir grafik raporun bir parçasıydı. (Not: Bu görüntü The New York Times tarafından orijinal belgelerden çoğaltılmıştır.) Kredi. . . New York Times
Belgedeki başka bir tablo, “içerik oluşturuculardan para kazanmanın” şirketin hedeflerinden biri olduğunu gösteriyor; bu, TikTok’un videoları yalnızca eğlenceli değil, kazançlıysa kısmen tercih edebileceğine dair bir öneri.
Belgeyi inceleyen California San Diego Üniversitesi’nde bilgisayar bilimi profesörü olan Julian McAuley, bir e-postada, makalenin TikTok’un tahminlerini tam olarak nasıl yaptığı konusunda ayrıntılı bilgi vermediğini, ancak açıklamasının öneri motoru “tamamen makul, ancak geleneksel şeyler. “Şirketin üstünlüğü, makine öğrenimini “muhteşem veri hacimleri, yüksek etkileşimli kullanıcılar ve kullanıcıların algoritmik olarak önerilen içeriği tüketmeye uygun olduğu bir ayar ile birleştirmesinden geliyor (bu özelliklerin tümüne ne kadar az ayarın sahip olduğunu düşünün!). Algoritmik bir sihir değil. ”
Bay McAuley, insanların neden ona sürekli TikTok’u sorduğu konusunda biraz kafasının karıştığını da sözlerine ekledi.
“Tavsiye için sihirli bir kodu kırdıklarına dair bir algı var gibi görünüyor (medyada mı?
Ve gerçekten de, belge, teknoloji şirketlerinin eleştirmenler ve düzenleyiciler için kavraması imkansız olarak sunduğu, ancak tipik olarak herhangi bir sıradan kullanıcının anlayabileceği özelliklere odaklanan öneri sisteminin türünü aydınlatmak için çok şey yapıyor. Örneğin, Journal’ın sızdırılmış Facebook belgelerini kapsaması, Facebook’un yorumlara daha fazla ağırlık verme kararının bölücü içeriğin yayılmasına nasıl yardımcı olduğunu gösterdi. Modeller karmaşık olsa da, belgede özetlenen TikTok öneri algoritmasında doğası gereği uğursuz veya anlaşılmaz hiçbir şey yoktur.
Ancak belge, TikTok’un 2020’de Başkan Donald J. Trump’ın yönetiminin sonunda TikTok’un satışını zorlamaya çalıştığında, mülkiyeti spazmodik bir odak haline gelen Çinli ebeveyni ByteDance ile bağlarını koparmak için hiçbir şey yapmadığını da açıkça ortaya koyuyor. yönetimi Oracle ile müttefik bir Amerikan şirketine.
TikTok belgesi, LinkedIn biyografisinde hem TikTok hem de ByteDance’in benzer Çin uygulaması Douyin üzerinde çalıştığını söyleyen bir mühendislik yöneticisine sorular yöneltiyor ve giderek bölünmüş bir teknoloji endüstrisinin kalan küresel unsuru olan mühendislik yeteneğine bir bakış sunuyor. Belge, mühendislik müdürünün Pekin Üniversitesi’ne gittiğini, Columbia Üniversitesi’nde bilgisayar bilimleri alanında yüksek lisans derecesi aldığını ve 2017’de Pekin’deki ByteDance’e gelmeden önce iki yıl Facebook için çalıştığını söylüyor. Belge anlaşılır, ancak ana dili olmayan İngilizce olarak yazılmıştır ve şu şekildedir: Çin teknoloji endüstrisinin perspektifinden. Örneğin, Facebook ve Google gibi rakip Amerikan şirketlerine atıfta bulunmaz, ancak “Toutiao/Kuaishou/Weibo benzer bir şey yaptıysa, onların yaptıklarıyla aynı stratejiyi başlatabilir miyiz?” tartışmasını içerir.
ABD-Çin İlişkilerini Anlayın
<saat/>
Kart 1 / 6
ABD-Çin ilişkilerinde gergin bir dönem. İki güç, kendi kıyılarının ötesinde nüfuz elde etmek için yarışırken, teknolojide rekabet ederken ve askeri avantajlar için manevra yaparken derinden anlaşmazlık içindedir. ABD-Çin ilişkilerindeki ana cepheler hakkında bilinmesi gerekenler şunlardır:
Pasifik hakimiyeti. Çin askeri varlığını geliştirirken, ABD bölgedeki ittifaklarını genişletmeye çalıştı. Önemli bir potansiyel parlama noktası, Komünist Partinin Çin bölgesi olarak gördüğü demokratik ada olan Tayvan’dır. ABD oraya müdahale ederse, bölgesel düzeni yeniden şekillendirebilir.
Ticaret. Trump yönetiminin başlattığı ticaret savaşı teknik olarak durakladı. Ancak Biden yönetimi, Çin’in ekonomik politikalarını protesto etmeye ve Çin mallarına gümrük tarifeleri uygulamaya devam ederek, ticari ilişkilerde çözülme olmadığının sinyalini verdi.
Teknoloji. İnternet devleri çoğunlukla Çin’den çıkarıldı, ancak birçok ABD teknoloji şirketi orada hâlâ büyük işler yapıyor ve Washington’da siber güvenlik endişelerini artırıyor. Bay Xi, Çin’in teknolojik “özgüvene” ulaşması gerektiğini söyledi. ”
İnsan hakları. Bay Xi döneminde, Çin’in Hong Kong’daki demokrasi yanlısı protestolara yönelik Pekin’in baskıları ve Xinjiang’daki Müslümanların toplu olarak tutuklanması konusundaki anlaşmazlıklar da dahil olmak üzere değerler ve özgürlükler konusunda ABD ile çatışmaları daha sık hale geldi.
Dünya liderliği. Çin’in liderleri her yerde Amerika’nın gerileme işaretleri görüyor ve küresel liderlikte daha büyük bir sese sahip olmak, Batı’nın egemen olduğu kurumlarda daha büyük bir rol aramak ve hayal kırıklıklarını Batı ile paylaşan müttefiklere kur yapmak istiyorlar.
Belge, TikTok’un geliştirme sürecinin Douyin’in süreciyle yakından iç içe olduğunu söylüyor. Belge bir noktada TikTok çalışanlarına “Douyin Tavsiye Stratejisi Başlatma Süreci”ne atıfta bulunuyor ve “TikTok ve Douyin için aynı belge” olduğunu söyleyen dahili bir şirket belgesine bağlantı veriyor. ”
TikTok çalışanları da ByteDance’in ekosistemiyle derinden iç içedir. Slack gibi kurumsal bir iç iletişim sistemi olan Lark adlı bir ByteDance ürünü kullanıyorlar, ancak çalışanları sistemi daha fazla kullanmaya zorlamayı amaçlayan agresif performans yönetimi özellikleri var. Örneğin, bana verilen ekran görüntülerine göre, iş arkadaşlarınızdan daha fazla veya daha az eylem gerçekleştirip gerçekleştirmediğinizi (mesajları açmak gibi) söyleyen bir grafik var.
Çin tüketici teknolojisi ile ilgili endişeler Amerika Birleşik Devletleri’nde iki taraflıdır. Başkan Trump’ın Ağustos 2020’de uygulamayı yasaklamaya çalışan yürütme emri, TikTok’un “veri toplamasının Çin Komünist Partisinin Amerikalıların kişisel ve tescilli bilgilerine erişmesine izin vermekle tehdit ettiği” konusunda uyardı. Çin hükümeti, “şantaj için kişisel bilgi dosyaları oluşturabilir ve kurumsal casusluk yapabilir” dedi. Bu yasak mahkemede durdu ve cumhurbaşkanlığı seçimlerinden sonra kayboldu. Başkan Biden yürütme emrini iptal etti, ancak yönetimi daha sonra TikTok’un oluşturduğu güvenlik tehditlerine ilişkin kendi soruşturmasını duyurdu ve adı açıklanmayan bir üst düzey yönetim yetkilisi gazetecilere Çin’in “dijital teknolojilerden ve Amerikan verilerini kabul edilemez ulusal güvenlik riskleri sunacak şekilde kullanmaya çalıştığını söyledi. . ”
E-postayla gönderilen bir açıklamada, Bayan McQuaide, “Kodda bazı ortak noktalar olsa da, TikTok ve Douyin uygulamaları tamamen ayrı sunucularda ayrı ayrı çalıştırılıyor ve hiçbir kod kullanıcı verilerini içermiyor. ”
Ayrıca, “TikTok, Çin hükümetine hiçbir zaman kullanıcı verilerini sağlamadı ve istendiğinde biz de vermeyeceğiz. ”
CEO’su Singapur’da yaşayan TikTok, Bay Trump altında siyasi baskı yoğunlaşırken, bir dizi iyi bağlantıları olan Amerikalı ve Avrupalı yönetici ve güvenlik uzmanlarını işe aldı. Resmi bir merkezi olmadığını söylüyor. Kullanıcı verilerini Singapur’da bir yedekle Amerika Birleşik Devletleri’nde depolayarak Amerikan endişelerini yatıştırmaya çalıştı.
Amerikan hükümetinin güvenlik endişeleri iki şekilde ortaya çıkıyor. İlki, Bay Trump’ın yürütme emrinde önerdiği gibi, TikTok’un sahip olduğu geniş veri hazinesinin – örneğin, sonunda Amerikan kamu görevlisi olabilecek uygulama hayranlarının özel cinsel arzuları hakkında – bir sorun olarak görülüp görülmemesi gerektiğidir. ulusal güvenlik sorunu. Verilerin bu şekilde kullanıldığına dair hiçbir kanıt yok ve TikTok, Amerikalıların hayatlarının ayrıntılarını sosyal medyada paylaştığı tek yer değil. İkinci endişe, TikTok’un politik olarak hassas gönderileri sansürleyip sansürlemediğidir.
Toronto’daki siber güvenlik gözlemcisi kuruluşu Citizen Lab tarafından bu yıl yayınlanan bir rapor, bu endişelerin her ikisinin de en iyi ihtimalle gizli olduğunu öne sürdü: TikTok’un hassas konuları sansürlediğine veya Çin’e veri aktardığına dair herhangi bir belirti bulunamadı.
Ancak TikTok’un insanların iç yaşamlarına bakışları olağandışı. Benimle paylaşılan başka bir ekran görüntüsü, içerik moderatörlerinin yalnızca herkese açık olarak yayınlanan videolara değil, aynı zamanda arkadaşlara gönderilen veya sisteme yüklenen ancak paylaşılmayan içeriğe de erişebildiğini gösteriyor; WhatsApp ve Signal gibi uçtan uca sağlayan uygulamalardan farklı olarak şifreleme.
İkinci soru, Çin hükümetinin propagandayı yaymak için platformu kullanıp kullanamayacağıdır. TikTok, Çin’deki azınlık Müslümanların toplu olarak tutuklanmasını kınayan bir videoyu sansürledikten sonra, ülke hükümetinin eleştirilmesine izin verdi. Örneğin, üst düzey bir Çinli lideri cinsel saldırıyla suçlayan Çinli tenis yıldızına atıfta bulunan #whereispengshuai etiketi, sistemde otomatik olarak tamamlanıyor, ancak bu etikete sahip TikTok videoları çok az görüntüleniyor. Şirketin, Twitter’da çok daha fazla etkileşimi olan ancak benzer şekilde Instagram’da çok az katılımı olan aramayı bastırıp bastırmadığını söylemenin bağımsız bir yolu yok.
Bazı Amerikalı analistler TikTok’u derin bir tehdit olarak görüyor; diğerleri bunu, orta yaşlarına yaklaşan Amerikalıların, ebeveynleri onları sosyal medyada hayatlarının ayrıntılarını paylaşırlarsa asla iş bulamayacakları konusunda uyardıklarında yüz yüze kaldıkları bir tür bilgisiz panik olarak görüyor. Sosyal ağlardan bankalara ve kredi kartlarına kadar pek çok başka ürün, kullanıcıları hakkında daha kesin veriler toplar. Yabancı güvenlik servisleri bu verileri isteseydi, muhtemelen onu gölgeli veri komisyoncuları endüstrisinden satın almanın bir yolunu bulabilirdi.
New America araştırma kuruluşunda siber güvenlik politikası görevlisi olan Samm Sacks, “TikTok tarafından gözetleme veya sansür hakkında çıldırmak, bu sorunların herhangi bir belirli şirketten veya Çin’deki mülkiyetinden çok daha büyük olduğu gerçeğinden dikkati dağıtıyor” dedi. “TikTok Amerika’ya ait olsa bile, Pekin’in açık veri komisyoncusu pazarındaki verilerini satın almasını engelleyen hiçbir yasa veya düzenleme yok. ”
Bu sütunu bildirmenin bana hatırlattığı bir şey var: TikTok’un Amerikan ulusal güvenliğine oluşturduğu tehdit tamamen varsayımsal görünüyor ve hem ABD-Çin ilişkisine hem de teknoloji ve kültürün geleceğine ilişkin analizinize bağlı. Ancak algoritmanın beni bağımlı kılan şeyi kavraması – tenis atışları, Türk yemek videoları ve izlemeyi sevdiğim diğer tüm şeyler arasında – bu sütunu bitirme yeteneğim için açık ve mevcut bir tehlike oluşturdu.