TikTok, hükümet yasaklarının yenilenen tehditleriyle karşı karşıya kaldığı için bir şeffaflık merkezi açtı

Bu Salı, yakın tarihli çekicilik saldırgan TikTok, Washington DC’de Amerikalı politika yapıcıları, düzenleyicileri ve sivil toplum liderlerini etkilemek için oluşturduğu yeni merkezini tanıtmak üzere Los Angeles genel merkezinde gazetecileri ağırladı.

“Buradaki wifi ağına katılmak ne kadar ulusal güvenlik tehdidi?” NPR teknoloji muhabiri Bobby Allyn, benimle ve diğer katılımcılarla yönetici sunumlarının başlamasını beklerken şaka yaptı. TikTok çalışanları, Allyn onlara sadece şaka yaptığına dair güvence verene kadar ne söyleyeceklerini bilemiyor gibiydi.

Borsa, dostça basın davetinin altında yatan gerilimi ortaya çıkardı: 130 milyondan fazla Amerikalı tarafından kullanılan ve giderek daha etkili bir sosyal medya uygulaması olan TikTok, ana şirketinin Çin ile olan bağları nedeniyle ABD’de yoğun siyasi incelemeyle karşı karşıya. Üç yıldan biraz daha kısa bir süre sonra Başkan Donald Trump yasaklamaya çalıştı, şirketin ABD’li düzenleyicilerle müzakereleri durdu ve ulusal bir yasak için yenilenen çağrılarla karşı karşıya. Çoktan, 17 ABD eyaleti uygulamayı yasakladı devlet tarafından verilen cihazlardan.

TikTok’un yeni Los Angeles Şeffaflık ve Hesap Verebilirlik Merkezi, son derece popüler olan uygulamanın Çin hükümeti yanlısı mesajlaşmayı veya yanlış bilgilendirmeyi teşvik etmek için silah haline getirilebileceğine dair endişeler nedeniyle tartışmalara yol açan TikTok’un algoritmalarına ve içerik denetleme uygulamalarına perde arkası bir bakış sunuyor.

TikTok’un algoritmaları ve içerik moderasyonu hakkında sunduğu bilgiler özellikle aydınlatıcı değildi, ancak ABD operasyonlarının bir kısmını Çin’den ayırma planı hakkında paylaştığı detaylar, hala bir Çinli şirkete aitti. Etkinlik ayrıca muhabirlere, TikTok çalışanlarının geniş bir kesimine içerik politikaları ve algoritmaları hakkında sorular sorma fırsatı da sundu.

TikTok COO’su Vanessa Pappas, muhabirlere yaptığı açılış konuşmasında, TikTok ile ilgili herhangi bir özel siyasi kaygıdan bahsetmeden, sosyal medya platformlarının dijital yaşamımızın bazı bölümleri üzerindeki gücü hakkındaki genel şüpheleri kabul etti.

Pappas, Big Tech’in “algoritmaların nasıl çalıştığını, moderasyon politikalarının nasıl çalıştığını ve sistemlerin veri akışlarını” kontrol etmedeki rolü hakkında “Eleştiriyi gerçekten anlıyoruz” dedi.

Ancak Pappas, TikTok’un yeni merkezi gibi girişimler ve TikTok’un API’sini araştırmacılara açmaya başlamak gibi diğer girişimleri uygulama planları ile “benzeri görülmemiş düzeyde şeffaflık” dediği şeyi sunarak bu endişeyi giderdiğini söyledi.

odadaki fil

Hepimizin TikTok’un ofislerinde olmamızın büyük bir nedeni var: Çin. Ancak Pappas ve şirketin diğer liderleri, kayıtlardaki açıklamalarında hiçbir zaman “Çin” demediler.

TikTok’un sahibi Çinli bir şirket olan ByteDance, TikTok uygulamasının Çin’de Douyin adlı kendi versiyonunu işletiyor.

Eleştirmenler, Çinlilerin sahip olduğu herhangi bir şirketin borçlu olduğunu uzun süredir tartışıyorlar. Çin’in ulusal güvenlik yasalarıBu, ByteDance çalışanlarının Amerikalıları gözetlemeye veya Çin hükümetinin hizmetinde TikTok’un tavsiye algoritmalarını manipüle etmeye zorlanabileceği anlamına geliyor. Çin hükümetinin doğrudan TikTok’tan veya ana şirketinden Amerikan kullanıcı verilerini talep ettiğine dair bir kanıt bulunmamakla birlikte, soruşturmacı BuzzFeed News tarafından raporlama Haziran 2022 gibi yakın bir tarihte Çinli TikTok çalışanlarının ABD’li kullanıcıların verilerine erişebileceğini ortaya çıkardı.

Salı günkü etkinlikte TikTok, Çin hükümetinin etkisinde kalmayacağı konusunda halka nasıl güvence vermeyi planladığı hakkında daha fazla bilgi paylaştı. Onun “Teksas Projesi” daha önce TikTok’un yabancı sunucularında depolanan tüm ABD verilerini ABD’ye taşımak için Teksas merkezli teknoloji devi Oracle ile büyük bir ortaklık. Proje ayrıca, algoritmalarını denetlemek üzere Oracle’dan gelenler de dahil olmak üzere dışarıdan bir ekibin davet edilmesini de içeriyor.

Projenin diğer bir kısmı, uygulamanın içerik moderasyon politikalarını denetleyecek, TikTok’un öneri motorunu ABD kullanıcı verileriyle eğitecek ve editoryal kararları yetkilendirecek olan TikTok US Data Security (USDS) adlı yeni bir yan kuruluş oluşturacak. TikTok’un planına göre USDS çalışanları, güçlü ulusal güvenlik ve siber güvenlik kimlik bilgilerine sahip, henüz kesinleşmemiş bağımsız bir yönetim kuruluna rapor verecek.

Bunların hepsi TikTok’un yayınlanmasından yaklaşık bir ay sonra geliyor. Forbes muhabirini gözetlediği ortaya çıktı Projeyle ilgili sızan detayları takip eden Emily Baker White. TikTok, çalışanlarından birkaçının, özel kaynaklarını belirlemek ve izini sürmek amacıyla diğer bazı gazetecilerin yanı sıra White’ın özel kullanıcı verilerine uygunsuz bir şekilde eriştiğini kabul etti. Şirket gözetlemeye karışan çalışanları kovdu ve kullanıcı verilerini elde etmek için “yetkilerini kötüye kullandıklarını” ancak olayın şirket hakkında yalnızca şüpheleri artırdığını söyledi.

Bu şüpheler, TikTok’un ABD’deki Yabancı Yatırım Komitesi veya CFIUS ile müzakerelerinin uzamasında bir faktör olabilir. CFIUS, ticari anlaşmaların ABD ulusal güvenliği için bir tehdit olup olmadığını inceleyen bir kurumlar arası hükümet komitesidir. CFIUS, ByteDance’in TikTok ile Musical.ly şirketinin 2017’deki birleşmesini gözden geçiriyor, ona anlaşmayı bozma gücü vermek ve TikTok’u bir ABD şirketine satış yapmaya zorlayın. Hem TikTok hem de CFIUS anlaşmaya yakın olduğu bildirildi Bu senaryodan kaçınmak için, ancak müzakereler durdu.

Gecikmede Çin ve ABD arasındaki siyasi gerginliğin rol oynadığı geniş çapta kabul görüyor. Anlaşmayı imzalaması gereken Başkan Biden da dahil olmak üzere siyasi ajanslar veya seçilmiş yetkililer için Çin yanlısı olarak görülen herhangi bir şeyi desteklemek için iyi bir zaman değil.

“TikTok, bunun gerçekten politik bir mesele olduğunu fark etti. Georgetown Üniversitesi’nde hukuk ve teknoloji profesörü olan Anupam Chander, “Bu, ulusal güvenlik yetkililerini ikna etmekten çok politikacıları ikna etmekle ilgili” dedi.

Chander, akademisyenler, lobiciler ve verilerden oluşan küçük bir grubun parçasıydı. TikTok’un bilgilendirdiği gizlilik uzmanları birkaç hafta önce Washington, DC’deki Project Texas hakkında. Chander, zorluğun “bugün belirli siyasi çevrelerde Çin ile olan tüm bağların zehirli olması” olduğunu söyledi.

Bu, TikTok yöneticilerinin Salı günü neden Çin’den bahsetmekten kaçındığını açıklayabilir.

Kaputun altına girmek

TikTok’un yeni Şeffaflık ve Hesap Verebilirlik Merkezi, gazetecilere anlaşılması zor öneri algoritması hakkında ayrıntılar ve uygulamanın içeriği nasıl denetlediğine dair bazı somut örnekler sundu, ancak aydınlatıcı hiçbir şey bulamadı.

Merkezdeki bir öğretici tamamen TikTok’un “kod simülatörü” adı verilen öneri algoritmasıyla ilgiliydi. Uygulamayı ilk açtığınızda size TikTok’un ilginizi çekebileceğini düşündüğü trend konuların sekiz videosunun gösterildiğini açıkladı. Ardından, uygulama, beğendiğiniz, görüntülediğiniz ve ve paylaşılanlar, hangi hesapları takip ettiğiniz ve benzer demografinizdeki kişilerin nelerle ilgilendikleri. Eğitimde, bu içeriği öneren makine öğrenimi modellerini programlamak için kullanılan kod parçacıkları gösterildi.

Şirin Ghaffari

İkinci – ve daha ilgi çekici – eğitici alıştırma, TikTok’ta tartışmalı içeriği denetlemenin nasıl bir şey olduğuna dair bir simülasyondu. Bir videoda, kollarıyla gergin hareketler yapan bir adam gösteriliyordu ve altında bir doz aşı olduğunu söylüyordu – kahkahalar atıyordu. Videonun yanında, TikTok’un yanlış bilgilendirme politikalarını detaylandıran bir ekran yer alıyor. (Mizah olarak kabul edildiğinden ve gerçek sağlıkla ilgili yanlış bilgilendirme olmadığından video onları ihlal etmiyordu.)

Alıştırma, TikTok’un dünya çapında güven ve emniyet üzerinde çalışan 10.000’den fazla insanının her gün yapmak zorunda olduğu zorlu çağrıları daha iyi anlamamı sağladı. Ancak TikTok’un yönergelerini oluşturma ve algoritmasını tasarlama süreci hakkında daha fazla bilgi edinmek istedim: TikTok’ta hangi içeriğin daha fazla kişi tarafından görüleceğine kim karar veriyor ve uygulama belirli içeriği ne zaman öne çıkaracağına veya indireceğine nasıl karar veriyor?

TikTok çalışanları bana, uygulamanın platformundaki videoların yalnızca yüzde 0,002’sini tanıttığını ve bu kararların, hangi videoların trend olma potansiyeline sahip olduğunu belirleyen içerik programlama ekibi tarafından alındığını söyledi. Verdikleri bir örnek, grubun TikTok’a ilk katıldığında şirketin Rolling Stones’a manuel olarak nasıl destek verdiğiydi.

TikTok, bazı dış uzmanlara daha ayrıntılı gizli ayrıntılara erişim sağladığını söyledi: tüm kaynak kodu ve belirli trend içerikleri manuel olarak tanıtmak için yaptığı istisnalarla ilgili ayrıntılar, Maryland’deki ayrı, çok gizli bir odada (siz girmek için bir NDA imzalamanız gerekir). Şirket ayrıca Oracle çalışanlarının TikTok’un kodunu Maryland’deki ayrı bir şeffaflık merkezinde incelediğini söyledi.

TikTok’un şeffaflık merkezi, şirketin ve uygulamasının nasıl çalıştığına dair biraz daha fazla fikir verse de, şirket içinde içerik, veri ve moderasyon kararlarının tam olarak nasıl alındığı hakkında hala bilmediğimiz çok şey var.

Şirin Ghaffari

Öte yandan TikTok, veri uygulamalarına ve algoritmalarına ışık tutmaya çalışmak için bazı yeni yaklaşımlar benimsiyor. TikTok’un USDS planına göre, bir grup Oracle çalışanı ve güvenlik uzmanının, uygulamada oturum açtıklarında her gün milyonlarca insanın gördüklerini dikte eden şirketin özel algoritmalarını izlemesi gerekiyor. Facebook veya YouTube için bu düzeyde bir dış hesap verebilirliğe sahip değiliz. Meta ve Google gibi şirketler de çevrimiçi olarak büyük miktarda kişisel bilgimizi takip ediyor ancak Amerikan şirketleri oldukları için TikTok kadar ulusal güvenlik kaygısı taşımıyorlar. TikTok artık siyasi zorunluluktan bilgi paylaşıyor olsa bile, herhangi bir bilgi paylaşmaları toplum için net bir pozitif.

TikTok’un Capitol Hill’deki fikirleri değiştirip değiştirmeyeceği henüz görülmedi. Bu son girişimler bir ilk adım olsa da, TikTok’un en güçlü şüphecilerini ikna etmek için çok daha fazlası – ve dış ortakların ve uzmanların onaylanması – gerekecek.