TikTok’un yapay zeka sistemi, Gazze ile ilgili videolara alışveriş etiketleri ekliyor.
TikTok, e-ticaret özelliklerini genişletme amacıyla yeni bir yapay zeka sistemi üzerinde testler yapıyor. Bu sistem, videolarda yer alan kıyafet veya nesneleri tanıyarak, benzer ürünleri TikTok Shop üzerinden kullanıcıların beğenisine sunuyor. İlk aşamada kullanıcı deneyimini zenginleştirmeyi hedefleyen bu uygulama, özellikle içerik türleri nedeniyle eleştirilere maruz kaldı. Gazze’den gelen videolarda ürün önerilerinin görünmesi, toplumsal hassasiyetler açısından önemli tartışmalara yol açtı.
The Verge’e göre, Gazze’de bir kadının ailesini enkaz arasında aradığı sırada görüntülenen videoda aniden benzer elbiselerin listelenmesi dikkat çekti. Görüntünün ticari bir vitrin olarak sunulması izleyicilerde olumsuz tepkilere yol açtı. Ancak sistem, içeriklerin dramatik bağlamını dikkate almadan çalışıyor. Bu yüzden, kullanıcıların empati kurmaya çalıştığı sahneler bile alışverişe yönlendiren pencerelere dönüşüyor. Ayrıca, markaların istemeden bu tür içeriklerle ilişkilendirilmesi büyük bir risk oluşturuyor.
TikTok algoritması, bağlamı göz ardı ederek içerikleri vitrine dönüştürüyor
Yeni özellik, kullanıcıların videoyu durdurduğu andan itibaren devreye giriyor. Ekranda beliren “Benzerini Bul” seçeneği, kıyafet ve aksesuar önerilerini doğrudan sıralıyor. Sistem şu anda sınırlı bir kullanıcı grubuyla test ediliyor ve zamanla yaygınlaştırılması planlanıyor. Ancak, özelliğin içerik türleriyle ilgili hiçbir kısıtlama getirmemesi endişe yaratıyor. Çünkü hassas sahne ve alışveriş öğelerinin yan yana gelmesi, etik sorunların görünürlüğünü artırıyor.
TikTok, son dönemde Shop entegrasyonunu ABD ve Avrupa’da güçlendirmeye çalışıyor. Canlı yayınlar üzerinden ürün satışı bu girişimlerden biri oldu. Şimdi, yapay zeka destekli olarak her videoya potansiyel bir alışveriş kapısı ekleniyor. Fakat toplumsal boyutu olan içeriklerde sistemin eksiklikleri daha belirgin hale geliyor. Bu durum, platformun sosyal sorumluluk bilincine dair yeni tartışmaların ortaya çıkmasına yol açıyor.
Uzmanlara göre böyle bir sistem, izleyici ile içerik arasında ciddi bir kopukluk yaratıyor. Bir yıkım görüntüsünü izlerken aynı anda alışverişe yönlendirilmesi, duyarsızlık olarak algılanabiliyor. Ayrıca, markaların bu tür içeriklerle istemsiz eşleştirilmesi güven kaybı yaratabilir. TikTok henüz bir açıklama yapmamış olsa da, kamuoyunda oluşan baskı artarsa şirketin yeni kısıtlamalar getirmek zorunda kalabileceği düşünülüyor. Tüm bunların yanında, kullanıcı deneyimi de olumsuz etkilenebilir.
Özelliğin hangi içeriklerde aktif olacağı belirsiz. Gazze’deki örnek, bu belirsizliğin tehlikeli sonuçlarını gözler önüne seriyor. Kullanıcı deneyiminin, ticari önerilerle birleştiğinde güven duygusunu zedelemesi muhtemel. Aynı zamanda içerik üreticileri de paylaşımlarının böyle bağlam dışı yorumlanmasından endişe duyuyor. Bu nedenle, sistemin denetim mekanizmalarının daha güçlü hale getirilmesi gerekiyor.
Sosyal medya şirketleri, içerik denetimi konusunda uzun bir süredir eleştirilerin hedefi. TikTok’un bu yeni denemesi, bu eleştirileri daha da artırmış görünüyor. Hassas sahnelerin ve alışveriş öğelerinin aynı ekranda bir araya getirilmesi, kullanıcıların güvenini sarsmakta. Üstelik, algoritmanın geliştirilmesi sürecinde etik konuların ikinci planda kalması gözlemleniyor. Her şeye rağmen, şirketin bu konuda düzenlemeler yapması bekleniyor.
Bazı uzmanlar, sistemi tamamen kapatmak yerine belirli filtrelerle sınırlamanın daha makul olacağı görüşündeler. Özellikle savaş, afet veya toplumsal olaylara dair içerikler için otomatik ticari önerilerin engellenmesi gerektiği ifade ediliyor. Aksi takdirde, hem etik hem de ticari krizlerin yaşanma ihtimali artıyor. Ayrıca, kullanıcıların platforma olan güveninin azalması kaçınılmaz görünüyor. TikTok’un bu eleştiriler karşısında nasıl bir yol izlediği ise belirsizliğini koruyor.
Gazze’deki görüntülerle başlayan tartışmalar, gelecekte farklı coğrafyalara da yayılabilir. Çünkü sistem daha geniş bir kullanıcı grubuna yayıldığında benzer sorunların yaşanma olasılığı artıyor. Teknolojinin bu bağlamı göz ardı etmesi, kullanıcı deneyimini sürekli olarak risk altına sokabilir. Ayrıca izleyicilerin sosyal medyadaki etkileşim biçimleri de değişebilir; ancak bu değişimin hangi yönde olacağı henüz netlik kazanmış değil.
