Ev
panorama
Cinselleştirme ve sanat hırsızlığı: AI uygulaması Lensa eleştirildi
İnternet kullanıcılarının fotoğrafları haftalarca Lensa tarafından düzenlendi – şimdi uygulama eleştiriliyor. Telif hakkı, veri koruma ve cinsiyetçilikle ilgili.
Franz Becki
Sanatsal olarak yabancılaşmış kendi yüzünüz: Birçokları için uygulamanın arkasındaki çekicilik budur.Montaj: Salvatore Saba/Berliner Zeitung
Tek yapmanız gereken bir uygulama indirmek, birkaç düzine fotoğrafınızı yüklemek ve yola koyulmak: yarım saat sonra, yapay zeka tarafından oluşturulmuş 50’ye kadar fotoğraf ortaya çıkıyor. Geçen yılın sonunda bu, kelimenin tam anlamıyla bu tür “avatar fotoğrafları” ile dolup taşan sosyal medyada büyük bir aldatmacaydı. İstatistik platformu Statista’ya göre Kasım ve Aralık 2022 arasında yaklaşık altı milyon kez indirilen Lensa AI uygulaması özellikle iyi biliniyor.
Uzun zamandır havalı ve eğlenceli olduğu düşünülen şey, şimdi giderek daha fazla sorgulanıyor: Lensa uygulamasının arkasındaki AI teknolojisi, bazı kullanıcıların bildirdiği gibi kendinizi cinselleştirmekten bazen sorgulanabilir bir Veri koruma beyannamesine kadar riskler barındırıyor. çoğu zaman durum, okunmamış kabul edilir. Sanatçılar, genellikle belirli bir sanatçının stilindeki görüntüleri değiştiren Lensa uygulamasını da eleştiriyor; Telif hakları, uygulamanın operatörleri tarafından ihlal edilecektir.
Lensa nedir ve bu uygulamayı kim geliştirdi?
Lensa, özçekimleri avatarlara, yani görünüşü gerçek kişininkine dayanan dijital proxy’lere dönüştüren bir fotoğraf düzenleme uygulamasıdır. Yazılım, fotoğrafları düzenlemek için de kullanılabilir. Hizmet yalnızca yedi gün boyunca ücretsizdir ve bundan sonra kullanıcıların yıllık abonelik için 49,99 Euro ödemesi gerekir. Bununla birlikte, uygulama hızla iPhone ve Android mağaza listelerinde üst sıralara yükseldi.
Lensa sadece birkaç aydır çok fazla tartışma konusu olsa da, uygulama yeni değil. Prisma Labs tarafından 2018 yılında geliştirilmiştir. Bu şirket Silikon Vadisi’nde bulunuyor ve 2016 yılında beş Rus yazılım geliştiricisi tarafından kuruldu: Alexey Moiseenkov, Oleg Poyaganov, Ilya Frolov, Andrey Usoltsev ve Aram Hardy. Moiseenkov, 2018’de Prisma Labs’ın CEO’luğundan istifa etti ve o zamandan beri Usoltsev’in başkanlığını yaptığı şirketten ayrıldı.
Kullanıcılar neden uygulama tarafından cinselleştirilmiş hissediyor?
Özellikle kadın kullanıcıların Lensa uygulaması tarafından cinselleştirildiği artık daha sık söyleniyor. Uygulamayı deneyen yapay zeka uzmanı Melissa Heikkilä, çevrimiçi dergi MIT Technology Review için yazdığı bir makalede, “Oluşturulan 100 avatardan 16’sı gömleksizdi ve diğer 14’ü beni şeffaf elbiseler ve erotik pozlar içinde gösterdi” diye yazdı. “Yeterince tuhaf, uygulamaya erkek olduğumu söylediğim daha gerçekçi portreler elde ettim.”
Gizlilik politikasını kim okur?
Ayrıca uygulamaya düzenlenmek üzere yüklenen fotoğraflara gerçekte ne olduğu sorusu da gündeme geliyor. Bu, veri koruma düzenlemelerinde yer almaktadır, ancak deneyimler, bunların nadiren bütünüyle okunduğunu göstermiştir. 15 Aralık’a kadar, düzenlemelere bakıldığında açıkça görülüyordu: Evet, Lensa, uygulamanın arkasındaki yapay zekayı daha fazla eğitmek için yüklenen fotoğrafları da kullanabilir.
Veri koruma düzenlemeleri başlangıçta fotoğrafların filtreler ve efektler dışında hiçbir şey için kullanılmayacağını belirtiyordu. Bununla birlikte, “nörolojik ağ algoritmalarının eğitimi” veya “Lensa’nın işlevselliğini optimize etmek ve izlemek için” kullanım gibi birkaç istisna listelenmiştir. Hükümler daha sonra Aralık ayı ortasında değiştirildi – muhtemelen yine bunlara yönelik eleştiriler gündeme geldiği için. Bugün diyor ki: “Verilerinizi yapay zekayı eğitmek için kullanmıyoruz”.
AI Yasasına ne oldu?
Yıllardır sözde AI Yasası Almanya’da ve aynı zamanda AB düzeyinde tartışıldı; AI teknolojileri ile ilgili olarak kullanıcıları çeşitli şekillerde korumayı amaçlayan bir düzenleme. Ancak sorumlular, yapay zekanın gerçekte ne olduğunun saf tanımıyla zor anlar yaşıyor. Ve Lensa gibi tekliflerin yanı sıra metinleri bağımsız olarak geliştiren ChatGPT sohbet botu ile ilgili olarak, teknolojik ilerleme genellikle o kadar hızlı görünüyor ki, zamanında düzenlenmesi neredeyse imkansız.
Teknoloji nasıl çalışır?
Lensa uygulamasında teknoloji nasıl çalışıyor? Lensa, Kararlı Difüzyon (SD) olarak bilinen bir teknoloji kullanır. Bu, tabiri caizse, “derin öğrenme metinden görüntüye üreteci” dir. Temel olarak, bu tür teknoloji, metinsel açıklamalara dayalı ayrıntılı görüntüler oluşturmak için kullanılır; Yazılım ayrıca çizgi film benzeri avatarlar da oluşturabilir. Bunun çalışması için, internet ortak tarama verilerinden türetilen halka açık bir veri seti olan LAION-5B’den görüntü ve etiket çiftleri kullanılarak kararlı difüzyon eğitildi.
Daha kolay çevrilmesi şu anlama gelir: Yazılım, kaynağı ne olursa olsun internetten otomatik olarak alınan çok sayıda görüntüyle beslenir. Sanatçı Megan Rae Schroeder, Aralık ayında viral olan bir tweet’te “Stable Diffusion, teknolojiyi kar amacı gütmeyen amaçlarla geliştirdiği iddiasıyla binlerce görüntünün telif hakkını atlatmayı başardı” yorumunu yaptı. “Bu açık kaynak modelini kullanan şirketler aslında kar elde ederken, SD’nin ‘etik ve yasal’ olduğu iddia edildi.”
panorama
Cinselleştirme ve sanat hırsızlığı: AI uygulaması Lensa eleştirildi
İnternet kullanıcılarının fotoğrafları haftalarca Lensa tarafından düzenlendi – şimdi uygulama eleştiriliyor. Telif hakkı, veri koruma ve cinsiyetçilikle ilgili.
Franz Becki
Sanatsal olarak yabancılaşmış kendi yüzünüz: Birçokları için uygulamanın arkasındaki çekicilik budur.Montaj: Salvatore Saba/Berliner Zeitung
Tek yapmanız gereken bir uygulama indirmek, birkaç düzine fotoğrafınızı yüklemek ve yola koyulmak: yarım saat sonra, yapay zeka tarafından oluşturulmuş 50’ye kadar fotoğraf ortaya çıkıyor. Geçen yılın sonunda bu, kelimenin tam anlamıyla bu tür “avatar fotoğrafları” ile dolup taşan sosyal medyada büyük bir aldatmacaydı. İstatistik platformu Statista’ya göre Kasım ve Aralık 2022 arasında yaklaşık altı milyon kez indirilen Lensa AI uygulaması özellikle iyi biliniyor.
Uzun zamandır havalı ve eğlenceli olduğu düşünülen şey, şimdi giderek daha fazla sorgulanıyor: Lensa uygulamasının arkasındaki AI teknolojisi, bazı kullanıcıların bildirdiği gibi kendinizi cinselleştirmekten bazen sorgulanabilir bir Veri koruma beyannamesine kadar riskler barındırıyor. çoğu zaman durum, okunmamış kabul edilir. Sanatçılar, genellikle belirli bir sanatçının stilindeki görüntüleri değiştiren Lensa uygulamasını da eleştiriyor; Telif hakları, uygulamanın operatörleri tarafından ihlal edilecektir.
Lensa nedir ve bu uygulamayı kim geliştirdi?
Lensa, özçekimleri avatarlara, yani görünüşü gerçek kişininkine dayanan dijital proxy’lere dönüştüren bir fotoğraf düzenleme uygulamasıdır. Yazılım, fotoğrafları düzenlemek için de kullanılabilir. Hizmet yalnızca yedi gün boyunca ücretsizdir ve bundan sonra kullanıcıların yıllık abonelik için 49,99 Euro ödemesi gerekir. Bununla birlikte, uygulama hızla iPhone ve Android mağaza listelerinde üst sıralara yükseldi.
Lensa sadece birkaç aydır çok fazla tartışma konusu olsa da, uygulama yeni değil. Prisma Labs tarafından 2018 yılında geliştirilmiştir. Bu şirket Silikon Vadisi’nde bulunuyor ve 2016 yılında beş Rus yazılım geliştiricisi tarafından kuruldu: Alexey Moiseenkov, Oleg Poyaganov, Ilya Frolov, Andrey Usoltsev ve Aram Hardy. Moiseenkov, 2018’de Prisma Labs’ın CEO’luğundan istifa etti ve o zamandan beri Usoltsev’in başkanlığını yaptığı şirketten ayrıldı.
Kullanıcılar neden uygulama tarafından cinselleştirilmiş hissediyor?
Özellikle kadın kullanıcıların Lensa uygulaması tarafından cinselleştirildiği artık daha sık söyleniyor. Uygulamayı deneyen yapay zeka uzmanı Melissa Heikkilä, çevrimiçi dergi MIT Technology Review için yazdığı bir makalede, “Oluşturulan 100 avatardan 16’sı gömleksizdi ve diğer 14’ü beni şeffaf elbiseler ve erotik pozlar içinde gösterdi” diye yazdı. “Yeterince tuhaf, uygulamaya erkek olduğumu söylediğim daha gerçekçi portreler elde ettim.”
Lensa, iyi olduğun tek şeyin büyük göğüsler olduğunu söyledipic.twitter.com/2tRIh7XhrM
— Lexi ⁷(@lexinlindsey) 9 Aralık 2022
Gizlilik politikasını kim okur?
Ayrıca uygulamaya düzenlenmek üzere yüklenen fotoğraflara gerçekte ne olduğu sorusu da gündeme geliyor. Bu, veri koruma düzenlemelerinde yer almaktadır, ancak deneyimler, bunların nadiren bütünüyle okunduğunu göstermiştir. 15 Aralık’a kadar, düzenlemelere bakıldığında açıkça görülüyordu: Evet, Lensa, uygulamanın arkasındaki yapay zekayı daha fazla eğitmek için yüklenen fotoğrafları da kullanabilir.
Veri koruma düzenlemeleri başlangıçta fotoğrafların filtreler ve efektler dışında hiçbir şey için kullanılmayacağını belirtiyordu. Bununla birlikte, “nörolojik ağ algoritmalarının eğitimi” veya “Lensa’nın işlevselliğini optimize etmek ve izlemek için” kullanım gibi birkaç istisna listelenmiştir. Hükümler daha sonra Aralık ayı ortasında değiştirildi – muhtemelen yine bunlara yönelik eleştiriler gündeme geldiği için. Bugün diyor ki: “Verilerinizi yapay zekayı eğitmek için kullanmıyoruz”.
AI Yasasına ne oldu?
Yıllardır sözde AI Yasası Almanya’da ve aynı zamanda AB düzeyinde tartışıldı; AI teknolojileri ile ilgili olarak kullanıcıları çeşitli şekillerde korumayı amaçlayan bir düzenleme. Ancak sorumlular, yapay zekanın gerçekte ne olduğunun saf tanımıyla zor anlar yaşıyor. Ve Lensa gibi tekliflerin yanı sıra metinleri bağımsız olarak geliştiren ChatGPT sohbet botu ile ilgili olarak, teknolojik ilerleme genellikle o kadar hızlı görünüyor ki, zamanında düzenlenmesi neredeyse imkansız.
Teknoloji nasıl çalışır?
Lensa uygulamasında teknoloji nasıl çalışıyor? Lensa, Kararlı Difüzyon (SD) olarak bilinen bir teknoloji kullanır. Bu, tabiri caizse, “derin öğrenme metinden görüntüye üreteci” dir. Temel olarak, bu tür teknoloji, metinsel açıklamalara dayalı ayrıntılı görüntüler oluşturmak için kullanılır; Yazılım ayrıca çizgi film benzeri avatarlar da oluşturabilir. Bunun çalışması için, internet ortak tarama verilerinden türetilen halka açık bir veri seti olan LAION-5B’den görüntü ve etiket çiftleri kullanılarak kararlı difüzyon eğitildi.
Daha kolay çevrilmesi şu anlama gelir: Yazılım, kaynağı ne olursa olsun internetten otomatik olarak alınan çok sayıda görüntüyle beslenir. Sanatçı Megan Rae Schroeder, Aralık ayında viral olan bir tweet’te “Stable Diffusion, teknolojiyi kar amacı gütmeyen amaçlarla geliştirdiği iddiasıyla binlerce görüntünün telif hakkını atlatmayı başardı” yorumunu yaptı. “Bu açık kaynak modelini kullanan şirketler aslında kar elde ederken, SD’nin ‘etik ve yasal’ olduğu iddia edildi.”