Dünyayı şok eden AI ses üretme platformu, istismarla mücadele için bir güncelleme alıyor

ElevenLab'ın ses klonlama özelliği, iyi ve kötü kullanım durumları için uygulamaya konuldu. Son güncelleme kötüye kullanımı durdurabilir mi?

Üretken yapay zeka, metin, sanat, görseller ve hatta konuşma dahil her türlü içeriği üretme yeteneğine sahiptir.

Yapay zeka girişimi ElevenLabs, Ocak ayındaki beta lansmanından bu yana metinden konuşmaya oluşturmayı ve ses klonlamayı destekledi ve bir milyonun üzerinde kayıtlı kullanıcı biriktirdi.

Ayrıca: Meta, arkadaşlarınızın ve sevdiklerinizin seslerini kopyalamak için Voicebox AI'yi tanıttı

Salı günü ElevenLabs, 19 milyon dolarlık A Serisi turunun kapandığını ve platformdaki en büyük tartışmayı ele alacak olanlar da dahil olmak üzere bazı önemli güncellemeleri duyurdu.

Elevenlabs'ın ses üretme teknolojisi piyasaya sürülmesinden bu yana hem olumlu hem de olumsuz sonuçlar doğurdu.

ElevenLabs tarafından tanımlandığı gibi olumlu kullanımlardan bazıları arasında "sesli kitaplar oluşturan bağımsız yazarlar, video oyunlarındaki karakterleri seslendiren geliştiriciler, görme engellilerin çevrimiçi yazılı içeriğe erişmesini desteklemek ve dünyanın ilk yapay zeka radyo kanalına güç vermek" yer alıyor.

Bu kullanım örnekleri olumlu olmasına ve birçok farklı endüstrinin iş süreçlerini ilerletmesine rağmen, aynı derecede zararlı uygulamalar da olmuştur.

Yeni ses oluşturmak için bir kişinin sesinden parçalar alan ses klonlama aracı, hain amaçlarla kullanıldı ve kamuya mal olmuş kişilerin korkunç, ayrımcı ifadeler söylüyormuş gibi görünmesine neden oldu.

Beta sürümünün yayınlanmasından haftalar sonra ElevenLabs, "ses klonlamanın kötüye kullanım vakalarını" ele almak için hemen Twitter'a gitti. Şirket, ek hesap doğrulama, sesin telif hakkını doğrulama, ses klonlamayı ücretli bir seviyeye taşıma ve hatta her isteği manuel olarak doğrulama gibi sorunla mücadele etmenin olası yollarını önerdi.

Ayrıca: Vimeo, video oluşturmayı önemli ölçüde kolaylaştırmak için bir dizi yapay zeka aracı ekler

Bugün, şirketin soruna çözümü gibi görünen yapay zeka konuşma sınıflandırıcısını kamuoyuna duyurdu. Bu araç, yüklenen sesin ElevenLabs'tan yapay zeka tarafından üretilen ses içerip içermediğini çözebilecek.

ElevenLabs, açıklamada "Yapay Zeka Konuşma Sınıflandırıcısının piyasaya sürülmesi, şirketin şeffaflığa yönelik çabasındaki son adımdır ve güvenli, üretken bir medya ortamı yaratma kararlılığının temel taşıdır" dedi.

Aracın duyurulduğu önceki gönderiye göre araç, sesin değiştirilmediğini tespit etmede %99'un üzerinde doğruluk sağlıyor.

Bununla birlikte, yayına göre, ses Codec veya yankı dönüşümlerine tabi tutulursa doğruluk %90'ın üzerine düşer ve içerik ne kadar çok işlenirse doğruluk da o kadar düşer.

Bu araç, kötüye kullanımı engellemez ve yalnızca ilk zarar verildikten sonra kafa karışıklığının giderilmesine yardımcı olabilir. Sorunu çözmedeki etkinliği tartışmalıdır ancak bu küçük bir adımdır.

Bu, yapay zeka nesil teknolojisinin kamuya mal olmuş kişileri hedef almak için kötüye kullanıldığı ilk sefer değil. Örneğin, yapay zekalı bir müzik oluşturucu, sanatçıların hiçbiri pistte olmasa da kulağa gerçekçi gelen bir Drake ve The Weekend işbirliği oluşturmayı başardı.

Ayrıca: Yapay zeka tarafından oluşturulan müzik, müzik ödülü kazanabilir mi? Grammy'ler yeni kuralları açıklıyor

Yapay zeka sanatı ve görüntü oluşturucular, belirli faaliyetlerde bulunan tanınmış kişilerin sahte, gerçekçi görüntülerini oluşturmak için de kullanıldı. Bu görsellerden bazıları olumsuz bir şekilde siyasi propaganda olarak kullanılırken, diğerleri sadece eğlence amaçlı kullanıldı; örneğin Papa Francis'in şişme paltolu meme'i.

ElevenLabs, Yapay Zeka Konuşma Sınıflandırıcısına ek olarak ürün grubuna "Projeler"in de eklendiğini duyurdu.

"Projeler", şu anda erken erişime sunulan, uzun biçimli sözlü içeriği düzenlemeye ve oluşturmaya yönelik bir iş akışıdır. Yayına göre, ses düzenleme ihtiyaçları için tek adres olarak hizmet vermesi ve ses oluşturmaya "Google Dokümanlar düzeyinde basitlik" sağlaması amaçlanıyor.

"Projeler" özelliğinin eklenmesi, Vimeo, TikTok ve Adobe Express gibi diğer yaratıcılık platformlarında gördüklerimize benzer. Tüm bu platformların amacı, yapay zekayı kullanıcı iş akışını optimize edecek ve içeriğin daha kolay, optimize edilmiş şekilde oluşturulmasına olanak sağlayacak şekilde uygulamaktır.