Google, yapay zeka tarafından üretilen metinlerin izini sürebilmek için yepyeni bir teknoloji olan SynthID’yi tanıttı. Artık, görünmez bir watermark (şeffaf iz) ekleyerek yapay zeka tarafından oluşturulan içerikler işaretlenecek. Yani AI tarafından üretilen metinlerin kaynağı, bu gizli işaret sayesinde tespit edilebilecek. İşte detaylar…
Google’dan yapay zeka metinlerine gizli imza: SynthID ile yapay zeka tarafından üretilen içerikler işaretlenecek
Google’ın Responsible GenAI Toolkit isimli araç paketinin bir parçası olarak geliştirilen SynthID, şu anda Hugging Face platformunda ücretsiz olarak indirilebilir durumda. Bu teknoloji, metinlerin doğal akışını bozmadan, içeriğe gizli bir işaret ekliyor. Yani, gözle görülmeyen bu işaret sayesinde bir metnin yapay zeka modeli tarafından mı, yoksa bir insan tarafından mı yazıldığı belirlenebilecek. Peki nasıl çalışıyor?
Yapay zekanın çalışma prensibi metin oluştururken olasılık hesaplamalarına dayanıyor. Her bir kelime ya da karakterin bir olasılık değeri var ve AI, bu değerlere göre metni oluşturuyor. SynthID ise bu olasılık değerleriyle oynayarak yapay zeka tarafından oluşturulmuş metinlerde görünmez bir watermark ekliyor. Kısacası, bir metin yapay zeka tarafından yazıldığında SynthID o metni işaretleyerek bir nevi dijital parmak izi bırakıyor.
Ancak her teknolojide olduğu gibi SynthID’nin de sınırlamaları var. Google, bu teknolojinin özellikle kısa metinlerde, yeniden düzenlenmiş ya da çeviri yapılmış içeriklerde henüz etkili olmadığını kabul ediyor. Ayrıca, gerçek olaylarla ilgili içeriklerde kullanılmaması gerekiyor, çünkü bu gibi durumlarda metnin doğruluğunu bozma riski doğabiliyor. Örneğin, bir yapay zeka tarihi bir olay hakkında bilgi veriyorsa, o olayın doğruluğunu sağlamak için kullanılan token’lara müdahale edilmesi metnin doğruluğunu zayıflatabilir.
Aslında SynthID teknolojisi, Google’ın Gemini yapay zeka modelinde 2023 baharından beri kullanılıyor. Google, bu teknoloji sayesinde yapay zeka içeriklerinin daha şeffaf bir şekilde tespit edilebileceğini belirtiyor. Bu arada,, Google bu konuda tek başına değil. OpenAI da benzer teknolojiler üzerinde çalışıyor ve AI tarafından üretilen içeriklere gizli işaretler eklemeyi planlıyor.
Kısacası SynthID, özellikle içerik üretiminde şeffaflık isteyen kurumlar ve platformlar için oldukça cazip. Henüz kusursuz olmasa da, yapay zekanın yarattığı metinler, artık yalnızca etkileyici ve yaratıcı olmayacak, aynı zamanda izlenebilir ve tanımlanabilir olacak.