Stanford Üniversitesi'nden bir “yanlış bilgi uzmanı”, daha sonra Minnesota Başsavcısı Keith Ellison tarafından siyasi suçlamalı bir davada kullanılacak ifadeyi oluşturmak için yapay zeka (AI) kullanmakla suçlandı.
İletişim profesörü ve övülen okulun Sosyal Medya Laboratuvarı'nın kurucusu Jeff Hancock, Christopher Kohls adlı hicivli muhafazakar bir YouTuber'ın dahil olduğu bir davada uzman beyanında bulundu. Dava, Minnesota'nın siyasi deepfake'lere yönelik son yasağıyla ilgili ve davacılar bunun ifade özgürlüğüne bir saldırı olduğunu öne sürüyor.
Hancock'un ifadesi, yasayı savunan Ellison tarafından mahkemeye sunuldu. Stanford'un web sitesine göre Hancock, “metin ve e-posta göndermekten sahte çevrimiçi incelemeleri tespit etmeye kadar insanların teknolojiyle aldatmacayı nasıl kullandıklarına ilişkin araştırmasıyla tanınıyor”.
Ancak davacının avukatları, Hancock'un sahte bir çalışmaya atıfta bulunduğunu iddia ederek, davaya bakan Minnesota federal yargıcından ifadenin reddedilmesini istedi.
YAPAY ZEKA (AI) NEDİR?
Bir Stanford profesörü, uzman beyanı yazmak için yapay zeka dil modelini kullanmakla suçlanıyor. (Getty Images)
“[The] Avukatlar, 36 sayfalık yakın tarihli bir notta, Prof. Jeff Hancock'un beyanında var olmayan bir çalışmadan alıntı yapıldığını ileri sürdüler. “Başlığında bir makale yok.”
“Çalışma”nın adı “Deepfake Videoların Siyasi Tutumlar ve Davranışlar Üzerindeki Etkisi” idi ve iddiaya göre Bilgi Teknolojileri ve Politika Dergisi. 16 Kasım tarihli dosyada derginin orijinal olduğu ancak bu isimle hiçbir çalışma yayınlamadığı belirtiliyor.
Avukatlar, “Yayın mevcut ancak alıntı yapılan sayfalar ilgisiz makalelere ait” dedi. “Muhtemelen çalışma, ChatGPT gibi yapay zekalı büyük bir dil modelinin ürettiği bir 'halüsinasyon'du.”
“Davacılar bu halüsinasyonun Hancock'un beyanında nasıl sonuçlandığını bilmiyorlar, ancak özellikle yorumların büyük bir kısmı herhangi bir metodoloji veya analitik mantık içermediğinde, bu durum tüm belgeyi sorgulanır hale getiriyor.”
Belge ayrıca Ellison'a da sesleniyor ve “Ellison'ın en çok dayandığı sonuçların arkasında hiçbir metodoloji olmadığını ve tamamen uzmanların görüşlerinden oluştuğunu” savunuyor.
Notta, “Hancock, 21. paragraftaki önermeye benzer gerçek bir çalışmadan alıntı yapabilirdi.” ifadesi yer alıyor. “Ancak kurgusal bir alıntının varlığı Hancock (veya yardımcıları), tüm beyanın kalitesini ve doğruluğunu sorgulayan çağrılara tıklama zahmetine bile girmedi.”
'SOSYAL KANSER' OLARAK ADLANDIRILAN 'WOKE' YAPAY ZEKA İÇİN BİDEN YÖNETİM EMRİ
Microsoft Bing Chat ve ChatGPT AI sohbet uygulamaları, 21 Temmuz 2023'te Polonya'nın Varşova kentindeki bu fotoğraf illüstrasyonunda bir mobil cihazda görülüyor. (Getty Images aracılığıyla Jaap Arriens/NurPhoto)
Memorandum ayrıca alıntının sahte olduğu iddiasını da güçlendiriyor ve avukatların çalışmayı bulmak için çok sayıda arama yaptığına dikkat çekiyor.
Belgede, “İddia edilen makalenin başlığı ve hatta küçük bir kısmı, en yaygın kullanılan arama motorları olan Google ve Bing tarafından indekslenmiş haliyle internetin hiçbir yerinde görünmüyor.” ifadesine yer veriliyor. “Akademik makaleler ve patent yayınları için özel bir arama motoru olan Google Akademik'te arama yapıldığında, 'Hwang' tarafından yazılan alıntının açıklamasıyla eşleşen hiçbir makale ortaya çıkmıyor [the purported author] Buna 'deepfake' terimi de dahildir.”
Dosyalamada daha sonra açıkça “Belki de bu sadece bir kopyala-yapıştır hatasıydı? Değil” ifadesi yer alıyor. “Makale mevcut değil.”
Avukatlar, beyanın kısmen uydurma olması durumunda tamamen güvenilmez olduğu ve mahkeme incelemesinden çıkarılması gerektiği sonucuna vardı.
Belgede şu sonuca varılıyor: “Prof. Hancock'un beyanı bütünüyle hariç tutulmalıdır, çünkü en azından bir kısmı muhtemelen bir yapay zeka modeli tarafından üretilmiş ve nihai iddialarını sorgulayan uydurma materyale dayanmaktadır.” “Mahkeme uydurmanın kaynağını araştırabilir ve ek işlem yapılması gerekebilir.”
Minnesota Başsavcısı Keith Ellison, 21 Ağustos 2024'te Chicago, Illinois'deki United Center'daki Demokratik Ulusal Kongre'nin üçüncü gününde sahneye konuşmak için geldi. (Getty Images)
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
Haberler Digital, yorum almak için Ellison, Hancock ve Stanford Üniversitesi'ne ulaştı.
Andrea Margolis, Haberler Digital ve Fox Business'ta yazardır. Okuyucular hikaye ipuçlarını andrea.margolis@haberler adresine gönderebilir..
İletişim profesörü ve övülen okulun Sosyal Medya Laboratuvarı'nın kurucusu Jeff Hancock, Christopher Kohls adlı hicivli muhafazakar bir YouTuber'ın dahil olduğu bir davada uzman beyanında bulundu. Dava, Minnesota'nın siyasi deepfake'lere yönelik son yasağıyla ilgili ve davacılar bunun ifade özgürlüğüne bir saldırı olduğunu öne sürüyor.
Hancock'un ifadesi, yasayı savunan Ellison tarafından mahkemeye sunuldu. Stanford'un web sitesine göre Hancock, “metin ve e-posta göndermekten sahte çevrimiçi incelemeleri tespit etmeye kadar insanların teknolojiyle aldatmacayı nasıl kullandıklarına ilişkin araştırmasıyla tanınıyor”.
Ancak davacının avukatları, Hancock'un sahte bir çalışmaya atıfta bulunduğunu iddia ederek, davaya bakan Minnesota federal yargıcından ifadenin reddedilmesini istedi.
YAPAY ZEKA (AI) NEDİR?
Bir Stanford profesörü, uzman beyanı yazmak için yapay zeka dil modelini kullanmakla suçlanıyor. (Getty Images)
“[The] Avukatlar, 36 sayfalık yakın tarihli bir notta, Prof. Jeff Hancock'un beyanında var olmayan bir çalışmadan alıntı yapıldığını ileri sürdüler. “Başlığında bir makale yok.”
“Çalışma”nın adı “Deepfake Videoların Siyasi Tutumlar ve Davranışlar Üzerindeki Etkisi” idi ve iddiaya göre Bilgi Teknolojileri ve Politika Dergisi. 16 Kasım tarihli dosyada derginin orijinal olduğu ancak bu isimle hiçbir çalışma yayınlamadığı belirtiliyor.
Avukatlar, “Yayın mevcut ancak alıntı yapılan sayfalar ilgisiz makalelere ait” dedi. “Muhtemelen çalışma, ChatGPT gibi yapay zekalı büyük bir dil modelinin ürettiği bir 'halüsinasyon'du.”
“Davacılar bu halüsinasyonun Hancock'un beyanında nasıl sonuçlandığını bilmiyorlar, ancak özellikle yorumların büyük bir kısmı herhangi bir metodoloji veya analitik mantık içermediğinde, bu durum tüm belgeyi sorgulanır hale getiriyor.”
Belge ayrıca Ellison'a da sesleniyor ve “Ellison'ın en çok dayandığı sonuçların arkasında hiçbir metodoloji olmadığını ve tamamen uzmanların görüşlerinden oluştuğunu” savunuyor.
Notta, “Hancock, 21. paragraftaki önermeye benzer gerçek bir çalışmadan alıntı yapabilirdi.” ifadesi yer alıyor. “Ancak kurgusal bir alıntının varlığı Hancock (veya yardımcıları), tüm beyanın kalitesini ve doğruluğunu sorgulayan çağrılara tıklama zahmetine bile girmedi.”
'SOSYAL KANSER' OLARAK ADLANDIRILAN 'WOKE' YAPAY ZEKA İÇİN BİDEN YÖNETİM EMRİ
Microsoft Bing Chat ve ChatGPT AI sohbet uygulamaları, 21 Temmuz 2023'te Polonya'nın Varşova kentindeki bu fotoğraf illüstrasyonunda bir mobil cihazda görülüyor. (Getty Images aracılığıyla Jaap Arriens/NurPhoto)
Memorandum ayrıca alıntının sahte olduğu iddiasını da güçlendiriyor ve avukatların çalışmayı bulmak için çok sayıda arama yaptığına dikkat çekiyor.
Belgede, “İddia edilen makalenin başlığı ve hatta küçük bir kısmı, en yaygın kullanılan arama motorları olan Google ve Bing tarafından indekslenmiş haliyle internetin hiçbir yerinde görünmüyor.” ifadesine yer veriliyor. “Akademik makaleler ve patent yayınları için özel bir arama motoru olan Google Akademik'te arama yapıldığında, 'Hwang' tarafından yazılan alıntının açıklamasıyla eşleşen hiçbir makale ortaya çıkmıyor [the purported author] Buna 'deepfake' terimi de dahildir.”
Dosyalamada daha sonra açıkça “Belki de bu sadece bir kopyala-yapıştır hatasıydı? Değil” ifadesi yer alıyor. “Makale mevcut değil.”
Avukatlar, beyanın kısmen uydurma olması durumunda tamamen güvenilmez olduğu ve mahkeme incelemesinden çıkarılması gerektiği sonucuna vardı.
Belgede şu sonuca varılıyor: “Prof. Hancock'un beyanı bütünüyle hariç tutulmalıdır, çünkü en azından bir kısmı muhtemelen bir yapay zeka modeli tarafından üretilmiş ve nihai iddialarını sorgulayan uydurma materyale dayanmaktadır.” “Mahkeme uydurmanın kaynağını araştırabilir ve ek işlem yapılması gerekebilir.”
Minnesota Başsavcısı Keith Ellison, 21 Ağustos 2024'te Chicago, Illinois'deki United Center'daki Demokratik Ulusal Kongre'nin üçüncü gününde sahneye konuşmak için geldi. (Getty Images)
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
Haberler Digital, yorum almak için Ellison, Hancock ve Stanford Üniversitesi'ne ulaştı.
Andrea Margolis, Haberler Digital ve Fox Business'ta yazardır. Okuyucular hikaye ipuçlarını andrea.margolis@haberler adresine gönderebilir..