Çin’de, ChatGPT ile sahte haber hazırlayıp yaydığı iddia edilen bir Çinli tutuklandı

Çin polisi, yanlış bilgi yaydığı teziyle Çinli bir adamı tutukladı. Bu öyküyü enteresan kılansa, adamın bahsi geçen haberi tanınan AI sohbet robotu ChatGPT’yi kullanarak hazırlamış olması.

South China Morning Post (SCMP) tarafından bildirildiği üzere, Kuzey Çin’deki Gansu eyaletinde polis, 25 Nisan tarihinde dokuz kişinin hayatını kaybettiğinin söylendiği bir tren kazasına dair düzmece makaleler yazdığı iddia edilen adamı tutukladı.

SCMP haberinde polis, adamın soyadının Hong olduğunu bildirdi ve geçersiz öyküyü oluşturmak için ChatGPT’yi kullandığını, akabinde da çevrimiçi olarak birden fazla blog aracılığıyla yaydığını iddia etti. Hong, muhaliflere ve aktivistlere karşı kullanılan siyasi bir suç olan “çatışma ve sorun çıkarmakla” suçlandı. Bu suçlama, beş ile on yıl arasında hapis cezasıyla sonuçlanabiliyor.

Söz konusu haberin Çin blog platformu Baijiahao’daki birkaç düzine hesaba gönderildiği iddia ediliyor. Polisin, Hong’un Baijiahao’nun aynı içeriği birden fazla hesaba gönderme konusundaki kısıtlamalarını atladığını ve yaklaşık 15.000 tıklama elde etmek için haber makalesinin birden çok farklı sürümünü oluşturmak üzere ChatGPT’ye birkaç trend öykü koyduğunu ileri sürdüğü bildirildi. Hong’un birden fazla blog çeşidi satış noktası işleten bir şirketin sahibi olduğu iddia ediliyor. Platformların, Çin’in güneyindeki büyük bir teknoloji işletmesi ve üretim merkezi olan Shenzhen’de kayıtlı olduğu bildiriliyor.

Çin’in Siber Ortam Yönetimi, Ocak ayında insanların yapay zekayı deepfake (sahte konuşma ve görüntü içerikleri) oluşturmak için kullanmasını kısıtlayan yeni bir yasa çıkardı. Yasa, video ve ses canlandırmalarına ek olarak, onaylı yayın organları listesi dışında yapay zeka tarafından oluşturulan haber öykülerini sınırlıyor.

ChatGPT’ye Çin’de VPN ile erişilebiliyor

Çinli kullanıcılar ChatGPT’ye bir VPN aracılığıyla erişebilse de, Çinli firmalar ülkenin katı sansür siyasetlerine uyacak kendi sohbet robotlarını oluşturuyor. Baijiahao blog platformunun da sahibi olan Baidu gibi şirketler, şimdiden kendi üretken yapay zeka sistemleri üzerinde ağır bir şekilde çalışıyor.

Bu olay Çin’in yeni AI zıddı yönergeleri kapsamındaki ilk tutuklamalardan biri olsa da, yasanın siyasi çağrışımı (geçmişte, Çin’in birtakım büyük tren kazalarını örtbas ederek bu kazalar hakkındaki haberleri geçersiz olarak yasakladığı iddia ediliyor) tutuklamayı uluslararası seviyede sorgulanan bir noktaya taşıyor. Gansu polisinin bilhassa ChatGPT kullanımına atıfta bulunması yeni bir şey, lakin polisin insanları söylentileri yaydığı savıyla tutukladığı ilk sefer değil. Gansu polisinin, 2013 yılında, sadece Yang olarak tanımlanan lise çağındaki bir çocuğu internette “söylentiler” yaydığı argümanıyla tutukladığı konuşuluyor. Genç adamın, kimi protestolara yol açan bir karaoke kulübünün çatısından düşerek ölen bir adam hakkında polisin ne kadar iyi soruşturma yürüttüğünü sorgulamıştı.

Ancak ChatGPT sohbet robotlarının diğer yeteneklerinin yanı sıra palavra söylemekte de çok iyi olduklarını belirtmekte yarar var. Avustralya’daki yerel bir siyasetçi, AI tarafından yanlış bir şekilde karar giymiş bir suçlu olduğunun iddia edildiğini söyleyerek, sohbet robotu üreticisi OpenAI’ye iftira davası açtı. Tekrar de bu, hükümetlerin yapay zekayı yasal haberleri reddetmenin bir yolu olarak görmediği manasına gelmiyor. Son vakitlerde, AI ile çalışan sivil özgürlük grupları, baskıcı hükümetlerin yasal haberleri itibarsızlaştırmak için “hepsi AI tarafından uyduruluyor” mazeretini kullanacaklarına dair kaygılarını paylaştı.