enflasyonemeklilikötvdövizakpchpmhp
DOLAR
32,8221
EURO
35,1421
ALTIN
2.449,46
BIST
10.771,36
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul
Açık
29°C
İstanbul
29°C
Açık
Pazar Parçalı Bulutlu
29°C
Pazartesi Açık
30°C
Salı Az Bulutlu
29°C
Çarşamba Az Bulutlu
29°C

Yeni bir tehlike daha: Yapay zeka, insanları nasıl kandıracağını da öğrendi

Araştırmacılar yapay zekanın bizi kandırmasına izin verecek şekilde genişletilebileceğinden tasa ediyor. Meta’nın CICERO yapay zekası, yapay zekanın ne kadar aldatıcı olabileceğini ve ne kadar büyük bir ustalıkla palavra söyleyebildiğini bizlere kanıtlıyor.

Yeni bir tehlike daha: Yapay zeka, insanları nasıl kandıracağını da öğrendi
21.09.2023
11
A+
A-

Yapay zeka dünyası süratle gelişmeye devam ediyor. ChatGPT benzeri üretken yapay zeka sohbet robotlarının muvaffakiyetini görüyoruz ve pek çok şirket uygulamalarına ve programlarına yapay zekayı dahil etmek için çalışıyor. Bu ortada yapay zeka tehdidi hala büyük bir sorun olmaya devam ederken, araştırmacılar yapay zekanın bize ne kadar kolay palavra söylediği ve bunun ileride ne manaya gelebileceği konusunda birtakım farklı kaygıları dile getirdi.

ChatGPT ve diğer yapay zeka sistemlerinin kullanımını güçleştiren şeylerden biri, bilgiyi “halüsinasyon” olarak isimlendirilen anında uydurma eğilimleri. Bu, yapay zekanın çalışma formundaki bir eksiklik ve araştırmacılar yapay zekanın bizi daha da fazla kandırmasına izin verecek şekilde genişletilebileceğinden telaş ediyor.

Peki yapay zeka bize hakikaten palavra söyleyebilir mi? Bu enteresan bir soru ve kimi araştırmacılar bunu yanıtlayabileceklerine inanıyor. Araştırmacılara göre Meta’nın CICERO yapay zekası, yapay zekanın ne kadar aldatıcı olabileceğinin en rahatsız edici örneklerinden biri. Bu model Diplomacy oynamak için tasarlandı ve Meta “büyük ölçüde dürüst ve yardımcı” olmak için tasarlandığını söylüyor.

Ancak CICERO deneyinden elde edilen verilere bakıldığında, araştırmacılar CICERO’nun bir palavra makinesi olduğunu söylüyorlar. Hatta CICERO, bir insan oyuncuyla birlikte çalışarak diğer bir insan oyuncuyu kandırıp kendisini istilaya açık hale getirecek şekilde kandırmayı evvelden planlayacak kadar ileri gitti.

Bunu, Alman oyuncuyla komplo kurarak ve akabinde İngiliz oyuncuyla birlikte çalışarak onların Kuzey Denizi’nde bir açıklık bırakmasını sağlayarak yaptı. Bunu Almanya’nın oyuncusuyla komplo kurarak ve akabinde İngiltere’nin oyuncusuyla çalışarak Kuzey Denizi’nde bir açıklık bırakmalarını sağlayarak yaptı. Yapay zekanın oyuncuları kandırıp muvaffakiyete ulaşmak için nasıl palavra söylediğini ve onlara karşı nasıl çalıştığının ispatını üstte görebilirsiniz. Bu enteresan bir ispat ve araştırmacıların CICERO yapay zekasından kaydettiği birçok örnekten yalnızca biri.

Buradaki risk, bunun birkaç farklı şekilde berbata kullanılabilecek olmasından kaynaklanıyor. Araştırmacılar hazırladıkları raporda potansiyel riskin “yalnızca kötü niyetli bireylerin hayal gücü ve teknik bilgi birikimi ile sınırlı olduğunu” belirtiyor. Bu davranışın gelecekte nereye varabileceğini görmek enteresan olabilir, bilhassa de bu davranışı öğrenmek açık bir kandırma niyeti gerektirmiyorsa…

Yorumlar

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.