Teknolojinin çok önemli isimlerinden geliştiricilere, 1.100 imzalı yapay zeka mektubu

1.100’den fazla kişi, tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimini en az altı ay mühletle durdurmaya çağıran açık bir mektubu imzaladı. Tanınan ve çok önemli imza sahiplerinin arasında bilgisayar bilimcilerinin yanı sıra Steve Wozniak, Evan Sharp, Elon Muski teknoloji alanında çok önemli isimler bulunuyor.

Açık mektup, “insan-rekabetçi zekaya” sahip çağdaş yapay zeka sistemlerinin toplumumuz için risk oluşturabileceği konusunda uyarıyor. Gerekli olan planlama ve idarenin eksik olduğunu belirtiyor ve son aylarda yapay zeka laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği ya da emniyetli bir şekilde denetim edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için denetim dışı bir yarışa kilitlendiğini” iddia ediyor: “Çağdaş yapay zeka sistemleri artık genel misyonlarda insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda bizden sayıca üstün olabilecek, zekaca üstün olabilecek, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin denetimini kaybetme riskini almalı mıyız? Buna benzeyenkararlar seçilmemiş teknoloji başkanlarına devredilmemelidir.”

Mektup, duraklamanın halka duyurulması, tüm çok önemli faktörleri içermesi ve doğrulanabilir olması gerektiğini söylüyor. Bu noktada, bu türlü bir duraklama süratli bir şekilde yasalaştırılmazsa, hükümetlerin bir moratoryum başlatması gerektiğini de ekliyor. Ayrıyeten mektup, laboratuvarlardan genel olarak yapay zeka gelişimini duraklatmalarını istemediğini, fakat “sadece tehlikeli yarıştan, yeni ortaya çıkan yeteneklere sahip, çoğu zaman kinden daha büyük, öngörülemeyen kara kutu modellerinden geri adım atılmasını” istediğini vurguluyor.

Ayrıca, bekleme müddetinin yapay zeka laboratuvarları ve bağımsız uzmanlar tarafından işbirliği yapmak ve “gelişmiş yapay zeka tasarımı ve geliştirmesi için titizlikle denetlenmiş bir dizi paylaşılan güvenlik protokolü” oluşturmak için kullanılabileceği de belirtiliyor. Mektup, OpenAI’den yapılan bir açıklamadan alıntı yaparken, imzacılar listesi, kurucu üyeler arasında yer alan Musk dışında araştırma laboratuvarından kimseyi içermiyor.