Dört büyük teknoloji devinden yapay zeka için 10 milyon dolarlık büyük hamle

Temmuz 2023’te dört teknoloji devi Open AI, Microsoft, Google ve Anthropic, Frontier Model Forum isimli bir platform kurduklarını duyurdu. Forum, üretken yapay zekanın, bilhassa de sınır yapay zeka modellerinin inançlı ve sorumlu bir şekilde geliştirilmesini sağlamayı amaçlıyordu.

Ve şu anda şirketler, Frontier Model Forum’un ilk İcra Yöneticisi olarak Chris Meserole‘un atandığını ve yapay zeka güvenliği alanındaki araştırmaları geliştirmek için 10 milyon dolardan fazla bir girişimle bir yapay zeka güvenlik fonu kurulduğunu ortak bir açıklama ile duyurdu. Yapay Zeka Güvenlik Fonu’na dört teknoloji devinin yanı sıra Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt (Google’ın eski CEO’su ve hayırsever) ve Jaan Tallinn (Estonyalı milyarder) çok önemli katkılarda bulunuyor.

Fon, yeni model değerlendirmelerinin ve yapay zeka modellerinin kırmızı ekip olarak kullanılmasına yönelik tekniklerin geliştirilmesine öncelik verecek. Bundan Ötürü bunlar, sınır sistemlerinin tehlikeli olabilecek yeteneklerine yönelik değerlendirme tekniklerinin geliştirilmesine ve test edilmesine yardımcı olacak.

En son çalışma grubu güncellemesinde grup, kırmızı ekip için “Zararlı yeteneklerin, çıktıların ya da altyapı tehditlerinin belirlenmesi için YZ sistemlerini ve ürünlerini araştırmaya yönelik yapılandırılmış bir süreç” şeklinde bir tarif getiriyor. Ayrıyeten mevzuyu vurgulayan vaka çalışmaları da paylaşılıyor.

Yayınlanan blog yazısında ayrıyeten Forum’un yakın vakitte devam eden kimi projelerinden de bahsedildi. Forum, öncü yapay zeka laboratuvarlarının, öncü yapay zeka modellerindeki güvenlik açıklarının ya da potansiyel olarak tehlikeli yeteneklerin keşfedilmesi ve bunların hafifletilmesiyle ilgili bilgileri paylaşmasına fırsat tanıyacak yeni bir süreç üzerinde çalışıyor. Ayrıyeten gelecekte strateji oluşturmaya yardımcı olacak bir Danışma Kurulu kurmayı planlıyor.