Teknolojinin değerli isimlerinden geliştiricilere, 1.100 imzalı yapay zeka mektubu

1.100’den fazla kişi, tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimini en az altı ay mühletle durdurmaya çağıran açık bir mektubu imzaladı. Tanınan ve değerli imza sahiplerinin ortasında bilgisayar bilimcilerinin yanı sıra Steve Wozniak, Evan Sharp, Elon Musk üzere teknoloji alanında değerli isimler bulunuyor.

Açık mektup, “insan-rekabetçi zekaya” sahip çağdaş yapay zeka sistemlerinin toplumumuz için risk oluşturabileceği konusunda uyarıyor. Gerekli olan planlama ve idarenin eksik olduğunu belirtiyor ve son aylarda yapay zeka laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, iddia edemeyeceği yahut emniyetli bir halde denetim edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için denetim dışı bir yarışa kilitlendiğini” tez ediyor: “Çağdaş yapay zeka sistemleri artık genel misyonlarda beşerlerle rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına müsaade vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda bizden sayıca üstün olabilecek, zekaca üstün olabilecek, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin denetimini kaybetme riskini almalı mıyız? Bu çeşit kararlar seçilmemiş teknoloji başkanlarına devredilmemelidir.”

Mektup, duraklamanın halka duyurulması, tüm değerli faktörleri içermesi ve doğrulanabilir olması gerektiğini söylüyor. Bu noktada, bu türlü bir duraklama süratli bir biçimde yasalaştırılmazsa, hükümetlerin bir moratoryum başlatması gerektiğini de ekliyor. Ayrıyeten mektup, laboratuvarlardan genel olarak yapay zeka gelişimini duraklatmalarını istemediğini, lakin “sadece tehlikeli yarıştan, yeni ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerinden geri adım atılmasını” istediğini vurguluyor.

Ayrıca, bekleme müddetinin yapay zeka laboratuvarları ve bağımsız uzmanlar tarafından işbirliği yapmak ve “gelişmiş yapay zeka tasarımı ve geliştirmesi için titizlikle denetlenmiş bir dizi paylaşılan güvenlik protokolü” oluşturmak için kullanılabileceği de belirtiliyor. Mektup, OpenAI’den yapılan bir açıklamadan alıntı yaparken, imzacılar listesi, kurucu üyeler ortasında yer alan Musk dışında araştırma laboratuvarından kimseyi içermiyor.