Anthropic’ten yapay zeka uyarısı: Çok yakında kontrolü kaybedebiliriz

Anthropic adlı önde gelen yapay zeka şirketi, yeni nesil yapay zeka sistemlerinin insan kontrolü dışında gelişme potansiyeli taşıdığı konusunda uyarıda bulundu. Şirketin Claude modeliyle ilgili son değerlendirmelerine göre, sistem artık kendi kodunun yüzde 80’inden fazlasını yazabiliyor. Bu oran, geçen yılın başında yüzde 10’un altındaydı.

Anthropic yetkilileri, bu hızlı değişimin “özyinelemeli kendini geliştirme” adı verilen bir sürece işaret ettiğini ve bu durumun gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceğini belirtti. Şirketin araştırmacıları Marina Favaro ve Jack Clark, yayımladıkları blog yazısında, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler sağlayabileceğini ancak aynı zamanda ciddi kontrol riskleri doğurabileceğini ifade ettiler.

Araştırmacılar, yapay zekanın geliştirilme sürecinin artık kısmen yapay zeka sistemlerine devredildiğini ve bunun insan müdahalesi olmadan kendini geliştirebilen modellerin önünü açabileceğini vurguladılar. Anthropic, bu sürecin kontrolsüz ilerlemesi durumunda insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısında bulunarak, gelişimin kontrollü şekilde ilerlemesi için “gerekirse yavaşlama veya duraklama” seçeneğinin dahi değerlendirilmesi gerektiğini belirtti.

Şirket, böyle bir küresel yavaşlatma kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının ortak hareket etmesi gerektiğini belirtirken, bunun oldukça karmaşık bir süreç olacağını ifade etti. Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş, 2023 yılında binlerce teknoloji uzmanı benzer bir moratoryum talebinde bulunmuştu ancak bu çağrılar somut bir duraklamaya dönüşmemişti.