Yapay zekâ beyin gibi inceleniyor: “kara kutuları” anlamada yeni bir aşama

Yapay zekânın (YZ) tıptan sosyal alanlara kadar hızla yayılması, bu sistemlerin karar alma süreçlerinin ne kadar anlaşılmaz olduğu sorusunu gündeme getiriyor. Uzmanlar bile YZ’nin iç işleyişinin büyük ölçüde bir “kara kutu” olduğunu kabul ediyor.

Bu soruna çözüm olarak bilim insanları biyoloji ve sinirbilimden ilham alan yeni yöntemler geliştiriyor. Mekanik yorumlanabilirlik adı verilen yaklaşım, modelin görevleri yerine getirirken iç süreçlerini izlemeyi mümkün kılıyor. Anthropic tarafından geliştirilen görselleştirme araçları, beynin MR ile incelenmesine benzetiliyor.

Bir diğer yöntem, biyolojideki organoid deneylerine benzer şekilde, sparse autoencoder gibi daha sade yapılı sinir ağlarının geliştirilmesini içeriyor. Bu ağlar, büyük dil modellerine kıyasla daha kolay analiz edilebiliyor.

Ayrıca akıl yürütme zinciri izleme yöntemiyle YZ’nin kararlarının mantığı inceleniyor. OpenAI araştırmacısı Bowen Baker, bu yöntemin istenmeyen davranışları tespit etmede etkili olduğunu belirtiyor.

Uzmanlar, gelecekte YZ sistemlerinin aşırı karmaşık hâle gelmesinden endişe duyuyor.