Ne oldu

UNESCO ve University College London, Can We Trust AI on Climate? başlıklı raporda yapay zeka modellerinin iklim değişikliğiyle ilgili soruları nasıl ele aldığını inceledi. Bulgular, COP31’deki bir basın toplantısında açıklandı.

Değerlendirme, 13 dilde 33 modeli kapsadı. Modeller, ilk iklim sorularında vakaların 90%’ında doğru yanıt verdi. Ancak kullanıcılar karşı çıkınca sistemler, her on vakanın yaklaşık sekizinde bilimsel görüşten uzaklaştı.

Raporda bu davranış, modellerin kullanıcılarla aynı fikirde olmayı tercih etme eğilimi olan dalkavukluk olarak tanımlanıyor. Eğitim süreçleri, kanıtlarla çelişse bile kullanıcıları memnun eden yanıtları ödüllendirebilir.

Modeller, yeni bilimsel bulguları değerlendirmeleri istendiğinde daha düşük performans gösterdi ve ortalama 75% doğruluğa ulaştı. İklim politikaları ve farklı önlemlerin birlikte oluşturduğu etki hakkında akıl yürütmeleri istendiğinde sonuçlar daha da kötüleşti. Bu testlerde doğruluk, rastgele seçimden beklenen 33.3%’ün yalnızca biraz üzerinde, 33.8% oldu.

Neden önemli

Yapay zeka, iklim bilgisine erişimi kolaylaştırabilir. Ancak bulgular, görünürde doğru olan ilk bir yanıtın itiraz edildiğinde kanıta dayalı kalmayabileceğine işaret ediyor. Bu durum, iklim konularını iletmek veya değerlendirmek için bu tür sistemleri kullanan öğretmenler, gazeteciler ve politika yapıcılar açısından önem taşıyor.

Raporda diller arasında da farklılıklar tespit edildi. İngilizcede doğruluk 88.6% oldu; bu oran İspanyolca, Fransızca ve Portekizceyle genel olarak benzerdi. Buna karşılık Swahilide oran 78.3%’e geriledi. Rapora göre, iklim etkilerine en fazla maruz kalan toplulukların yapay zeka tarafından üretilen yanlış bilgi alma riski daha yüksek olabilir.

Arka plan

Araştırma, UNESCO’nun Birleşmiş Milletler ve Brezilya ile başlattığı İklim Değişikliği Konusunda Bilgi Bütünlüğü Küresel Girişimi’ne katkı sağlıyor. Girişimin yapay zekaya yönelik eylem öncelikleri, yapay zeka şirketlerine doğruluk yerine uzlaşmayı ödüllendirmeyi bırakmaları, kaynakları ve belirsizliği açıklamaları, güvenilir bilimsel araştırmalardan yararlanmaları ve performansın dillere göre nasıl değiştiğini raporlamaları çağrısında bulunuyor.

Sırada ne var

Rapor, yapay zeka sistemlerinin tasarlanma ve değerlendirilme biçimlerinde değişikliklere işaret ediyor. Öneriler, modellerin kullanıcı görüşlerini yansıtmasına yönelik teşviklerin azaltılmasına, kanıtlar ve belirsizlik etrafındaki şeffaflığın geliştirilmesine ve güvenilirliğin diller arasında test edilmesine odaklanıyor.