Yapay zeka kullanan çalışanlarda beceri kaybı kaygısı
Nature’da 18 Haziran’da yayımlanan araştırmaya göre, sağlık, yazılım, muhasebe ve hukuk gibi bilgi yoğun alanlarda yapay zekaya aşırı güvenmenin “beceri kaybı”na yol açabileceğine dair bulgular artıyor.
ABD’de sağlık çalışanlarıyla yapılan bir ankette hemşirelerin yüzde 70’i, doktorların ise yüzde 77’si, yapay zeka sistemlerine aşırı güvenmenin zamanla mesleki becerileri zayıflatabileceğinden kaygı duyduğunu söyledi.
Polonya’da doktorlarla çalışma
Bu kaygıyı destekleyen bulgulardan biri Polonya’da endoskopi uzmanı doktorlarla yapılan bir çalışmadan geldi.
Çalışmada, kariyerleri boyunca en az 2 bin kolonoskopi yapmış doktorların, yapay zeka destekli polip tespit sistemini kullandıktan sonra sistemin bulunmadığı günlerde nasıl performans gösterdiği incelendi.
Doktorlar, bazı günlerde kolonoskopi görüntülerini gerçek zamanlı analiz ederek kanser öncesi bağırsak lezyonları olan adenomları tespit eden yapay zeka sistemini kullandı. Araştırmacılar, sistemin kullanılmaya başlanmasından önceki ve sonraki üç aylık dönemlerde, doktorların yapay zeka yardımı olmadan yaptığı kolonoskopilerdeki adenom tespit oranlarını karşılaştırdı.
Yapay zeka sağlık çalışanlarının işini kolaylaştırıyor mu?
Sonuçlara göre, yapay zeka sistemi devreye girmeden önce doktorlar kolonoskopilerin yüzde 28,4’ünde en az bir adenom tespit ediyordu.
Sistemin kullanılmaya başlanmasından sonra ise doktorların yapay zeka yardımı olmadan yaptığı işlemlerde bu oran yüzde 22,4’e düştü.
Başka bir ifadeyle, yapay zeka aracına maruz kalan doktorlar, sistemin bulunmadığı durumlarda daha düşük oranda kanser öncesi lezyon tespit etti.
Araştırmacılar, bu düşüşün yapay zeka desteğine alışan uzmanların sistem olmadığında daha az dikkatli, daha az motive ya da daha az sorumluluk hissiyle karar verebildiğine işaret edebileceğini belirtti.
Yazılım mühendisleri daha az öğrendi
Nature’ın aktardığı bir başka çalışma ise yazılım mühendisleriyle yapıldı.
Yapay zeka şirketi Anthropic’ten araştırmacılar, 52 yazılım mühendisiyle rastgele kontrollü bir deney yürüttü. Katılımcılardan yeni bir programlama kütüphanesiyle ilgili kodlama görevlerini tamamlamaları istendi.
Deneyde tüm katılımcılar internette arama yapabildi ve göreve ilişkin talimatlara erişebildi. Katılımcıların bir bölümüne ayrıca yapay zeka asistanı kullanma imkânı verildi.
Görevlerin ardından mühendislerin ne öğrendiğini ölçmek için bir test yapıldı. Yapay zeka asistanı kullanan grubun ortalama puanı yüzde 50’de kalırken, asistan kullanmayan grubun ortalaması yüzde 67 oldu.
Yapay zeka desteği alan katılımcılar özellikle kod okuma, kavramsal anlama ve hata ayıklama sorularında zorlandı. Araştırmacılar, bu sonucun yapay zeka yardımıyla görevin tamamlanmasının her zaman kalıcı öğrenmeye dönüşmediğini gösterdiğini belirtti.
Yapay zekayla öğreniyor muyuz, yoksa sadece üretiyor muyuz?
“Beceriler ödünç alınıyor”
Syracuse Üniversitesi’nden Kevin Crowston, ortaya çıkan tabloyu performans ile öğrenme arasındaki kopukluk olarak tanımlıyor.
Crowston’a göre çalışanlar yapay zeka desteğiyle kısa vadede yüksek performans gösterebiliyor. Ancak bu, becerinin gerçekten kazanıldığı anlamına gelmeyebiliyor:
“İnsanlar oldukça yüksek düzeyde performans gösterebiliyor çünkü aslında yapay zekadan beceriler ödünç alıyorlar fakat bu becerileri kendileri geliştirmiyorlar.”
“Bilişsel yetileri otomatikleştiren ilk teknoloji”
Bilgi sistemleri araştırmacısı Tapani Rinta-Kahila, teknolojilerin geçmişte de bazı becerileri zayıflattığını hatırlatıyor. GPS navigasyon sistemlerinin insanların yön bulma becerilerini aşındırması buna örnek gösteriliyor.
Ancak Rinta-Kahila’ya göre üretken yapay zeka araçları farklı bir eşiğe işaret ediyor. Çünkü bu araçlar yalnızca fiziksel ya da rutin işleri değil; düşünme, yorumlama ve karar verme gibi uzun süre insanlara özgü kabul edilen bilişsel yetileri de otomatikleştiriyor.
Rinta-Kahila’nın da yazarları arasında yer aldığı 2018 tarihli bir çalışma, otomasyonun bilgi yoğun işlerde beceri kaybına yol açabileceğini ortaya koymuştu. Çalışmada, uzun süre otomatikleştirilmiş bir muhasebe sistemini kullanan çalışanların, bazı rutin işleri sistem olmadan nasıl yapacaklarını unuttukları tespit edildi.
Rinta-Kahila’ya göre benzer risk yazılım, muhasebe ve hukuk gibi alanlarda da görülebilir. Araştırmacı, uygulamalı deneyimden yoksun kalan yeni kuşak çalışanların mesleklerinin temel kavramlarını yeterince öğrenemeyebileceği uyarısında bulunuyor.
Aşırı çalıştırılan yapay zeka sistemlerinden "eşitlik ve kolektif hak" mesajı
Uzmanlardan uyarı: Kör güven beceriyi aşındırabilir
Araştırmacılar, yapay zekanın tamamen dışlanmasından çok, nasıl kullanıldığının belirleyici olduğunu vurguluyor.
Beceri kaybını önlemek için çalışanların yapay zekaya ne kadar iş yüklediklerinin farkında olması, modellerin nasıl çalıştığını ve hangi sınırlara sahip olduğunu anlaması gerekiyor. Uzmanlara göre yapay zeka çıktılarının sorgulanmadan kabul edilmesi, risk yaratabilir.
Rinta-Kahila bu dengeyi şöyle özetliyor:
“İnsanların, üretken yapay zekaya güvenmenin ve sürekli tetikte kalmanın çelişen dinamiklerini yönetmeleri gerekiyor.”
(BY/NÖ)
