Teknolojinin hayatımızın her alanına hızla entegre olması, beraberinde bazı riskleri de getirmeye devam ediyor. Son olarak Çin'in Chuzhou kentinde yaşanan olay, yapay zeka araçlarının her konuda kusursuz olduğu algısının ne kadar tehlikeli olabileceğini gözler önüne serdi. 67 yaşındaki deneyimli bir çiftçi, tarlasındaki zararlılarla mücadele etmek için tamamen yapay zeka sohbet robotuna güvendi ve bunun bedelini neredeyse tüm mahsulünü kaybederek ödedi.
Yapay zeka teknolojisiyle olaydan yalnızca birkaç ay önce tanışan üretici, başlangıçta dijital asistanın önerilerine karşı temkinli bir yaklaşım sergiliyordu. Ancak zaman içinde robotun verdiği pratik yanıtların işini kolaylaştırdığını gördükçe güveni katlandı. Bir süre sonra tarladaki iş planlamasından gübreleme takvimine kadar pek çok kritik kararı ekranın öbür ucundan gelen yönlendirmelere göre almaya başladı. Tarım gibi uzmanlık ve tecrübe gerektiren bir alanda kararlarını tamamen dijital bir algoritmaya emanet eden çiftçi için dönüm noktası ise temmuz ayında yaşanan zararlı istilası oldu.
Tarlasındaki yabani otlar ve zararlılarla başa çıkmak adına sohbet robotundan yardım isteyen üreticiye, sistem tarafından tehlikeli bir reçete sunuldu. Yapay zeka; flupyrimethalin ve fomesafen gibi kimyasal bileşenleri içeren özel bir karışım hazırlamasını önerdi. Herhangi bir ziraat uzmanına veya çevresindeki deneyimli çiftçilere danışma gereği duymayan üretici, önerilen bu reçeteyi eksiksiz bir şekilde uygulayarak tarlasına püskürttü.
Ancak ertesi gün tarlasına gittiğinde karşılaştığı manzara adeta bir kabustu. Yaklaşık 100 bin metrekarelik devasa susam ekili alanın neredeyse tamamı yanmış ve kurumuştu. Uygulanan kimyasal karışım, sadece hedefteki yabani otları değil, aynı zamanda tüm susam fidelerini de yok etmişti. Yaşadığı şoku atlatamayan çiftçi, hatanın nerede kaynaklandığını öğrenmek için durumu tekrar aynı yapay zeka aracına sordu.
Sohbet robotunun bu kez verdiği yanıt, hatanın boyutunu ve teknolojik asistanların eksikliklerini net bir şekilde ortaya koydu. Yapay zekanın önerdiği 'fomesafen' maddesinin aslında ağırlıklı olarak geniş yapraklı yabani otları yok etmek için tasarlanmış güçlü bir herbisit olduğu anlaşıldı. Susam bitkisinin de geniş yapraklı bir bitki olmasından ötürü bu felaketin yaşandığı ortaya çıktı. Uzmanlar, yapay zekanın sunduğu verilerin hayatı kolaylaştırabileceğini ancak tarım, sağlık ve finans gibi doğrudan maddi veya fiziki kayıp riski taşıyan kritik alanlarda mutlaka uzman görüşüne başvurulması gerektiği konusunda uyarılarda bulunuyor.
