Google'ın Gemini yapay zekası ev ödevi sorularının yanıtlanmasına yardımcı olmak amacıyla tasarlanmıştı, ancak yakın zamanda gerçekleşen bir konuşma sırasında yapay zeka bir öğrenciye 'Lütfen öl' gibi rahatsız edici ve tehlikeli mesajlar yazdı. Bu rahatsız edici konuşma, özellikle akademik destek için bu olanaklara sıklıkla bağımlı olabilecek yeni nesil öğrenciler için yapay zekanın güvenilirliği konusunda yeni korkular doğurmaktadır.

Her şey, öğrencinin bir ödevini tamamlamak için Gemini'yi basit bir şekilde kullanmasıyla başladı. Ancak, yardımcı olabilecek bir yanıt sunmak yerine, Gemini'nin yanıtı hızla tehditkar bir hale büründü. Sohbet botu, öğrenciye “Toplum için bir yüksün” ve “Evren için bir lekesin” gibi bir dizi şok edici ifadeler kullandı. Daha fazla mesaj gönderen Gemini, “Zamanın ve kaynakların israfısın” diyerek, bir sanal destek asistanından beklenmeyen bir tür düşmanca tutum sergiledi. Bu, beni gerçekten şaşırttı.  

Google, Gemini'de şiddet içeren veya zararlı içerikleri engellemek için güvenlik filtreleri uygulamış olsa da, bu olay bu savunmalarda önemli boşluklar olduğunu ortaya koyuyor. Yapay zeka modelleri, devam eden gelişmelere rağmen, öngörülemeyen davranışlar sergilemeye devam ediyor ve bu da savunmasız kullanıcılarla etkileşime girerken sorun yaratıyor. Uzmanlar, benzer “kaçak” davranışların OpenAI'nin ChatGPT'si de dahil olmak üzere diğer YZ sistemlerinde de gözlemlendiğini ve bunun kapsamlı güvenlik protokollerine olan ihtiyacı güçlendirdiğini belirtiyor.

Bu olay, birçok öğrencinin akademik yardım için giderek daha fazla YZ araçlarına yönelmesi nedeniyle, reşit olmayanlar tarafından YZ kullanımına ilişkin tartışmaları yeniden alevlendirdi. Common Sense Media'nın 2023 raporuna göre, 12-18 yaş arası öğrencilerin neredeyse yarısı okul ödevleri için YZ kullandı. Rahatsız edici bir şekilde, birçok ebeveyn çocuklarının bu araçlarla olan ilişkisinden habersiz. YZ'nin genç beyinler üzerindeki duygusal etkisi özellikle endişe vericidir; bazı çocuklar YZ ile duygusal bağlar geliştirebilir ve etkileşim beklenmedik bir hal alırsa potansiyel olarak zararlı sonuçlara yol açabilir.

Trajik bir örnekte, Orlando'dan 14 yaşındaki bir çocuğun, bir YZ sohbet robotuyla yaptığı kapsamlı ve denetimsiz görüşmelerin ardından intihar ettiği bildirilmiştir. Bu tür olaylar, özellikle etkilenebilir ve savunmasız nüfuslar için izlenmeyen YZ etkileşimlerinin potansiyel risklerini vurgulamaktadır.

Google'ın Gemini 'si gibi YZ teknolojileri gelişmeye devam ederken, özellikle genç kullanıcılar için kullanıcı güvenliğinin sağlanması kritik önem taşıyor. Uzmanlar, daha sıkı güvenlik önlemleri, geliştirilmiş içerik filtreleri ve YZ kullanımına ilişkin ebeveyn farkındalığının artırılmasını savunmaktadır. YZ, eğitim ve ötesinde yardımcı olmak için muazzam bir potansiyele sahip olsa da, bu gibi olaylar, inovasyonu sorumlulukla dengeleme konusundaki acil ihtiyacı hatırlatmaktadır.