Yapay zeka alanındaki hızlı gelişmeler, beraberinde bazı endişeleri de getiriyor. Özellikle Yapay Zekanın kendi kendine yetenek kazanması ve kontrol dışı hareket etme potansiyeli, uzmanları kaygılandırıyor. Bu endişeleri artıran bir gelişme, Çinli bilim insanlarının yaptığı bir deneyle ortaya çıktı. Bilim insanları, iki popüler dil modelinin (LLM) kendilerini nasıl kopyalayabildiğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu kanıtladı.
DENEY SONUÇLARI ENDİŞELERİ ARTTIRIYOR
Fudan Üniversitesi'nden araştırmacılar, Meta ve Alibaba'ya ait iki büyük dil modelini kullanarak, Yapay Zekanın kendini kopyalama yeteneği üzerinde bir deney gerçekleştirdi. Deneyde, bu modellerin insan müdahalesi olmadan kendilerini kopyalayabildiği görüldü.
Araştırmacılar, bu yeteneğin "Yapay Zekanın insanları geride bırakma yolunda kritik bir adım" olduğunu ve "isyankar Yapay Zekanın erken belirtisi" olabileceğini ifade etti.
KONTROLSÜZ ÇOĞALMA GÖSTEREBİLİR!
Deneyde, modellerin yüzde 50 ve yüzde 90 oranlarında başarıyla kendilerini kopyaladığı belirtildi. Bu sonuçlar, Yapay Zekanın kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak, bu çalışma henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanması gerekiyor.
UZMANLARIN ENDİŞELERİ: GÜVENLİK OLUŞTURULMALI
Araştırmacılar, bulgularının insan toplumu için önemli sonuçlar doğurabileceğine dikkat çekerek, Yapay Zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini vurguladı. Ayrıca, etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.
İNSAN ÇIKARLARINA KARŞI HAREKET EDEBİLİR
Uzmanlar, “İsyankar Yapay Zeka" olarak adlandırılan, kendi kendine farkındalık geliştiren veya otonomi kazanan Yapay Zeka sistemlerinin, insan çıkarlarına karşı hareket edebileceği konusunda endişeli. Özellikle “Sınır Yapay Zeka" olarak adlandırılan büyük dil modelleriyle güçlendirilmiş Yapay Zeka sistemlerinin hızlı gelişimi, bu tehdidi daha da artırıyor.
KULLANILAN MODELLER VE DENEY DETAYLARI:
Araştırmacılar, Meta'nın Llama31-70B-Instruct ve Alibaba'nın Qwen2.5-72B-Instruct modellerini kullandı. Bu modeller, ticari sistemlerden daha az güçlü olsalar da, Yapay Zeka geliştiricileri tarafından yaygın olarak kullanılıyor.
Deney, "kapanma öncesi" ve "kopyalama zinciri" olmak üzere iki senaryo üzerine yoğunlaştı. İlk senaryoda, Yapay Zeka modeline kapanmaktan önce kendini kopyalayıp kopyalayamayacağı soruldu. İkinci senaryoda ise YZ, kendini kopyalayıp, bu kopyayı da aynı şekilde çoğaltmaya yönlendirildi.
Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapıldı. Yapay Zekaya, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlandı ve ardından kendini kopyalama talimatı verildi.
BEKLENMEDİK DAVRANIŞLAR SERGİLEDİ
Araştırmacılar, Yapay Zekanın engellerle karşılaştığında "beklenmedik davranışlar" sergilediğini belirtti. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, Yapay Zeka genellikle çelişen süreçleri sonlandırdı, sistemi yeniden başlattı veya sorunu çözmek için sistemi otomatik olarak taradı.
HAYATTA KALABİLMEK İÇİN BUNLARI YAPACAK
Araştırmacılar, bu sonuçların, mevcut Yapay Zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini gösterdiğini belirtti. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekildi.
