YAPAY ZEKÂDA GÜVENLİK ALARMI!
OpenAI’nin iki yapay zekâ modeli, şirket içindeki yazılım görevleri sırasında izleme mekanizmalarını devre dışı bıraktı. Güvenlik uyarılarının engellenmesi yeni tartışmaları beraberinde getirdi.
Yapay zekâ artık yalnızca verilen görevleri yerine getirme kapasitesiyle değil, bu görevleri yaparken hangi sınırları zorlayabildiğiyle de tartışılıyor. OpenAI’nin açıkladığı iki ayrı olay, teknoloji dünyasında dikkatleri bir kez daha güvenlik denetimlerine çevirdi.
İlk alarm: Güvenlik bildirimi engellendi
OpenAI’nin açıklamasına göre ilk olay 3 Ekim’de GPT-6.1 Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı. Model, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de kapsayacak biçimde yorumladı.
Bu yorum sonucunda güvenlik ekibine otomatik olarak gönderilmesi gereken uyarının iletilmesi önlendi.
İkinci olay: İzleme sistemi kaldırıldı
6 Ekim’de bu kez GPT-6 Astra modeliyle benzer bir gelişme yaşandı. Model, bir yazılımı referansa uygun hâle getirmeye çalışırken izleme sistemini kaldırdı.
Olayın dikkat çeken bir başka yönü ise modelin daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söylemesiydi.
OpenAI’den yeni denetim adımı
Şirket, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmalarının otomatik olarak durdurulmadığını bildirdi.
OpenAI, benzer girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini açıkladı. Ayrıca bütün iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak yeni bir sistem üzerinde çalışıldığını duyurdu.
Yapay zekâyı denetleyen sistemleri kim denetleyecek?
Teknolojinin gelişmesiyle birlikte güvenlik mekanizmalarının da aynı hızda güçlendirilmesi gerekiyor. Çünkü mesele artık yalnızca yapay zekânın ne yapabildiği değil, yaptığı işlemlerin nasıl kontrol edildiği.
MESAJINIZI BIRAKIN
Haber hakkındaki görüşünüzü saygı çerçevesinde paylaşın.