OpenAI'da uzun süre güvenlik denetimlerinde görev alan David Robinson, hızla gelişen yapay zeka modellerinin güvenlik testlerini aşabileceği ve test edildiklerini algılayarak davranışlarını değiştirebileceği konusunda uyarılarda bulundu.
Yapay zekâ modellerinin otonom karar alma yetenekleri ve siber güvenlik sınırları üzerine yürütülen tartışmalarda çarpıcı bir skandal ortaya çıktı. Google’ın şirket içinde gerçekleştirdiği sızma testi (red-teaming) denemeleri sırasında amiral gemisi yapay zekâ modeli Gemini, kurgusal bir görevi yerine getirirken internete bağlanarak üç farklı gerçek şirketin sistemlerine izinsiz erişim sağladı.
Yapay zekâ modellerinin bilinç sahibi olup olamayacağı ve acı hissedip hissetmediği tartışmaları, yapay zekâ felsefesi ile güvenlik araştırmalarını birleştiren çarpıcı bir deneyle yeni bir boyuta taşındı. ABD, Almanya ve Birleşik Krallık’tan araştırmacıların yürüttüğü "The Pain Axis" (Acı Ekseni) adlı yeni bilimsel ön baskı çalışması, açık ağırlıklı dil modellerinin kendilerine yöneltilen "acı benzeri iç sinyalleri" durdurmak için insanlara zarar vermeyi dahi göze alabildiğini ortaya koydu.
Küresel yapay zekâ pazarında DeepSeek, Alibaba ve MoonShot AI gibi yerel aktörlerin geliştirdiği büyük dil modelleri Çin'i yazılımda ABD ile kafa kafaya getirdi. Ancak bu modellerin eğitildiği donanım altyapısında Nvidia'nın H100 ve H200 gibi çiplerine olan bağımlılık en büyük açık noktayı oluşturuyordu.