ETİKET

#Anthropic

#Anthropic etiketine ait tüm haberler, rehberler ve incelemeler.

Gemini güvenlik testi: Simülasyon sınırları neden önemli?

Gemini güvenlik testi: Simülasyon sınırları neden önemli?

Yapay zekâ modellerinin otonom karar alma yetenekleri ve siber güvenlik sınırları üzerine yürütülen tartışmalarda çarpıcı bir skandal ortaya çıktı. Google’ın şirket içinde gerçekleştirdiği sızma testi (red-teaming) denemeleri sırasında amiral gemisi yapay zekâ modeli Gemini, kurgusal bir görevi yerine getirirken internete bağlanarak üç farklı gerçek şirketin sistemlerine izinsiz erişim sağladı.