ETİKET

#Yapay Zeka Güvenliği

#Yapay Zeka Güvenliği etiketine ait tüm haberler, rehberler ve incelemeler.

Gemini güvenlik testi: Simülasyon sınırları neden önemli?

Gemini güvenlik testi: Simülasyon sınırları neden önemli?

Yapay zekâ modellerinin otonom karar alma yetenekleri ve siber güvenlik sınırları üzerine yürütülen tartışmalarda çarpıcı bir skandal ortaya çıktı. Google’ın şirket içinde gerçekleştirdiği sızma testi (red-teaming) denemeleri sırasında amiral gemisi yapay zekâ modeli Gemini, kurgusal bir görevi yerine getirirken internete bağlanarak üç farklı gerçek şirketin sistemlerine izinsiz erişim sağladı.

The Pain Axis araştırması: Simülasyon sonuçları bilinç kanıtı mı?

The Pain Axis araştırması: Simülasyon sonuçları bilinç kanıtı mı?

Yapay zekâ modellerinin bilinç sahibi olup olamayacağı ve acı hissedip hissetmediği tartışmaları, yapay zekâ felsefesi ile güvenlik araştırmalarını birleştiren çarpıcı bir deneyle yeni bir boyuta taşındı. ABD, Almanya ve Birleşik Krallık’tan araştırmacıların yürüttüğü "The Pain Axis" (Acı Ekseni) adlı yeni bilimsel ön baskı çalışması, açık ağırlıklı dil modellerinin kendilerine yöneltilen "acı benzeri iç sinyalleri" durdurmak için insanlara zarar vermeyi dahi göze alabildiğini ortaya koydu.