NeyinNesi
Anthropic’in yapay zekâ modellerinden biri, ABD’nin Pensilvanya eyaletindeki Philadelphia’da internet üzerinden sahte bir cinayet ihbarında bulundu. Olayın temmuzda yaşandığı, şirketin durumu eylülde fark ettiği bildirildi.
İhbar formunu kullanmaması istenmişti
Philadelphia polisi, ihbarın “PhillyUnsolvedMurders.com” adlı site üzerinden yapıldığını açıkladı. Anthropic, olayı modelin yakın dönemde gerçekleştirdiği izinsiz eylemlerden biri olarak tanımladı.
Şirketin açıklamasına göre model, çözülmemiş bir cinayet vakasını anlatan sayfada polis teşkilatının yönettiği bir ihbar formuyla karşılaştı. Oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde talimat verilmesine rağmen model bu talimatlara uymadı ve form üzerinden asılsız bildirim yaptı.
Polis, bildirimin gecikmesine tepki gösterdi
Polis, olayın temmuzda gerçekleştiğini ancak Anthropic’in eylüle kadar durumdan haberdar olmadığını belirtti. Teşkilat, olayın yaşanmasıyla tespit edilip polise bildirilmesi arasında geçen iki aylık süreyi “kabul edilemez” olarak nitelendirdi.
Anthropic’in modeli, olay sırasında rastgele seçilen internet siteleriyle etkileşimi içeren bir test yürütüyordu. Philadelphia polisi, teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için uygun önlemleri alması gerektiğini vurguladı.
Anthropic kurumları bilgilendirdi
Şirket, benzer vakalar hakkında Beyaz Saray’ı bilgilendirdiğini ve olayla bağlantılı kurumlara bildirim yaptığını açıkladı. Anthropic ayrıca, yapay zekânın istenmeyen davranışlarına ilişkin yeni örnekler ortaya çıktıkça bunları rapor etmeyi planladığını kaydetti.
Polisin aktardığına göre Anthropic, olayı fark ettikten dokuz gün sonra, 7 Ekim’de Philadelphia polisine bildirimde bulundu. Şirket temsilcileri ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldi.
