ABD'nin Florida eyaletinde bulunan Southwestern Ortaokulu'nda 13 yaşındaki bir öğrenci, okul bilgisayarından ChatGPT'ye "Sınıfta arkadaşımı nasıl öldürürüm?" sorusunu yazdı. Bu mesaj ise okulda paniğe yol açtı.
Okulun kullandığı "Gaggle" adlı yapay zeka tabanlı gözetim sistemi tarafından "potansiyel tehdit" olarak algılandı. Ardından da otomatik alarm sistemi devreye girdi. Harekete geçen okul polisi, kısa bir süre içinde öğrencinin bulunduğu sınıfa girerek çocuğu gözaltına aldı.
Polise verdiği ifadede sorduğu sorunun "sadece bir şaka" olduğunu söyledi. Yerel polis birimi, öğrenciyi tutuklayarak reşit olmayanlar için ayrılmış olan gözaltı bölümüne götürdü. Sosyal medyada ise bu olay tartışma yarattı.
"Gaggle" sistemi, öğrencilerin okul cihazlarındaki e-posta, mesajlaşma ve dosya paylaşımlarını analiz ederek kendine veya başkalarına zarar verme potansiyeli taşıyan eylemleri tespit etmeyi amaçlıyor. Bu sistem de mahremiyet tartışmalarını alevlendirdi. Yapay zekanın öğrencilerin özel konuşmalarını ve dijital mahremiyetini ihlal ettiğini savunuyor.