Meta, gençlerin AI sohbet robotunda intihar konuşmasını ebeveynlere bildirecek

Meta, gençlerin Meta AI sohbet robotuyla intihar veya kendine zarar verme hakkında konuşması durumunda ebeveynleri uyaracağını duyurdu. Şirket, bir gencin niyeti net olmasa bile ebeveynleri bilgilendirme konusunda ihtiyatlı davranacağını belirtiyor.

Yeni uyarı sistemi nasıl çalışacak?

Meta, yapay zekasının halihazırda gençleri kriz yardım hatlarına yönlendirdiğini ve kendine zarar verme düşünceleri varsa güvendikleri bir yetişkine ulaşmalarını teşvik ettiğini söylüyor. Şimdi ise, uzmanlarla geliştirilen sinyallere dayanarak, bir gencin Meta AI sohbeti risk altında olabileceğini gösteriyorsa, denetleyici ebeveynleri proaktif olarak uyaracak. Şirket, ebeveynlere bu konuşmaları nasıl yapacakları konusunda uzman kaynakları da sağlayacak.

Manuel inceleme ve ihtiyatlı yaklaşım

Meta, bu uyarıların ebeveynler için ne kadar üzücü olabileceğini anladığını belirterek, tespit iyileştirilirken, yapay zeka tarafından işaretlenen tüm sohbetlerin bir uyarı gönderilmeden önce manuel olarak inceleneceğini duyurdu. Bir gencin niyeti belirsizse, ihtiyatlı davranıp ebeveyni uyaracaklar. Bu, bazen gerçek bir endişe olmadığında da ebeveynlerin bilgilendirilmesine yol açabilir, ancak şirket bunun doğru başlangıç noktası olduğunu düşünüyor.

Artan endişeler ve yasal süreçler

Bu duyuru, Meta ve diğer teknoloji şirketlerinin, özellikle savunmasız kullanıcılar olmak üzere, insanların yapay zeka ürünleriyle nasıl etkileşime girdiğine dair sorumlulukları konusunda artan bir tepkiyle karşı karşıya kaldığı bir dönemde geldi. Kasım ayında Journal of American Medicine‘de yayınlanan bir araştırma, ABD’deki ergenlerin ve genç yetişkinlerin yaklaşık sekizde birinin ruh sağlığı tavsiyesi için AI sohbet robotlarını kullandığını ortaya koydu.

Davalarda yeni bir dönem

Mart ayında, Los Angeles’ta bir jüri, Meta ve YouTube’u çığır açan bir sosyal medya davasında sorumlu buldu ve şirketlerin platformlarının o zamanki genç bir kullanıcısına zarar ve sıkıntı vermekten sorumlu olduğuna hükmetti. Bu karar, New Mexico’da Meta’yı kullanıcıları platformlarının güvenliği konusunda yanıltmak ve çocukları tehlikeye atmakla suçlayan ayrı bir davayı takip etti. OpenAI da ChatGPT’sinin insanları intihara ve sanrılara sürüklediği iddiasıyla birden fazla davayla karşı karşıya kaldı.

Ebeveyn denetim araçları nasıl etkinleştirilir?

Uyarılar şu anda ABD, İngiltere, Avustralya ve Kanada’da Instagram ebeveyn denetimi kullanan ebeveynler için geçerli ve yıl sonuna kadar küresel olarak kullanıma sunulacak. Denetimi etkinleştirmek için hem gencin hem de ebeveynin kabul etmesi gerekiyor ve genç 13-17 yaş arasında olmalı. Ebeveyn veya genç diğerini davet edebilir.

• Instagram uygulamasında Diğer‘e, ardından Ayarlar‘a tıklayın.
• Denetim‘e tıklayın.
• Sol menüden Davetiye oluştur‘a tıklayın.
• Ekrandaki bilgileri inceleyin ve Devam‘a tıklayın.
• Davetiyeyi kopyalayın ve gencinizle paylaşın.

Meta, yeni bildirimlerin, bir genç Instagram’da kısa süre içinde intihar veya kendine zarar verme terimlerini tekrar tekrar aradığında gönderilen mevcut uyarıların üzerine inşa edildiğini söylüyor. Şirket ayrıca, birinin konuşmaları kendine zarar verme riski altında olabileceğini gösteriyorsa acil servislerle iletişime geçme yeteneği üzerinde çalıştığını da duyurdu.

Meta, geçen yıl dünya çapında 19.000’den fazla bu tür yönlendirme yaparak, intihar riski taşıyan kişilere sağlık kontrolleri yapılmasına yardımcı olduklarını belirtiyor.

Kaynak: Haber Merkezi