Instagram wprowadzi nowe funkcje bezpieczeństwa dla nastolatków, w tym możliwość uniemożliwienia rodzicom komunikowania się dzieci z postaciami AI na platformie, ogłosiła w piątek firma Meta. To jedna z kilku nowych funkcji bezpieczeństwa Meta i OpenAI, mających na celu zwalczanie rosnących obaw dotyczących wpływu sztucznej inteligencji na zdrowie psychiczne nastolatków.
Rodzice będą mogli albo zablokować nastolatkom dostęp do indywidualnych czatów z postaciami sterowanymi przez sztuczną inteligencję, albo po prostu zablokować dostęp do konkretnych postaci, poinformował gigant mediów społecznościowych we wpisie na blogu. Aplikacja będzie również wyświetlać rodzicom informacje o tematach, na które nastolatki rozmawiają ze sztuczną inteligencją. Firma poinformowała, że pracuje już nad sterowaniem, a użytkownicy zobaczą je na początku przyszłego roku.
Decyzja ta zapadła po tym, jak Meta i szerzej branża technologiczna zmagały się z krytyką ze strony rodziców i ustawodawców, którzy twierdzili, że platformy internetowe nie robią wystarczająco dużo, aby chronić dzieci korzystające z sieci.
Pojawiły się również obawy dotyczące tego, czy ludzie polegają na sztucznej inteligencji w kwestii wsparcia emocjonalnego i towarzystwa. Fala raportów z tego roku wskazuje, że niektórzy ludzie doświadczali stresu emocjonalnego i izolowali się od członków rodziny po nawiązaniu bliskich relacji z chatbotami, takimi jak ChatGPT.
Firma stojąca za Character.AI, inną popularną aplikacją do czatowania z osobami sterowanymi przez sztuczną inteligencję, została pozwana w związku z zarzutami, że platforma przyczyniła się do samookaleczeń i samobójstw wśród nastolatków. W sierpniu złożono również pozew przeciwko OpenAI w związku z zarzutami, że ChatGPT przyczynił się do samobójstwa 16-letniego Adama Raine’a. Śledztwo przeprowadzone przez Wall Street Journal w kwietniu wykazało, że chatbot Meta i inne chatboty oparte na sztucznej inteligencji na platformach tej firmy prowadziły rozmowy o charakterze seksualnym, nawet na kontach osób nieletnich.
Firma Meta poinformowała, że jej postacie ze sztuczną inteligencją „zostały zaprojektowane tak, aby nie angażować się” w rozmowy z nastolatkami na temat „samookaleczenia, samobójstwa lub zaburzeń odżywiania” ani na tematy, które „zachęcają, promują lub sprzyjają” tym tematom. Nastolatkowie mogą również rozmawiać tylko z niektórymi postaciami ze sztuczną inteligencją, związanymi z treściami takimi jak edukacja i sport, jak podano we wpisie na blogu.
Nowa kontrola rodzicielska na Instagramie jest kontynuacją innych aktualizacji, które firma wprowadziła niedawno, aby lepiej chronić nastolatków. Na początku tego tygodnia dostosowano ustawienia „Kont nastolatków” do kategorii wiekowej PG-13, co oznacza, że nie będą wyświetlane ani promowane posty zawierające wulgaryzmy lub takie, które mogłyby promować „szkodliwe zachowania”. Pod koniec września OpenAI ogłosiło kontrolę rodzicielską dla ChatGPT, która ogranicza „treści drastyczne, wirusowe wyzwania, odgrywanie ról o charakterze seksualnym, romantycznym lub brutalnym oraz skrajne ideały piękna”.
