Meta въвежда нови мерки за защита на непълнолетните потребители, които използват нейния изкуствен интелект. Компанията ще започне да уведомява родители и настойници, ако разговорите на техните деца с Meta AI показват признаци, че обмислят самонараняване или самоубийство.

Досега при подобни разговори Meta AI насочваше потребителите към кризисни линии за помощ и ги насърчаваше да потърсят подкрепа от възрастен. От днес платформата ще изпраща и проактивни известия до родителите, като ще им предоставя информация и препоръки как да реагират.

За целта Meta е разработила специализирана AI система, която открива подобни разговори. Всеки сигнал обаче ще бъде проверяван от човек, преди да бъде изпратено уведомление, за да се избегнат фалшиви тревоги. Компанията уточнява, че ще предпочита да действа предпазливо и може да изпрати известие дори когато намеренията на потребителя не са напълно ясни.

Новата функция вече е достъпна за родителите, които използват инструмента за родителски контрол в Instagram в САЩ, Великобритания, Канада и Австралия. До края на годината тя трябва да стане достъпна за всички потребители на родителски контрол по света.

Meta съобщава още, че разработва възможност за уведомяване на спешните служби, ако разговор с Meta AI показва непосредствен риск потребител да посегне на живота си. Функцията ще важи както за непълнолетни, така и за пълнолетни потребители.

Компанията не е единствената, която предприема подобни мерки. През май OpenAI представи функцията Trusted Contact за ChatGPT, която позволява на потребителите предварително да посочат доверен човек, с когото компанията да се свърже при риск от самонараняване.

Meta разширява и действието на режима Limited Content. Ако родител е активирал ограничаването на чувствително съдържание в Instagram, то вече ще важи и за разговорите на детето с Meta AI. Така ще бъдат ограничени взаимодействията, свързани със зряло съдържание, самонараняване и други чувствителни теми.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.