Facebook собирается использовать программное обеспечение для обнаружения пользователей с суицидальными наклонностями по всему миру. В марте компания начала тестировать систему в США, сканируя публикации и комментарии на наличие фраз, которые могли бы указывать на самоубийство.
Компания не раскрыла почти никаких технических подробностей программы. Тем не менее, известно, что система ищет определённые фразы, которые могут указывать на суицид даже косвенно — например, «Ты в порядке?» или «Я могу помочь?».
Если ИИ находит признаки потенциального самоубийства, то предупреждает команду специальных сотрудников Facebook, которые эти отчёты обрабатывают. В то же время, программа советует пользователям под угрозой или их друзьям ресурсы вроде телефонных линий экстренной помощи. Иногда работники социальной сети могут просить вмешаться местные органы власти.
Вице-президент Facebook по управлению продуктами Гай Роузен (Guy Rosen) рассказал, что тесты в США оказались успешны, поэтому компания решила запустить систему и в других странах. Она планирует нанять людей, которые при необходимости в любое время могли бы звонить властям и разговаривать с их представителями на их родном языке.
Роузен не уточнил, в каких странах Facebook запустит программу, но заверил, что в конечном итоге она будет действовать во всём мире. Исключение — Евросоюз с его особыми законами, которые Роузен отказался обсуждать.
Facebook много чего знает о своих 2,1 млрд пользователей — эти данные она использует для таргетированной рекламы. Тем не менее, раньше компания не сканировала переписки на наличие признаков вредоносного поведения.
Источник: 3DNews
