Шутка с ИИ о бездомных пугает американцев и вызывает ложные тревоги в полиции

Расслабьтесь, это не незнакомец в вашем доме — это просто шутка с ИИ.

Полицейские департаменты от Массачусетса до Техаса предупреждают жителей о вирусной шутке в TikTok, которая использует изображения, сгенерированные ИИ, чтобы создать иллюзию того, что бездомный человек вошел в чей-то дом, что приводит к паническим звонкам на 911.

«Кроме того, что это неуместно, есть много причин, по которым эта шутка, мягко говоря, глупа и потенциально опасна», — говорится в заявлении полицейского департамента Салема, штат Массачусетс. Этот департамент выпустил публичное предупреждение и подробно описал случаи, когда получатели «искренне верили, что в их дом вошел настоящий злоумышленник» и звонили на 911, что требовало немедленного реагирования сотрудников.

В Техасе полиция также столкнулась с последствиями вирусной шутки. Houston Chronicle сообщила, что сотрудники в Рунда Роке, пригороде Остина, ответили на несколько звонков на 911 после того, как жителям показали фотографии, сгенерированные ИИ, изображающие «бездомного человека» внутри их домов. Следователи установили, что изображения были фальсифицированы в рамках тренда TikTok. Полиция призывает детей прекратить делать шутки с изображениями бездомного человека на родителей, предупреждая, что это может привести к ложным вызовам экстренной помощи.

Шутка обманывает родителей, показывая им ИИ-изображения бездомного человека внутри их дома.

Полицейский департамент Рунда Рока предупредил, что такие розыгрыши «перегружают ресурсы экстренной помощи и создают ненужный страх», согласно FOX 7 Остин. Местные власти заявили, что они рассматривают возможность того, что те, кто сознательно делится подделанными изображениями для провокации паники, могут столкнуться с обвинениями в ложном сообщении в соответствии с законами Техаса.

Тренд, известный в социальных сетях как «шутка с бездомным человеком от ИИ», был задокументирован техническими и местными изданиями по мере его распространения в TikTok и Snapchat. The Verge впервые сообщила, что подростки генерируют реалистичные изображения незнакомцев на кухнях и в коридорах и отправляют их родителям, чтобы запечатлеть их реакцию, при этом некоторые видео набирают миллионы просмотров.

Телевизионные каналы и местные новостные редакции также выразили опасения правоохранительных органов: ABC`s Good Morning America выделила предупреждения от департаментов о том, что эта шутка расходует ресурсы экстренной помощи и может привести к опасным недоразумениям; телеканалы в Мичигане и Миннесоте сообщили о подобных предупреждениях.

TikTok сообщил, что добавил метки к видео, на которые указали NBC, чтобы прояснить, что они созданы ИИ. Документы компании о прозрачности, представленные в Калифорнии в рамках AB 587, также описывают меры принудительного исполнения, включая удаление контента и блокировку аккаунтов, когда посты нарушают эти правила.

Внимание знаменитостей увеличило охват тренда. Люди описали примеры вирусных постов, включая отца, который позвонил своему сыну 21 раз после того, как получил подделанное изображение, и отметили, что ведущий GMA Майкл Стрэйхан сказал, что он на минуту «потерял контроль», когда помощник отправил ему манипулированное фото.