В Китае арестован мужчина, занимавшийся публикацией и распространением фейковых новостей, сгенерированных с помощью популярного чат-бота ChatGPT. Об этом сообщает местное издание South China Morning Post (SCMP) со ссылкой на информацию, полученную от полиции.
Мужчина использовал ChatGPT для создания новости с элементами, собранными из различных популярных новостей. Фейковая новость об аварии с поездом в китайской провинции Ганьсу, которая произошла якобы 25 апреля, сообщала также о гибели девяти человек.
Новостная статья была опубликована как минимум 20 аккаунтами в социальной сети Baijiahao. До того, как материал привлек внимание правоохранительных органов, его успели прочесть более 15 000 раз.
Полиция сообщила, что задержанный по фамилии Хун, предположительно сотрудник маркетинговой компании, зарегистрированной в городе Шэньчжэне на юге Китая, «использовал технологию искусственного интеллекта для фабрикации ложной информации».
В январе в КНР вступили в силу правила, касающиеся применения технологий дипфейков. Документ запрещает использование искусственно созданных голосов и видео, манипуляций с лицами или жестами (законопроект относит их к разряду «deep synthesis») в любых приложениях, которые могут навредить общественному порядку, ущемить права личности, распространить ложные новости или «проиллюстрировать сексуальную активность».
Видео и фотографии, созданные с помощью технологии глубокого синтеза, широко известной как дипфейк, должны быть помечены, чтобы не вызывать обеспокоенность в обществе. Случай с арестом за фейковую новость о крушении поезда стал первым после принятия закона.
▼