Справа на видео настоящий Маск, слева -- его дипфейк.
Дипфейк (англ. deepfake от deep learning «глубинное обучение» + fake «подделка») — методика синтеза изображения или голоса, основанная на искусственном интеллекте.
Женщину из Южной Кореи обманули на $50,000. Дипфейк Илона Маска отправил ей фотографии, созданные искусственным интеллектом, и сказал ей, что любит ее во время видеозвонка.
Жещина под псевдонимом Чон Джи Сон утвержает, что впервые начала общаться с мошенником в июле 2023 года в Инстаграме. Он утверждал, что является американским миллиардером Илоном Маском. В начале Джи Сон была настроена скептически, но со временем начала верить, так как мошенник отправлял ей сгенерированные искуственным интеллектом фотографии Маска на работе и его удостоверение личности (так же сгенерированное ИИ).
«Маск прислал мне свое удостоверение личности и фотографию на работе… Он объяснял, что часто связывается с фанатами случайным образом», – объясняет женщина.
Пара продолжила общение в социальных сетях. В какой-то момент они решили связаться по видео. Тогда мошенник сказал ей, что любит ее. Во время видеозвонка мошенник использовал дипфейк, чтобы притвориться Маском. Дипфейк оказался настолько правдободным, что после этого у Джи Сон не осталось сомнений – с ней действительно связался сам Маск.
«Маск даже сказал: «Я люблю тебя, ты это знаешь?», когда мы говорили по видеозвонку», — говорит женщина.
Женщина рассказала, что мошенник в конце концов убедил ее перевести 70 миллионов корейских вон (50 000 долларов США) на банковский счет, который, по его словам, принадлежал одному из его корейских сотрудников. Женщина утверждает, что человек, стоящий за фальшивым Маском, утверждал, что сделает ее богатой, вложив ее деньги.
Такой вид мошенничества называется Romance Scam, что по-русски означает “романтическая афера”. Мошенники используют сайты знакомств в Интернете, чтобы обманом заставить жертв отправлять деньги и подарки в рамках романтических афер. Примечательно, что в таком виде мошенничества не всегда задействуют высокие технологии как ИИ или дипфейки. Часто мошенникам достаточно лишь харизмы и капли упорства, чтобы войти в доверие жертвы.
Федеральная торговая комиссия (FTC), – независимое агентство правительства США, призванное защищать права потребителей и, в частности, следящее за соблюдением антимонопольного законодательства – сообщила, что романтические аферы обошлись жертвам в 1,3 миллиарда долларов в 2022 году. Всплеск изображений искусственного интеллекта и видеотехнологий дипфейков затрудняет определение того, что реально в социальных сетях и приложениях для знакомств, что приводит к всплеску такого рода афер.