Искусственный интеллект как опасность «дипфейка»

Опубликовано: 18.11.2023

Федеральное управление уголовной полиции предупреждает о так называемых «дипфейковых» клипах как о новом оружии, используемом онлайн-преступниками. Искусственный интеллект (ИИ) можно использовать для создания обманчиво реалистичных видео реальных людей, которые затем можно использовать в преступных целях.

В 2022 году количество зарегистрированных киберпреступлений увеличилось на 30 процентов и превысило 60 000. Сюда входят преступления на сексуальной почве, а также преступления против собственности. Количество преступлений, связанных с мошенничеством, увеличилось на 23 процента и составило более 27 600 случаев, а ущерб составил 700 миллионов евро – хотя число незарегистрированных случаев, вероятно, будет намного выше, предупредили эксперты Федерального управления уголовной полиции.

Интернет-преступники сейчас все чаще используют «дипфейковые» ролики, созданные с помощью искусственного интеллекта (ИИ). Это обработанные аудио- или видеозаписи, в которых лицо и голос человека изменяются таким образом, что могут быть переданы совершенно новые высказывания и содержание. Например, короткий видеоряд, в котором человек произносит текст на немецком языке, можно преобразовать в видео, в котором человек говорит что-то совершенно другое на сербском языке.

Есть способы обнаружить такие манипулированные видео. По мнению эксперта по искусственному интеллекту из гамбургской компании Risk Ident, например, размытые переходы между лицами и фоном должны вызывать подозрения. Самое важное — это интуитивное чувство: ведет ли другой человек не свойственно ему? Есть ли какие-либо отклонения в мимике или движениях рта? Если, например, у вас возникли подозрения во время живого видеоразговора, вы можете попросить другого человека провести целевые тесты, такие как пение, чтобы разоблачить эти языковые модели ИИ, сообщают австрийские государственные СМИ.