Пауки и нейросети: как кибербуллинг при помощи порнографических дипфейков становится проблемой для подростков
Школьники всё чаще используют искусственный интеллект для травли сверстников
EN
Российские подростки могут столкнуться с проблемой кибербуллинга при помощи порнографических дипфейков — об этом предупредили эксперты. По данным доклада Stanford Cyber Policy Center, применение нейросетей подростками для создания порнографических изображений своих сверстников становится серьезной проблемой в разных странах мира, а надежные механизмы для ее решения до сих пор не созданы. О том, почему проблема подросткового кибербуллинга с порнографическими дипфейками становится всё острее, читайте в материале «Известий».
Почему проблема подросткового кибербуллинга становится все более актуальной?
По данным социологического исследования «Российские школьники: о карьере, патриотизме, буллинге и кибербезопасности в новых реалиях», проведенного в рамках проекта «#МЫСЧИТАЕМ», каждый пятый российский школьник подвергался кибербуллингу — агрессии в цифровой среде.
В более чем половине этих случаев она проявлялась в виде троллинга и оскорблений (54%). А каждый четвертый пострадавший сталкивался с вымогательством (26%) или публикациями «отфотошопленных» фото в соцсетях (23%). Эта проблема становится более актуальной по мере развития технологий, говорит в беседе с «Известиями» директор по развитию центра мониторинга внешних цифровых угроз Solar AURA (ГК «Солар») Александр Вураско.
— Если раньше для создания порнографической картинки-фейка требовалось умение работать с графическими редакторами, то сейчас нейросеть сгенерирует необходимое фото или даже видео буквально в два клика, — рассказывает специалист. — Сделать нечто подобное может практически любой человек без какой-либо подготовки.
О том, что подростковый кибербуллинг при помощи порнографических дипфейков становится глобальной проблемой, говорит и новый доклад Stanford Cyber Policy Center (США). В нем отмечается, что применение нейросетей подростками для создания порнографических изображений своих сверстников становится серьезной проблемой, к которой оказались не готовы ни школы, ни полиция, ни законы.
Чем опасен кибербуллинг при помощи порнографических дипфейков?
Сегодня подростки создают совершенно разные дипфейки, чтобы травить своих сверстников, говорит в беседе с «Известиями» директор Центра противодействия мошенничеству компании «Информзащита» Павел Коваленко. Если раньше сплетни не имели никакого подтверждения, то сегодня можно создать фейковые аргументы, что усилит давление на жертву и может привести к непоправимым последствиям.
— Случаи подросткового кибербуллинга при помощи порнографических дипфейков наверняка фиксировались в России, и их количество будет расти, — отмечает Александр Вураско.
С тем, что подобная опасность для российских подростков существует, согласен и эксперт по социотехническому тестированию Angara Security Яков Филевский. Специалист отмечает: эта угроза связана с тем, что технологии на основе искусственного интеллекта (ИИ) доступны россиянам в равной степени, несмотря на санкции и различные ограничения. При этом кибербуллинг с использованием порнографических дипфейков опасен тем, что подростки крайне остро реагируют на подобные ситуации, говорит Александр Вураско.
По словам эксперта, в условиях, когда взрослый лишь посмеется и удалит изображение, подросток может быть доведен до отчаяния. К тому же распространение подобных фейков может спровоцировать массовую травлю со стороны сверстников. В некотором роде это схоже с явлением sextortion, при котором подростков шантажируют при помощи реальных интимных видео или фото с их участием, угрожая распространить их при отказе выполнять какие-либо действия, объясняет Александр Вураско.
— Распространение таких материалов может привести к исключению человека из социума, так как не все способны отличить дипфейк от реальности, — подчеркивает Павел Коваленко. — Это также ведет к травмированию подростка и формированию враждебного восприятия мира вокруг него.
Как защититься от кибербуллинга при помощи порнографических дипфейков?
Для того чтобы защитить подростков от разных форм кибербуллинга, в том числе с использованием порнографических дипфейков, необходимо вести профилактику этого явления с детства, говорит в беседе с «Известиями» Павел Коваленко. По словам эксперта, дети должны понимать, что их действия могут разрушить жизнь сверстников.
— Другой важный вектор — распространение осведомленности граждан о возможностях искусственного интеллекта, — рассказывает специалист. — Людям необходимо понимать, в какой реальности они живут, уметь отличать дипфейки от реального контента. Это определенно снизит количество успешных киберпреступлений.
По словам Павла Коваленко, чтобы отличить дипфейк от реального фото или видео, необходимо обращать внимание на детали: странный фон, искривления пространства, изменение формы объектов, неестественные движения людей и звуки. Всё это может свидетельствовать о том, что перед вами фейк. Полностью защититься от создания дипфейков практически невозможно, отмечает Александр Вураско.
Однако можно снизить риски — если проявлять осторожность при публикации личной информации в Сети, а также выкладывать меньше фото и видео, которые могут быть использованы для создания дипфейков. Как отмечает Яков Филевский, при публикации фотографий в открытом доступе важно тщательно подходить к выбору снимков: дело в том, что некоторые из них, как, например, фото в купальнике, податливее в плане монтажа и редактуры для создания опасного контента.
— Полностью защититься от дипфейков невозможно: генерация изображений уже становится нормой современной цифровой жизни, и единственная «абсолютная» защита — никогда не публиковать ни одной фотографии, — подчеркивает эксперт. — В то же время стоит полагаться на государственные органы для защиты своей репутации, так как эта тема совершенно точно не останется без внимания законодателей.
Что делать пострадавшим от кибербуллинга с дипфейками?
Все ситуации, связанные с кибербуллингом, индивидуальны, говорит в беседе с «Известиями» Яков Филевский. Однако подросток в любом случае должен знать, к кому из взрослых он может обратиться за безусловной помощью. Задача взрослого — выслушать и вникнуть в ситуацию, даже если он не разбирается в ней и она не кажется ему чем-то серьезным.
— Если подросток уже пострадал от кибербуллинга с использованием порнографических дипфейков, в первую очередь необходимо обеспечить ему эмоциональную безопасность и поддержку, — рассказывает эксперт и инженер-аналитик компании «Газинформсервис» Екатерина Едемская. — Ребенок должен чувствовать, что его не обвиняют, а защищают.
По словам специалиста, важно сохранить доказательства — скриншоты, ссылки, имена пользователей — и как можно скорее обратиться в администрацию школы и правоохранительные органы. Также стоит подать жалобы на платформы, где распространялся контент, с требованием об удалении и блокировке.
— Необходимо направить обращение в Роскомнадзор — надзорный орган, ответственный за контроль и надзор в сфере телекоммуникаций и информационных технологий, — советует Яков Филевский.
Обращение к юристу поможет оценить правовые последствия и защитить интересы пострадавшего, отмечает Екатерина Едемская. Психологическая помощь критически важна: даже если подросток внешне спокоен, внутри он может переживать сильнейший стресс. Родителям стоит быть рядом, не торопиться с выводами и помнить: ребенку сейчас нужна не критика, а уверенность, что он не один и ситуация может быть решена, заключает эксперт.
