Создавать фейковые новости с помощью ИИ становится все проще: «Скоро мы перестанем знать, чему можно доверять»

Технология генерации изображений с использованием искусственного интеллекта становится все более доступной и поэтому все чаще используется для распространения фейковых новостей. Эксперты предупреждают, что определить, что реально, а что нет, становится все труднее и опаснее.

Разработки в области искусственного интеллекта (ИИ) происходят быстрыми темпами. Если несколько лет назад создание фейкового видео требовало больших усилий, то сегодня это можно сделать просто на смартфоне. Это имеет серьезные последствия для нашего потребления новостей: откуда вы знаете, что реально?

Читатели новостей с помощью искусственного интеллекта в социальных сетях

Например, китайское правительство широко использует искусственный интеллект для распространения замаскированной пропаганды в виде новостей в социальных сетях, сообщает британская газета. сторож сегодня. По данным американской газеты Вашингтон Пост Террористическая группировка «Исламское государство» (ИГ) использует программы для чтения новостей на базе искусственного интеллекта для распространения своих экстремистских посланий в Интернете.

Теперь в использовании новых технологий для влияния на людей нет ничего нового. Примерами могут служить президентские выборы в США в 2020 году или катастрофа MH17 в 2014 году. Уже тогда службы безопасности предупреждали о том, что российские ботнеты массово распространяют фейковые новости в Интернете.

«»очень просто»»

Но благодаря искусственному интеллекту мы вступили в новую фазу, считает Вилен Херманс, профессор информатики Свободного университета Амстердама. «Я думаю, что технологии теперь облегчают создание видеороликов, в которых создается впечатление, что кто-то что-то делает».

Хотя не все видео одинаково заслуживают доверия, говорит она. «Благодаря некоторым из этих видео теперь вы можете очень ясно услышать, что это звук, сгенерированный компьютером». Но иногда это почти неотличимо от настоящего: «Как вы, как пользователь, можете во время прокрутки отличить: это реально, а это фейк?»

Как распознать фейковое видео?

Профессор объясняет, что существует ряд приемов, позволяющих определить, было ли изображение создано с использованием искусственного интеллекта. «Посмотрите на руки, потому что их очень сложно сделать. Итак, если у кого-то шесть пальцев, это неправда. Иногда это можно увидеть и по выражению лица. Мы, конечно, очень хорошие люди. быть настоящим человеком, чтобы узнать их».

Она продолжает, говоря, что также важно проверить, есть ли еще источники, поддерживающие это изображение. «Говорят ли об этом другие люди? Какое экспертное мнение вы бы предложили в качестве совета?» «Но это, конечно, требует больших усилий. Если вы просто пролистываете, трудно просмотреть каждое видео, чтобы понять, сможете ли вы найти для него источник».

Отрицание, потому что все фальшиво

Кроме того, манипулирование изображениями с помощью ИИ также гарантирует, что люди смогут отрицать, что они говорили или делали определенные вещи. В качестве примера Херманс приводит беспорядки «хватай их за киску» вокруг Дональда Трампа. Аудиозапись, на которой тогдашний кандидат в президенты сделал спорное заявление, просочилась в сеть в 2016 году, незадолго до выборов.

«Трамп тогда смог сказать: «Ну, я только что сделал это, и это совсем не так уж и плохо», — добавил он. Но он не мог сказать: «Это был не я». Сейчас ситуация изменилась из-за того, что в Интернете циркулируют фейковые видеоролики, говорит профессор. «Теперь очень легко сказать: «Это была фальшь».

«Опасность ухода людей»

По ее словам, это самая большая опасность. «Поскольку существуют фейковые видео, скоро мы не будем знать, чему можно доверять», — объясняет она. «Скоро у вас появится информация всех видов, которая может содержать некоторую долю правды, но с большим количеством окружающей ее информации, которая не совсем соответствует действительности или слегка искажена».

Результатом этого может стать то, что людям в конечном итоге «наскучают новости», предупреждает Херманс: «Типа: да, нам уже все равно. В любом случае это все фейк». Это реальная опасность».

Важность журналистики

Это также может нанести ущерб репутации прессы. Этот Амроп Брабант У вас есть онлайн-видео, доставляемые программой чтения новостей с искусственным интеллектом.Она не думает, что это хорошая идея. «Несмотря на то, что это весело и вы хотите опробовать все эти крутые технологии, в рамках этой структуры вы действительно опираетесь на взаимозаменяемость того, что вы делаете».

Херманс подчеркивает, что хотя распространение фейковых видеороликов показывает, насколько важна работа журналистов, «Они делают больше, чем просто что-то рассказывают», — заключает она, — «Они также проводят исследования, берут интервью у людей и объединяют разные точки зрения». «Вот почему я думаю, что быть журналистом — это нечто большее, и вы не можете или не хотите использовать для этого алгоритмы».

Обеспечение прозрачности

Но можно ли что-нибудь с этим поделать? В прошлом правительства часто отставали в цифровых разработках. «Нужно быть осторожным, чтобы не занять фаталистическую позицию», — говорит профессор. Она считает хорошим знаком то, что Евросоюз пытается регулировать искусственный интеллект с помощью двух новых законов — Закона о цифровых услугах и Закона об искусственном интеллекте.

«Важно, чтобы мы что-то с этим сделали», — наконец говорит Херманс. По ее словам, следует применять больше прозрачности. Вы можете потребовать: Каждое программное обеспечение, способное создавать дипфейки, должно иметь водяной знак: «Внимание! «Это было создано с использованием искусственного интеллекта». Эти компании никогда бы этого не захотели, но вы могли бы обеспечить соблюдение этого закона с помощью законодательства, и это помогло бы.