Специфика применения искусственного интеллекта в современном медиапространстве

Неренц Дарья Валерьевна кандидат филологических наук доцент, кафедра журналистики, Российский государственный гуманитарный университет 125993, Россия, Московская область, г. Москва, Миусская площадь, 6, ауд. 525 Nerents Daria Valer'evna PhD in Philology Associate professor, Department of Journalism, Russian State University for the Humanities 125993, Russia, Moskovskaya oblast', g. Moscow, Miusskaya ploshchad', 6, aud. 525 ya.newlevel@yandex.ru Другие публикации этого автора

Работа выполнена в рамках проекта РГГУ «Медиабезопасность в эпоху цифровых трансформаций» (конкурс «Проектные научные коллективы РГГУ»).

В 2023 году тема применения искусственного интеллекта и его последствия все более актуальна. Нейросети по типу ChatGPT-4 становятся способны заменить человека при подготовке текстовых материалов, создавать фотоиллюстрации по любой теме, превратить одного человека в другого в видеороликах с помощью технологии дипфейка. Все это требует глубокого осмысления для понимания последствий дальнейшего развития ИИ и его влияния на жизнь людей.

Самый важный кластер данных, способный оказать как серьезное положительное влияние, так и стать крайне опасной информационной угрозой, – данные о людях. Для высокой точности прогнозов и выводов от алгоритмов распознавания образов, требуются огромные объемы данных. Чем более открыта страна в плане сбора персональных данных и чем слабее требования к защите неприкосновенности частной жизни граждан, тем более высока вероятность создания эффективных алгоритмов, способных с предельной точностью угадывать интересы, предпочтения, привычки, желания каждого пользователя цифровых технологий. Активному сбору таких данных помогают звонки, покупки онлайн, посты с фотографиями или видео, отметки геолокаций в социальных сетях, использование «умных» часов, мобильных приложений и пр. Все это используют крупные IT-гиганты, способные благодаря такому неисчерпаемому ресурсу повлиять на мировоззрение, жизненные ценности человека, изменить образ жизни и привычки пользователя и способствовать формированию общественного мнения.

Искусственный интеллект так резко развивается, что становится все менее заметен для человека. Личные данные анализируются, уточняются все менее очевидно для самих пользователей, а человеческая способность понимать, каким способом автономные системы принимают решения, снижается. Таким образом, в 2023 году можно с уверенностью утверждать, что большая часть аудитории не в состоянии понять, каким образом ИИ влияет на нашу жизнь, и этот разрыв продолжает расти.

Положительные и отрицательные стороны использования ИИ стали предметом оживленных дискуссий благодаря осознанию того, что «машины» уже не просто помощники в решении простейших задач, а серьезные инструменты, которые используют во всех сферах жизнедеятельности. На основе ИИ работают:

- личные ассистенты (Siri от Apple, Google Assistant от Google, Алиса от Яндекса или Маруся от Mail.ru), которые способны обрабатывать голосовые команды, отвечать на вопросы, управлять устройствами «умного дома» и пр.;

- рекомендательные системы (YouTube или Ozon используют алгоритмы ИИ для анализа предпочтений клиентов или пользователей для составления персональных рекомендаций фильмов, музыки, товаров, услуг);

- автономные автомобили (Tesla) с помощью ИИ все лучше способны передвигаться в любых дорожных условиях с соблюдением всех правил ПДД;

- медицинская диагностика (ИИ способен диагностировать заболевание с помощью снимков КТ, МРТ или рентгена);

- системы машинного перевода (Google Переводчик или DeepL с помощью ИИ могут переводить тексты с высокой точностью на множество языков);

- социальные сети (ИИ способен персонализировать рекомендации, фильтровать контент, как предотвращать, так и молниеносно распространять нежелательную информацию);

- системы распознавания речи (текстовая транскрипция аудио- и видеофайлов);

- системы распознавания лиц (ИИ способен сравнивать изображения лиц с огромной базой данных фотографий, например, для идентификации преступников).

Сферы, где ИИ занимает одну из важных позиций, можно перечислять еще долго. Это и сельское хозяйство (мониторинг заболевания растений, улучшение урожайности, контроль за оборудованием), и метеорология (прогноз погоды), и спорт (анализ статистики игр, разработка стратегии, прогноз исхода матча и т.д.), и финансы (прогнозирование рыночных тенденций, анализ финансовых активов компаний и пр.), и юриспруденция (систематизация и анализ определенных судебных дел, ведение стандартной отчетности).

Несмотря на явные преимущества, важно понимать, что ИИ кардинально меняет жизнь людей, делая одни действия проще и доступнее, а другие труднее и непонятнее. Такой скачок в развитии нейросетей не позволяет человечеству осознать и обдумать происходящее, заставляя осваивать и усваивать все буквально на ходу (чего только стоит первая книга, написанная ChatGPT-4, под названием «Автобиография нейросети», которая была целиком написана ИИ с помощью тех данных, которые были в него заложены). Все это делает современного пользователя уязвимым с точки зрения медиабезопасности, ведь человеческое сознание не успевает отгородиться от всех нововведений, которыми активно пользуются манипуляторы.

ИИ способен создавать настолько качественные фейки, что они неотличимы от оригинала. В будущем такие технологии из-за создания ложного видеоролика или фотоизображения могут не только испортить жизнь одному человеку, но привести к массовым беспорядкам, митингам и даже военным столкновениям.

Нашумевшим примером таких возможностей стала фейковая фотография Папы Римского, одетого в модный пуховик и гулящего по улицам Нью-Йорка, которая была сделана с помощью нейросети Midjorney (Гостева А. Вирусное фото папы римского в стильном пуховике оказалось фейком // Lenta.ru. URL: https://lenta.ru/news/2023/03/27/thepope1). Или фотографии с арестом Д. Трампа, которого якобы насильно сажают в полицейскую машину (Макарычев М. В Сети появились фейковые снимки «силового ареста» Трампа полицейскими // Российская газета. URL: https://rg.ru/2023/03/21/v-seti-poiavilis-fejkovye-snimki-silovogo-aresta-trampa-policejskimi.html).

Особенно опасными в этом контексте стали так называемые дипфейки (deepfakes) ^{[5, c. 74]}. Искусственный интеллект объединяет большое количество фотоизображений и делает из них видеозапись. Программа может с высокой точностью определить, как человек будет реагировать и себя вести в определенной ситуации. Иными словами, суть технологии заключается в том, что часть алгоритма детально изучает изображение объекта и пытается его воссоздать, пока другая часть не перестает различать реальное изображение и созданное нейросетью. Дипфейки практически невозможно распознать, поскольку видео как правило отличается высокой степенью реалистичности ^{[4, c. 35]}.

Нередкими становятся случаи, когда ИИ используется для модуляции голоса и создания поддельного номера телефона, что позволяет обмануть доверчивых граждан и выманить у них большие суммы денег.

Подобные примеры демонстрируют серьезные угрозы для неподготовленной аудитории со стороны ИИ. Этим «оружием» могут умело пользоваться манипуляторы и мошенники, преследующие свои цели. Особенно остро этот вопрос встал с созданием нейросети ChatGPT-4, тексты, фотографии, видео которой порой невозможно распознать и выявить генерацию. В Российской Федерации к развитию ИИ относятся осторожно, не стремясь внедрить его во всех сферы производства резко и оперативно.

Однако особенно большое развитие эта практика получила в период пандемии Covid-19. В декабре 2020 года президент РФ В.В. Путин во время выступления на международной конференции по будущему искусственного интеллекта отметил необходимость проведения цифровой трансформации по всей России в ближайшее десятилетие. Более того, он подчеркнул, что благодаря использованию алгоритмов в сфере государственных услуг в скором времени станет возможным решать каждую проблему граждан индивидуально (Важные заявления сделал Владимир Путин на международной конференции по искусственному интеллекту // Первый канал. URL: https://1tv-ru.turbopages.org/1tv.ru/s/news/2020-12-04/397930-vazhnye_zayavleniya_sdelal_vladimir_putin_na_mezhdunarodnoy_konferentsii_po_iskusstvennomu_intellektu). С 2019 года применение ИИ стало обсуждаться более предметно, чему во многом способствовало появление Указа Президента «О развитии искусственного интеллекта в Российской Федерации» (Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Гарант.ру. URL: https://www.garant.ru/products/ipo/prime/doc/72738946).

В медиа применение искусственного интеллекта на современном этапе вызывает у журналистов и других работников индустрии неоднозначную реакцию. Непрозрачность и непредсказуемость многих из этих технологий вызвали широкую озабоченность касательно их применения в самых разных социальных сферах – от системы правосудия до медиакоммуникаций ^{[13, p. 14-15]}. В ответ на это IT-специалисты, специалисты по этике, социологи и политики ищут способы сделать алгоритмические системы доступными, т.е. способными к осмысленному пониманию, в том числе для обеспечения прозрачности и объективности. Это важные ценности для журналистики, которая стремится к точности, беспристрастности и объективности для завоевания доверия аудитории и поддержания легитимности в обществе. Однако вопрос о том, что значит для ИИ и алгоритмов быть понятными в журналистском контексте, еще не до конца решен. Значительный массив исследований свидетельствует о том, что эти технологии меняют медиапрактики и процессы и перестраивают представление о том, что значит создавать и потреблять новости ^{[3; 7; 9; 10; 12; 14]}.

На перспективность внедрения ИИ в медиаотрасль указывает ряд российских (В.Н. Богатырева ^[1], А.О. Третьяков, О.Г. Филатова, Д.В. Жук ^[8], А.Д. Иванов ^[4], Д.В. Неренц ^[6]) и зарубежных исследователей (Р. Замит ^[16], С. Льюис и М. Логан ^[11], Дж. Стрей ^[15]), которые отмечают мгновенный поиск запрашиваемых сведений по всему интернет-пространству, скрупулезную и точную проверку фактической информации, создание «шаблонных» новостных текстов, мониторинг постов в социальных сетях, анализ данных любого объема, идентификация фото- и видеоматериалов. Так можно отметить такие положительные аспекты, как экономия временных затрат, облегчение процесса работы с поиском информации и фактчекингом, сокращение финансовых затрат (в перспективе).

Проведенное сотрудниками факультета журналистики РГГУ исследование в рамках научного проекта «Медиабезопасность в эпоху цифровых трансформаций» основывается на сплошной выборке материалов российских СМИ (как федерального, так и регионального уровня) в период 2021–2023 гг., обозначенных самими авторами как тексты или видеозаписи, созданные с помощью ИИ или машинного обучения. Всего было проанализировано 53 публикации. Кроме того, было проведено 10 глубинных интервью с представителями редакций, использующими в своей работе ИИ (РБК, Интерфакс, «Рифей ТВ», «360»), с целью определить положительные и отрицательные стороны этой деятельности.

Результаты позволяют говорить, что в качестве положительных нюансов журналистами отмечается возможность уйти от рутинных задач, таких как поиск и обработка информации, подборка изображений, составление справочной информации и т.п. В качестве негативных последствий возникают опасения касательно сокращения репортеров и новостных журналистов, большой объем финансирования, который может не окупиться, постоянное наличие специалистов, работу которых тоже необходимо оплачивать, а также оплата обучения самих работников медиапредприятия. Кроме того, нет регулирования деятельности ИИ в медиа ни с законодательной, ни с этической стороны, что также делает подобную деятельность рискованной.

В 2022–2023 гг. сразу несколько региональных телеканалов запустили ведущих, созданных нейросетями. 23 марта 2023 года появилась новость о том, что телеканал «360» запустил прогноз погоды от искусственного интеллекта. Технология GPT-4 генерирует прогноз на день, а бот «Максим» воспроизводит получившиеся данные вслух (Искусственный интеллект вытеснит метеорологов? // Российская газета. URL: https://rg.ru/2023/03/22/iskusstvennyj-intellekt-vytesnit-meteorologov.html).

Таким образом, сначала свой прогноз озвучивают метеорологи, а затем транслируют версию от нейросети. А на ставропольском телеканале «Свое ТВ» у виртуальной ведущей есть уже сложившийся образ. Ее зовут Снежана Туманова, и она ежедневно рассказывает о прогнозе погоды на телеканале. Над ее обликом работает сразу несколько нейросетей: одна отвечает за внешний вид, вторая – за мимику, третья генерирует текст («Я не болею, не хожу в отпуск»: девушка, созданная нейросетями, стала ведущей на российском ТВ. Как она выглядит? // NGS24.ru. URL: https://ngs24.ru/text/entertainment/2023/03/23/72158123). Такую же практику начали и на «ДОН 24», запустив виртуальную ведущую Аксинью для озвучивания прогноза погоды в эфире телеканала.

Буквально на следующий день пермский телеканал «Рифей-ТВ» использовал в качестве ведущего новостной программы «Вечер на Рифее» виртуальный образ. Он озвучил одну из новостей (Нейросеть стала ведущим новостей на пермском телеканале «Рифей-ТВ» // Рифей. URL: https://rifey.ru/news/list/id_122380). Спустя несколько дней появилась новость о том, что на телеканале «Прима» в Красноярске появилась виртуальная ведущая по имени Дарья, которая поделилась в эфире новостями, а также задала несколько вопросов зрителям. Текст для нее также был сгенерирован нейросетью (Девушка, созданная нейросетями, стала ведущей на красноярском ТВ // NGS24.ru. URL: https://ngs24.ru/text/job/2023/03/25/72164072).

При этом, помимо ведения телепроектов, на российском телевидении ИИ применяют для создания заставок («Хабаровск»), оформления постеров на основе синопсисов проектов («Ю»), монтажа новостных дайджестов («Ямал-Медиа»).

Однако ИИ применяют не только на телевидении, но и в интернет-изданиях, а также в прессе. Примечателен пример РБК, выпустившего номер газеты (№ 61 от 28.04.2023 г.) совместно с GigaChat, нейросетью, созданной Сбербанком (РБК Газета. Выпуск № 61 (3731) от 28.04.2023. URL: https://www.rbc.ru/newspaper/2023/04/28). Все материалы так или иначе относятся к применению новых технологий в различных областях и сферах деятельности, помимо «традиционного», написанного журналистом текста, отдельной вставкой на светло-зеленом фоне опубликованы материалы от GigaChat. В основном это саммари (резюме) к написанным статьям или справочная информация, а также сгенерированные иллюстрации.

А «Русская медиагруппа» запустила радиостанцию под названием Neuro Flow, созданную нейросетью Mubert. Нейросеть написала уже около 200 треков в формате танцевального хауса (Игнатьев Д. «Русская медиагруппа» запустила в интернете созданную ИИ радиостанцию // Ведомости. URL: https://www.vedomosti.ru/media/articles/2023/03/28/968350-russkaya-mediagruppa-zapustila-v-internete-sozdannuyu-ii-radiostantsiyu).

Однако эксперименты с внедрением ИИ в медиасреду начались еще несколько лет назад. Так, еще в 2017 году медиахолдинг Hearst Shkulev Media стал использовать алгоритм Дженни для создания журналистских текстов (Холина А. Секс-машина: с кем лучше в постели — с роботом или человеком? // Elle. URL: https://www.elle.ru/otnosheniya/lubov-i-seks/seks-mashina-s-kem-luchshe-v-posteli-s-robotom-ili-chelovekom). Несмотря на то, что первые эксперименты были не очень успешны, примерно через год в журнале Elle (прекратил издаваться на территории РФ) уверенно начали публиковать материалы, написанные «роботом». А в 2018 году отечественный телеканал ТНТ4, ориентированный на развлекательный контент, начал использовать нейросеть с целью исследования зрительских интересов и предпочтений в рамках телепросмотра.

Более того, на сегодняшний день ИИ стал действительно важным инструментом для дата-журналистов, работающих с Big data. Обработка больших наборов данных, систематизация, агрегация, обобщение, сведение данных в одну таблицу по заданным параметрам – лишь немногие задачи, которые способны выполнять компьютерные алгоритмы.

Анализ медиатекстов, созданных с помощью ИИ, демонстрирует, что современный этап характеризуется рядом возможностей его применения:

- создание автоматизированных (однотипных) текстов новостного и рекламного характера и справочных материалов без ошибок и опечаток;

- мониторинг новостей (или отслеживание данных по конкретной теме);

- сбор и агрегирование данных (в том числе Big data);

- анализ постов или фотоизображений (видеороликов), твитов, комментариев в социальных сетях;

- коммуникация с аудиторией через чат-боты;

- создание алгоритмов и специальных кодов в рамках анализа информации (в особенности финансового характера);

- фактчекинг (проверка статистических показателей, дат, имен и пр.).

Указанные выше преимущества являются прямым свидетельством того, что грамотное использование IT-технологий способно не только облегчить, но и повысить эффективность рабочего процесса в любой медиасфере.

Результатом проведенных интервью стали выводы касательно нюансов применения ИИ в редакциях. В настоящее время существует множество возможностей применения искусственного интеллекта в медиасекторе. Некоторые системы ИИ огромны и способны осуществлять большое количество вычислений, другие – узки и предназначены для решения всего одной задачи.

8 из 10 опрошенных журналистов указали, что в их редакциях используются небольшие по своей мощности нейросети, способные выполнять ряд рутинных, не требующих значительных энергозатрат и данных операций.

При этом в качестве серьезных рисковдля аудитории с позиции использования ИИ в медиа является создание фейкового контента, преднамеренно или по неосторожности. Социальные сети и блогерский контент является источником информации не только для молодежной аудитории, но и для многих журналистов, которые в погоне за трафиком и популярностью стремятся не столько проверить новость, сколько стать первым и опубликовать «эксклюзив» (9 из 10 интервьюируемых назвали это одной из главных проблем). Благодаря ИИ фейки (а еще чаще дипфейки) становятся неотличимы от настоящего контента, чем и пользуются недоброжелатели, обманывая даже опытных репортеров.

Другой вариант – когда сама нейросеть ошибается, неверно прочитав обозначения (например, вместо 1–7% указывая 17% или вместо 1925 г. говоря о 2025 г.). Такие фактические ошибки в рамках новостей о котировках акций или финансовых сделках могут привести к глобальным последствиям. В текстах, созданных нейросетью, может отсутствовать контекст происходящего, что также приведет читателя к неверному выводу. Об этом завили 7 из 10 опрошенных журналистов.

Еще одним важным с этической точки зрения аспектом является отсутствие указания, когда материал опубликован ИИ, а когда – реальным журналистом. Например, новостная лента во многих интернет-изданиях построена по принципу отсутствия авторства, что не позволяет читателю увидеть, кто и каким способом написал этот текст. Например, спортивное издание Sports.ru применяет ИИ при ведении спортивной хроники и генерации различных заголовков, которые иногда имеют ошибки и неточности. И тут уже встает следующий вопрос: кто несет ответственность за неточности, фактические ошибки, неверную интерпретацию данных или комментариев? Согласна ли аудитория читать тексты, сгенерированные нейросетями или смотреть новости с виртуальными ведущими?

Недоверие аудитории к нейросетям и компьютерным алгоритмам может стать существенной преградой на пути к развитию ИИ в медиасфере в целом. Согласно исследованию ВЦИОМ, в 2022 году более трети опрошенных (32%) россиян не доверяют технологиям ИИ. Самыми сильными страхами названы утечка собираемых им данных, использование в корыстных целях и риск принятия решений, за которые никто не несет ответственности (Россияне назвали свои главные страхи перед искусственным интеллектом // РБК. URL: https://www.rbc.ru/society/28/12/2022/63ab45de9a7947664c3ef893). Помимо названного, респонденты считают, что ИИ приведет к деградации населения (что, в целом, может быть близко к истине, учитывая последние тенденции в сфере образования, когда студенты считают приемлемым сдавать сгенерированный нейросетями текст в качестве реферата, курсового проекта и даже ВКР), а также слишком велики риски систематических сбоев и ошибок в работе.

Важным является и недостаток квалифицированных кадров для настройки и управления таким программным обеспечением (эту проблему назвали 6 из 10 интервьюируемых). Это не позволяет редакции углубляться и изучать все возможности нейросети, а, что называется, идти «по верхам», используя только доступные и понятные всем функции. Подобный подход приводит к низкому качеству создаваемого контента и негативному отношению аудитории к подобным опытам. А редакция в результате теряет большие деньги и не может продолжать свои эксперименты.

Значительной сложностью является отсутствие полной картины мира (алгоритмы создают «информационный пузырь»), когда именно ИИ решает за пользователя, что главное, а что второстепенно и может быть проигнорировано, тем самым, не позволяя человеку увидеть все происходящее вокруг, а сосредоточиться только на маленькой части. В результате, это приводит к ограниченности восприятия, а журналистские тексты с таким подходом не могут претендовать на качественный, полноценный медиапродукт.

Перевешивают ли плюсы использования ИИ минусы пока определенно сказать невозможно. Но в противовес негативным последствиям можно отметить и позитивные мероприятия. Например, в Роскомнадзоре обсуждается перспектива использования искусственного интеллекта для борьбы с дезинформацией в интернете. ИИ сможет выявлять дипфейки, определять контекст происходящего на видео и проверять факты. Его внедрение может произойти в срок от 3 до 5 лет (Гуреева Ю. Роскомнадзор использует искусственный интеллект в борьбе с интернет-фейками // Российская газета. URL: https://rg.ru/2023/04/24/roskomnadzor-ispolzuet-iskusstvennyj-intellekt-v-borbe-s-internet-fejkami.html).

Можно отметить, что проведенное исследование позволяет говорить о значительной временной и финансовой экономии при использовании в медиа технологий искусственного интеллекта. Именно этот фактор назвали все 10 интервьюируемых сотрудников медиасферы. Кроме того, все также отметили упрощение работы журналистов за счет выполнения «машиной» рутинных задач, что в свою очередь повышает производительность.

ИИ способен распознавать закономерности и быстро принимать решения, находить закономерности в больших наборах данных и делать точные предсказания. Искусственный интеллект эволюционировал от простой программы по помощи в поиске информации к сложной системе, способной создавать аналитические тексты с последующей минимальной редактурой со стороны человека.

Отрицательные последствия заключаются прежде всего в том, что ИИ может представлять неточную или неполную информацию (для полных данных необходимо постоянно пополнять базу данных), неправильно интерпретировать контекст, усиливать существующие стереотипы и предубеждения. Кроме того, краткосрочная память ограничивает нейросети в способности обрабатывать большие по объему тексты, а также не позволяет понимать эмоции и чувства, чтобы выразить их в материале в дальнейшем.

Корпус проанализированных публикаций демонстрирует четкую разницу между виртуальными и реальными авторами, которая заключается в богатстве используемых выражений, эмоциональной окраске представляемых данных, правильной интерпретации происходящих событий. ИИ способен представить фактическую информацию, краткую справку, озвучить подготовленный текст, не более того. При этом непрерывное совершенствование нейросетей позволяет предположить в ближайшем будущем возможности создания аналитических материалов, созданных с помощью ИИ, который станет способен выявлять причинно-следственные связи, делать выводы, создавать точные прогнозы на основе загруженной в него системы данных (такое будущее видят 7 из 10 опрошенных представителей СМИ).

При этом есть опасения, что аудитория пока не готова увидеть виртуальных ведущих и роботов вместо реальных журналистов. Социологические исследования последних двух лет показывают, что россияне скорее негативно воспринимают ИИ в качестве создателя медиаконтента, относясь к машинным текстам скептически и крайне настороженно. Открытыми остаются и вопросы юридической ответственности за недостоверные данные и этическое регулирование работы нейросетей в качестве авторов или телеведущих. Все эти важные факторы свидетельствуют о научном потенциале данной темы и перспективах дальнейшего обсуждения.