Гримасы темного рекламы
Фото премьер-министра Великобритании Сунака с пивом «не в том стакане», либо Как дипфейки грозят политикам
Оригинал фото Риши Сунака (слева) и «ложное сообщение, несущий угрозу демократии» Фейковое фото премьер-министра Великобритании Риши Сунака, который наливает пиво «не в тот стакан», вызвало бурное возмущение у Консервативной партии. И однако не понятно, редактировали ли начальное фото при помощи ИИ, снова начались горячие споры о борьбе с дипфейками и маркировке произведённых при помощи ИИ изображений.
Угроза демократическим действиям
Английские специалисты по искусственному уму сообщили, что изображения политиков, сгенерированные либо отредактированные при помощи генеративных ИИ вроде Midjourney либо Stable Diffusion, «несут угрозу демократическим действиям».
Заявление соединено с недавней публикацией отредактированной фото, на которой глава правительства Англии Риши Сунак (Rishi Sunak) на фестивале пива в столице Великобритании из-за стойки бара протягивает гостю дешёвый стакан, недолитый крепким пивом Black Dub. Неподалеку от него стоит дама и косится на Сунака с саркастическим выражением лица.
Чрезвычайно скоро было установлено, что фото была существенно отредактирована: в реальности стакан был фирменным, пиво долито до краев, а выражение лица у дамы, которая стояла рядом, было совсем нейтральным.
Но отредактированное изображение поначалу запостил в собственных социальных сетях член Парламента от партии лейбористов Карл Тёрнер (Karl Turner), а потом и иные члены партии.
Консерваторы, со своей стороны, взорвались возмущением. Заместитель премьер-министра Оливер Дауден (Oliver Dowden) назвал изображение недопустимым и попросил членов лейбористской партии поудалять эту псевдофотографию, так как она «вводит в заблуждение».
Будущее, которое не много кому понравится
Специалисты сообщают, что сегодняшняя положение дел — это индикатор того, что может произойти в процессе избирательной кампании в предстоящем году, и что однако не до конца ясно, был применен ли в случае с фото с главой правительства, такие программы дали возможность резвее и легче создавать липовые (и при всем этом неоспоримые) тексты, фото и аудио.
Доктор информатики Института Саутгемптона Уэнди Холл (Wendy Hall) сообщила, что внедрение цифровых технологий в общем и ИИ в частности — это угроза демократическим действиям, и следует принять экстренные действия к снижению рисков ввиду скорых голосования в США в Англии.
Швета Сингх (Shweta Singh), доцент кафедры информсистем (вроде нет такого сокращения, но размножила) и управления в Институте Уорвика, со своей стороны, сообщила о необходимости установить ряд этических принципов, которые дозволят людям осознавать, что в новостях они видят заслуживающую доверия данные, но не ложные сообщения.
Ей вторит доктор Фейтен Госн (Faten Ghosn), глава кафедры муниципального управления в Институте Эссекса, подчеркнувшая, что обязанность политиков — предоставлять информацию граждан об использовании отредактированных изображений. Другими словами, просто говоря, помечать изменённые при помощи цифровых технологий изображения, чтоб не появлялось иллюзий, как будто они истинные.
Проект закона, размещающийся на той же мысли уже выдвинут в США.
Политики-лейбористы решили, видимо, настаивать на том, что ничего ужасного не случается.
«Основной вопрос: как может кто-нибудь знать, что фото — дипфейк? Я не стал бы осуждать Карла Тёрнера за опубликование фото, которая смотрится полностью настоящим», — сообщил Даррен Джонс (Darren Jones), глава парламентского комитета по бизнесу и торговле.
А в качестве ответа на критику со стороны руководителя Министерства науки Мишель Донелан (Michelle Donelan), он осведомился, что делает её учреждение для выявления дипфейков ввиду близящихся голосования.
Системный подход
При этом, министерство науки сначала года обнародовало отчет, в каком изложены главные принципы контроля над разработкой новых технологий (но не личных запретов определенных товаров).
После его выхода сам премьер Сунак поменял риторику с прославления ИИ как источника новых возможностей на предупреждения про то, что развитие ИИ нужно снабдить «перилами».
При этом, самые влиятельные компании, которые занимаются разработкой ИИ, уже согласились на создание целого ряда новых ограничений для ИИ. А именно, по результатам встречи с главой Соединенных Штатов Америки Джо Байденом (Joe Biden), представители Amazon, Гугл, Meta, Майкрософт и OpenAI решили автоматом помечать водяными знаками хоть какой зрительный и аудиоконтент, который был создан с их помощью разработок.
«Маркировка ИИ-информации — мысль верная, но сработает ли она полностью, это ещё вопрос, — полагает Дмитрий Гвоздев, руководитель организации «IT-продукты грядущего». — Во-1-х, водяные знаки чрезвычайно тяжело удалить, но сравнимо просто добавить. И, при этом, хоть какой правдивый компромат, который всплыл во время верхней фазы политического сезона, можно будет закамуфлировать под дипфейк. А, как понятно, изобличение подделок и опровержение ереси просит во большое количество раз больше времени и сил, чем их создание. Во-2-х, даже если самые передовые создатели генеративного ИИ воспримут нужные ограничения, то совершенно не значит, что это сделают все другие. Мы уже следили отчётливо вредные ИИ, которые применяются для интернет-мошенничества, — у кого-либо нашлись возможности научить языковую модель криминальной работе, безо всяких ограничений, которыми пичкают свои разработки OpenAI и иные. Думаю, это только начало. Не удивлюсь, если применение «чёрного ИИ» войдёт в обиход у чёрных пиарщиков и нерадивых политических специалистов. В техническом плане это всего только вопрос вычислительных мощностей».
Специалист также сообщил, что обширное внедрение дипфейков в конечном итоге может всецело компрометировать фото и контент видеоформата в сегодняшнем виде. Однако это также может подстегнуть развитие новых видов носителей инфы — больше сверхтехнологичных и защищённых от попыток подделать содержащуюся в них данные.
***
Глава региона Калифорнии Гэвин Ньюсон (Gawin Newson) подписал проект закона, который регулирует распространение дипфейков. Он воспрещает выкладывать в общий доступ липовые ролики с политическими претендентами в течение 60 дней перед началом голосования. Про это рассказывает Engadget.
Технологии замены лиц на видео всего за несколько лет перебежали от достаточно простых прототипов (речь прежде всего идет о пользователе Reddit deepfakes, который в 2017 году обучил искусственная нейронная сеть накладывать кадры на лица актрис в порнографических видео) до отменно работающих алгоритмов, распознать показатели работы которых становится все труднее. Очевидно, продуктивность работы таковых алгоритмов увеличивает возможность того, что дипфейки будут употребляться в ущерб, что в индивидуальности небезопасно для популярных личностей вроде политиков, в связи с тем, что в сети интернет часто доступно значительное число роликов с их участием, которые можно применять для обучающей подборки.
Подписанный проект закона — 1-ый узнаваемый закон, который ограничивает распространение конкретно дипфейков в сети интернет. Действие проекта закона ограничивает распространение дипфейков с участием политических претендентов в форме аудио, видео и фото в течение 60 дней до голосования. Закон будет действовать как в отношении материалов, в которых подменены лица и голоса политиков, так и на материалы, в которых на изображения политиков накладываются чужие лица и речь. При всем этом в проекте закона подчеркивается, что кадры либо ролики с политиками, в которых употребляются материалы с участием остальных людей, должны сопровождаться предупреждением. Закон будет действовать до 1 января 2023 года.
На данный момент непонятно, как конкретно будут определять замену в схожих материалах — автоматом либо нет — но большие информационно-технологические организации уже делают свои датасеты для обучения алгоритмов, которые определяют замену лиц на видео. Например, датасеты для борьбы с дипфейками уже собрала Гугл, а Фэйсбук и Майкрософт в дополнение к датасету сообщили о начале конкурса для разрабов.
«Сфера», 15.06.2020, «Фальшивое будущее: интернациональный опыт (не) регулирования дипфейков»: В большинстве государств мира нет точного регулирования дипфейков, однако об их угрозы говорят везде. В качестве «положительного» примера можно привести Китай, где с 1 января 2020 года дипфейки должны быть подходящим образом помечены, при этом эта норма касается и производителей, и online-площадки, где этот ролик либо голосовая запись будут размещены. Как конкретно власти будут различать настоящие видео от высококачественных ложных сообщений — не сообщается, но нарушителям угрожает уголовное наказание.
Подобные меры приняты не зря. Дипфейки способны не только подорвать репутацию хоть какого — будь то узнаваемый либо средний человек — но также грозят государственным институтам либо даже государственной безопасности, ведь от дипфейков не защищены и политические лидеры. Например, на голосовании 2019 года английский политический деятель Борис Джонсон предложил гражданам оказать поддержку своему конкурента в противоборстве за должность главы правительства государства — Джереми Корбина. Корбин, со своей стороны, предложил аудитории поддержать Джонсона. Два видео неотличимы от реальных — мимика и голоса точно соответствуют Джонсону и Корбину. Но в действительности это ложные сообщения, которые были созданы организацией Future Advocacy, чтоб продемонстрировать воздействие новых технологий на демократические процессы. — Врезка К.ру
***
В российском правовом поле покажется официальное понятие «дипфейк». Проект закона об этом планируют внести в нижнюю палату в осеннюю сессию, сказали средствам массовой информации в комитете Государственной Думы по информационной политике. […]
Нейроопасность
Заместитель председателя комитета Олег Матвейчев объяснил: сейчас люди более часто стали применять искусственная нейронная сеть прежде всего для утехи, поместив фото в достойные внимания декорации, чтоб узреть себя либо близких в новом виде. Но в течение 3–пять лет данный механизм разрастется, и к его использованию примкнут аферисты. […]
Политический деятель также предсказывает опасности дискредитации: преступники могут применять фото человека, «приписав» ему на видео получение взятки, либо просто добавить его изображение на публикацию откровенного характера. Как он сообщил, подразумевается не только дать правовое определение такому явлению, да и обмыслить регуляторные механизмы: как выслеживать, кто несет ответственность, так как «на искусственная нейронная сеть нельзя обратиться в судебные инстанции», он дополнил. В условиях актуальности трудности документ готовится ко внесению в Государственную Думу уже в осеннюю сессию в текущем году, сообщил член парламента.
До этого СМИ уже сообщали о схожей инициативе, тогда фракция ЛДПР высказывала предложение ввести наказание в соответствии с Уголовным кодексом за дипфейки при финансовом мошенничестве при помощи замены голоса либо изображения человека. 4 июня появилась информация, что в кабинете министров России не поддержали проект закона, указав на то, что нелегальное распространение личных сведений гражданина, в том числе применение искусственного ума, подпадает под действие ст. 137 УК Россия («Нарушение неприкасаемости личной жизни»).
Действительность угрозы
Такие сети состоят из 2-ух частей: пока одна из них генерирует поступившие материалы от пользователя, 2-ая отсеивает не похожие на начальные данные части загруженного информации, рассказал эксперт в области обработки данных Дмитрий Каплун. В итоге это приводит к довольно высококачественным изображениям: так как объекты не добавлялись товарищ на друга по отдельности, а были сделаны вместе единой картинкой на базе представленных данных. […]
— Даже спецам чрезвычайно трудно отличить надежный кадр от дипфейка. Одним из методов остается их «недочет» — нехорошая передача отражения, например, в зеркалах, окнах либо даже в зрачке глаза. Они автоматом «идеализируют картину», даже убирая красные глаза, а в настоящих фото это всё есть. Еще можно по количественным аспектам оценить, если обработать подходящим образом фото, то получится посчитать их метрики, тогда и мы увидим разницу, но скоро и их количество закончит различаться. Это трудозатратный процесс, — сообщил средствам массовой информации Дмитрий Каплун. […]
Если Вас заинтересовала новость:
- Ниже на странице вы можете видеть взаимосвязанные статьи (при их наличии).
- Обратите внимание на ссылки, имеющиеся в статье, за ними содержится дополнительная информация.
- Воспользуйтесь поиском на сайте для получения дополнительных материалов по интересующей вас теме.
