У глубокого обучения машин есть и обратная, негативная, сторона — с его помощью создают поддельные видео с политиками, подделывают результаты голосования и влияют на общественное мнение. Исследования показывают — из-за деятельности хакеров люди все больше разочаровываются в институте власти, все меньше ему доверяют. Аналитики VentureBeat пытаются понять, насколько современные технологии опасны для общества, и как улучшить взаимоотношения между людьми и властью с помощью ИИ.
Искусственный интеллект, без сомнения, стал угрозой для современного демократического общества. Вредоносные боты оказали особое влияние на президентские выборы в 2016 году в США. Они же вмешались и в мексиканские выборы, состоявшиеся 1 июля 2018 года.
Сразу несколько западных СМИ после победы на выборах президента США Дональда Трампа опубликовали инсайды о вмешательстве российских хакеров и ботов в выборы. Согласно данным Advertising Age на рекламную кампанию в ходе выборов 2016 года было потрачено $9,8 млрд, из них $100 тысяч досталось российской «фабрике тролей», с которой были заключены партнерские соглашения.
Живые блогеры и автоматизированные боты распространяли среди американцев в Facebook негативные сообщения о Демократической партии и кандидате от них — Хиллари Клинтон. Информационный уровень этих сообщений крайне низкий, однако эмоциональность успешно изменяла настроение аудитории. Кроме того, боты активно ретвитили сообщения Трампа, игнорируя Клинтон.
«То, что совершили русские тролли, было военным актом, атакой с помощью методов 21 века», — пишет обозреватель Карен Тумилти.
Еще более тревожным стало исследование, опубликованное в июне 2018 года. Большинство людей в демократических обществах по всему миру не верят, что их голоса реально имеют вес. В последние годы наступило разочарование в современных системах государственного управления. Причина кроется в изменениях самих этих институтов. Но свою роль в этом сыграло и использование иностранными хакерами искусственного интеллекта в преступных целях.
В поиске deepfake
В начале 2018 года, когда приложение Deepfake по перемещению лица одного человека на тело другого стало главной новостью в СМИ, возможности злоупотребления такой технологией стали очевидны.
Deepfake — метод синтеза изображения человека на основе ИИ. Название образовано от deep learning, «глубокое обучение», и fake, «фальшивка». Приложения на основе этого метода использовались для создания поддельных видео со знаменитостями, а также ненастоящих роликов с участием политиков. «Жертвой» кибершутников стал Барак Обама, который якобы говорит нецензурные слова в своем обращений, а также канцлер Германии Ангела Меркель, которая выступала перед парламентом с лицом Трампа.
Предугадывая неминуемую угрозу независимые компании и правительственные агентства разработали инициативы для предотвращения потенциально опасных последствий.
Стартап Truepic, работающий с Reddit для идентификации проплаченного и фейкового контента, недавно закрыл сбор на $8 млн и в скором времени начнет разрабатывать методы борьбы с видеофейками. Также в июне 2018 года исследователи из Государственного университета Нью-Йорка (SUNY) объявили: они разработали модель компьютерного зрения, чтобы отслеживать, как люди моргают в видео с заменой лиц.
Этим летом Агентство перспективных исследований обороны (DARPA) профинансировало конкурс для ведущих специалистов в области судебной экспертизы, чтобы найти способы определения измененных образов.
Выборы в нижнюю палату Конгресса США, которые состоятся в ноябре 2018 года, скорее всего, станут испытательным полигоном для дополнительного вмешательства в избирательный процесс со стороны иностранных противников. Журналист VentureBeat Кари Джонсон надеется, что люди окажутся готовы более осторожно воспринимать информацию.
Как сказал комик Джордан Пил, используя лицо Барака Обамы: «Это может показаться очевидным, но то, как мы ведем себя в этот век информации, определит, сможем ли мы выжить или превратимся в чертову антиутопию».
Анализ языка
Стэнфордский профессор Дэн Журафски, из Школы компьютерных наук и NLP Group, объединился с профессором психологии Дженнифер Эберхардт. Вместе они используют обработку живой речи для сканирования стенограмм. Объектом их исследования стали 100 часов записанных разговоров между полицией и людьми, которых они останавливают для проверки документов на дороге.
Работа Журафски и Эберхардт — это один из первых экспериментов по анализу общего поведения и языка тела по камерам видеонаблюдения. Они продолжат свое исследование и классифицируют тон, с которым полицейские разговаривают с людьми. Устройства для записи разговоров были первоначально установлены многими полицейскими управлениями в качестве доказательств достоверности показаний.
Анализ полученных кадров дает информацию, помогающую правоохранительным органам лучше понять, когда изменение речевого поведения может спасти ситуацию.
Голосовой помощник для связи с властью
В 2017 году было создано приложении Alexa. Оно было задумано, чтобы оповещать жителей о часах работы библиотеки, новостях местных органов власти и о последних действиях, предпринятых городским советом. Цель Alexa, как сказал представитель администрации Лос-Анджелеса, заключается в том, чтобы умные пользователи наладили работу всех служб города.Сегодня Alexa или Google Assistant, управляемые администрацией муниципалитета, рассказывают жителям о днях сбора мусора или часах работы бассейна, но правительство стремится к более амбициозным приложениям.
Частота использования виртуального помощника растет. А большинство домов США, как ожидается, в течение 5 лет приобретут дополнительный модуль Smart Speaker — одну из самых простых форм ИИ. Устройство сразу готово к использованию. Пользователю не нужно знать и объяснять прибору, как правильно читать или писать. Он просто открывает рот и говорит.
Если администрации городов будут использовать платформы голосовых приложений, чтобы привлечь большую аудиторию, это изменит отношение к правительству к лучшему.
Будет еще лучше и полезнее, если платформа Amazon примет и запустит простые в использовании фразы типа «Alexa, спросите город ...», чтобы сделать запросы максимально простыми для жителей города.
Жители смогут напрямую пообщаться с местными учреждениями — для решения проблем важнейших городских служб, таких как контроль животных и вывоз мусора, а также для сокращения бюрократии и предоставления гражданам возможности высказывать мнение.
Прямая демократия
Прямая демократия всегда казалась недостижимой по целому ряду причин.Цезарь Идальго из MIT Media Lab предлагает странам прогностические алгоритмы для изучения модели поведения людей. ИИ, в свою очередь, будет голосовать от их имени, принимая во внимание реальные предпочтения. Он видит в этом возможность осуществления прямой демократии.
Этот подход определенно устраняет иллюзию, что человек — политик или нет — голосует, принимая во внимание сиюминутные заслуги, не учитывая того, что было раньше. Такая четкая выборка сделает правительство более восприимчивым к потребностям электората.
Но этот способ вряд ли будет серьезно рассмотрен политиками в ближайшем будущем. Такой подход даст толчок исследователям ИИ для изучения законодательных возможностей или рассмотрения различных вариантов применения виртуального помощника для голосования.
Не так сложно уже сейчас представить себе помощника, вроде экспериментального приложения Project Debate, который поможет остроумно парировать в дебатах, будет бороться с фальшивыми новостями и объективно спорить за или против определенных поправок в законодательстве.
.jpg)
