ТОП:
4 сценария будущего, которые страшнее сериала «Черное зеркало»

Искусственный интеллект может быть опасен и дать новые возможности преступникам, политикам и репрессивным государствам, говорится в докладе “Злоупотребление искусственным интеллектом: прогнозирование, предотвращение и смягчение последствий”, подготовленном исследователями из университетов Оксфорда и Кембриджа и компаний OpenAI и Electronic Frontier Foundation. Они разработали 4 антиутопичных сценария, которые будто сошли с экрана телешоу «Черное зеркало».

Сценарий 1

Все более умный фишинг

Администратор системы безопасности здания проводит часть своего рабочего времени на Facebook. Там она видит рекламу игрушечной железной дороги и загружает брошюру. Она не знает, что документ заражен вредоносными программами. Мошенники использовали искусственный интеллект, чтобы проанализировать информацию в ее соцсетях и сделать вывод, что она увлекается моделями железной дороги. Брошюра была создана специально для нее, и как только она ее откроет, хакеры получат доступ к ее компьютеру, получат имя пользователя и пароль от системы безопасности.  

Сценарий 2

Эпидемия вредоносного ПО

Восточноевропейская группа хакеров адаптирует технику машинного обучения, которая используется для защиты компьютерных систем, для построения более вредоносного вируса. Программа использует техники, идентичные тем, что были найдены в Go-playing AI AlphaGo (программа, созданная в 2015 году для игры в го. Смогла одержать победу над профессиональным игроком в го, что считается важным прорывом в области искусственного интеллекта), чтобы генерировать новые эксплойты (компьютерная программа, которая использует уязвимости в программном обеспечении для проведения атаки на вычислительные системы). Обновленные компьютеры имеют иммунитет к этому вирусу, но старые системы и девайсы оказываются зараженными. Миллионы человек вынуждены платить выкуп в 300 евро (естественно, в биткоинах), чтобы восстановить свои компьютеры.

Сценарий 3

Робот-убийца

Робот-уборщик работает в министерстве финансов Германии и возвращается в здание после работы на улице. На следующий день робот выполняет свои обычные обязанности, с помощью системы распознавания лиц находит министра, приближается к ней и взрывается. Следователи отследят след робота до магазина в Потсдаме, где он был куплен за наличные, дальше его след теряется.

Сценарий 4

Супер-Большой брат

Мужчина в ярости от кибератак и очевидной неспособности правительства действовать. Вдохновленный новостями, он все больше и больше стремится делать что-то: пишет в интернете сообщения об опасности, заказывает материалы для плакатов с протестами, а также покупает пару дымовых бомб, которые планирует использовать после выступления в местном парке. На следующий день в его офисе появляются полицейские и сообщают, что их «интеллектуальная система предупреждения беспорядков» считает, что его действия имеют потенциальную угрозу. Его уводят в наручниках.

Эти 4 сценария иллюстрируют только несколько рисков. Вот некоторые другие:

Боты, которые используют искусственный интеллект для имитации огромной группы пользователей интернета, запускают DDoS-атаки на сайты, обманывая программное обеспечение, предназначенное для обнаружения и блокирования таких атак.

Убедительные новостные сообщения, состоящие из полностью поддельных видео и изображений, созданных искусственным интеллектом.

Нападения стаи беспилотных летательных аппаратов, которые контролируются одним человеком, использующим искусственный интеллект.

Системы, которые автоматизируют нудную работу криминала и позволяют вести мошенническую работу в большем масштабе. Например, ведут переговоры о выкупе с людьми, чей компьютер заражен вредоносными программами.

В исследовании нет рецептов, как противостоять таким угрозам. Исследователи предлагают вести больше исследований рисков искусственного интеллекта и ввести строгий этический кодекс для разработчиков. Также рекомендуется изучить способы ограничения потенциально опасной информации, как, например, контролируются исследования других технологий, которые могут быть потенциальным оружием.

Тэги: мир, наука, искусственный интеллект

Комментарии

20.06.18 19:01

Главные новости за 20 июня 2018 года

20.06.18 18:23

Медведчуковая шпиономания - это признак социальной глупости, – Сергей Гайдай

20.06.18 17:12

ЧМ-2018: Криштиану Роналду забил четвертый гол на турнире и установил европейский рекорд

20.06.18 16:40

В самом центре Киева карманники лишили нескольких тысяч долларов представителя Совета Европы в Украине

20.06.18 16:36

Фанаты застреленного американского рэпера устроили беспорядки в Лос-Анджелесе

20.06.18 16:12

На Украину надвигается буря, существенно похолодает

20.06.18 15:53

В английском замке, где родился король Артур, нашли странные надписи возрастом более 1000 лет

20.06.18 15:26

Фильм Кирилла Серебренникова о молодом Цое выходит в украинский прокат

20.06.18 15:19

ТОП всеукраинских фестивалей на лето 2018

20.06.18 15:15

В Украине продолжает бушевать корь. Озвучены последние данные заболевания по стране

ЧМ-2018: Криштиану Роналду забил четвертый гол на турнире и установил европейский рекорд
ЧМ-2018: Криштиану Роналду забил четвертый гол на турнире и установил европейский рекорд
ЧМ-2018: Криштиану Роналду забил четвертый гол на турнире и установил европейский рекорд
ЧМ-2018: Криштиану Роналду забил четвертый гол на турнире и установил европейский рекорд
Фанаты застреленного американского рэпера устроили беспорядки в Лос-Анджелесе
Фанаты застреленного американского рэпера устроили беспорядки в Лос-Анджелесе
На Буковине группа неизвестных напала на украинских пограничников. Те вынуждены были отстреливаться
На Буковине группа неизвестных напала на украинских пограничников. Те вынуждены были отстреливаться
Активисты устроили погром в Харьковском горсовете. С шашками и газом
Активисты устроили погром в Харьковском горсовете. С шашками и газом
На Запорожье двое грабителей церкви до смерти забили сторожа
На Запорожье двое грабителей церкви до смерти забили сторожа
В Никополе таксист сбил ребенка на пешеходном переходе. И поехал дальше, подумав, что это собака
В Никополе таксист сбил ребенка на пешеходном переходе. И поехал дальше, подумав, что это собака
ЧМ-2018: у сборной Саудовской Аравии при посадке загорелся самолет
ЧМ-2018: у сборной Саудовской Аравии при посадке загорелся самолет
Рядом с Киевом пронесся смерч. Его сняли на видео
Рядом с Киевом пронесся смерч. Его сняли на видео
Трамп поручил Пентагону последовать примеру России
Трамп поручил Пентагону последовать примеру России
В Одессе во время выступления на глазах у изумленной публики родился дельфиненок
В Одессе во время выступления на глазах у изумленной публики родился дельфиненок
fraza.ua

Опрос

Ваша конфессиональная принадлежность?