Человечество не сможет контролировать искусственный интеллект

Ученые из Общества научных исследований имени Макса Планка, известного европейского исследовательского учреждения, утверждают, что человечество никогда не сможет контролировать сверхразумный искусственный интеллект (СИИ), который может нас спасти или уничтожить.

Человечество не сможет контролировать искусственный интеллект
© pixabay.com

Соответствующее исследование было опубликовано на прошлой неделе в Journal of Artificial Intelligence Research (журнал исследований искусственного интеллекта).

Проблема, по словам ученых, в том, что для создания «алгоритма сдерживания» необходимы технологии, которые будут более совершенны, чем те, что потребуются при создании СИИ.

Допустим, СИИ задумал уничтожить человечество и запустил соответствующие алгоритмы. Для того чтобы «алгоритм сдерживания» сработал, он должен успеть проанализировать алгоритмы СИИ, распознать в них угрозу и заблокировать до того, как они будут исполнены. Другими словами, «алгоритм сдерживания» должен быть мощнее СИИ, что является абсурдом.

Воинственный искусственный интеллект

Вероятно, до дня создания СИИ еще очень далеко и не факт, что машина увидит в нас врагов, которых ей захочется уничтожить. Однако очень умные люди работают над тем, чтобы у нас была надежная защита от технологии, которая хотя бы гипотетически способна выйти из-под контроля.

Человечество не сможет контролировать искусственный интеллект
© pixabay.com

«Сверхразумная машина, которая управляет миром, звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют определенные важные задачи, и программисты полностью не понимают, как они этому научились. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества», — сказал в пресс-релизе соавтор исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института развития человека имени Макса Планка.

Один комментарий к “Человечество не сможет контролировать искусственный интеллект

  1. Дабы избежать подобных опасений и не пугать мировое сообщество подобными химерами , необходимо сначала определить моральные , юридические и технические параметры устройств путем присвоения им степени компетенции и прав наисполнения соответствующего уровня здач, предлагаемых для решения или обработки данным субъектом! если Вы заставите Утюг решать родовспомогательные задачи , то Я уверен , что очень скоро таких ученых уже скоро в вашем Центре им. Планка станет меньше или не станет совсем! И чем тратить время и деньги на пустое сотрясение воздуха — займитесь формированием юридико философской базы приминения ИИ! А если бы какая то структура имела своей целью уничтожение человеческой цивилизации , то это давно бы произошло и помимо Нашей воли и воли ИИ, но слава Богу Мы настолько малы и малозначительны в МИРЕ . что всем на НАС просто наплевать!

Добавить комментарий

Ваш адрес email не будет опубликован.

Закрепите на Pinterest