Всі новини

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ? написал знаменитый физик, ? на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ? написал Хокинг, ? вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ? ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ? появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Загрузка...


Добавить комментарий
  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent
Читают Комментируют
Паспорта РФ и украинский язык: жители освобожденных сел удивили ВСУ
32 056
Соцсети взорвал двухэтажный балкон с лифтом в центре Киева
28 936
"На колени...": Сеть возмутило выступление украинского политика на КремльТВ
24 524
Уехали в "ДНР": в сети показали курсантов-предателей из харьковского вуза
23 555
После боя фанаты в Нью-Йорке остановили Ломаченко и заставили выполнить их просьбу
21 411
Украинская певица сделала резкое заявление о Виннике
21 090
"Когда он Крым отдаст Украине?": Жительница полуострова задала вопрос президенту РФ
20 554
Соцсети высмеяли террориста, выдающего себя за «коренного украинца»
18 483
Стало известно, кем Россия заменила террористов на Донбассе
18 111
"Дно": Конкурс красоты в «ДНР» подняли на смех
17 383
«Вот все и встало на свои места: он — бес!»: В Сети показали пудовую голову Путина
15 421
Соцсети подняли на смех опечатку в паспортах «ДНР»
14 835
Пленки Курченко и Саакашвили: криминолог сообщила о сенсационной детали
13 324
"На колени...": Сеть возмутило выступление украинского политика на КремльТВ
18
"Спасибо небу, что я стою здесь": Лобода произнесла речь на сцене в России
12
Уехали в "ДНР": в сети показали курсантов-предателей из харьковского вуза
7
В сети жестко высмеяли олимпийский позор Кремля
6
Эту страну не победить: Сеть насмешил «штурм» помоек российскими пенсионерами
6
Снежная королева уже не та: Сети повеселили фото новогоднего конкурса в оккупированном Крыму
5
Тимошенко потребовала от Порошенко немедленно освободить Саакашвили
5
Соцсети высмеяли террориста, выдающего себя за «коренного украинца»
5
"Дно": Конкурс красоты в «ДНР» подняли на смех
5
Порошенко: Ситуация с Саакашвили не стоит международного внимания
4
Создатель "ДНР" сделал громкое признание о связи с украинскими политиками
4
Путин, бай-бай! Президент России оконфузился на пресс-конференции
4
Есть убитые и раненые: на Донбассе прошел мощный бой
3
Как вы выбираете, какие игрушки подходят вашему ребенку?

Эта статья предлагает некоторые идеи для выбора игрушек, ...

Каким женщинам чаще всего изменяют мужчины

Проблемы в любви переживаются тяжелее всего. Предотвратить ...

Когда и какую воду пить лучше — теплую или холодную?

Мы все знаем о важности потребления достаточного количества ...

Десять эротических игр для вашей спальни

Сексологи все время советуют «привносить в секс ...