Новини

10:55
В Днепре горел популярный аквапарк
10:45
Голливуд снимет сериал о Brexit
10:30
Ученые сделали сенсационное заявление для курильщиков
10:14
Сеть в восторге от нового образа Оли Поляковой
09:49
Катя Осадчая прогулялась по Испании в платье за 500 евро
09:43
В Германии "голубые карты" получили уже почти две тысячи украинцев
09:39
"Ползла по дороге у остановки". Киев окружили змеи
08:22
"Космические" зарплаты Минюста разъярили украинцев
документ
08:18
6 міфів про вечерю після 18.00
07:59
Оля Полякова поразила Сеть пикантным образом
19:30
Це загроза загальнодержавного характеру. Як на мене, вона небезпечніша ніж навіть війна. Без перебільшення, — Гриценко
19:16
Альбина Джанабаева поразила стройной фигурой в купальнике
19:12
Инжир: польза для здоровья и секреты употребления
19:00
Сколько "стоит" пенсия в Украине и других странах
18:58
В Украине объявлен высший уровень пожарной опасности
18:55
Дело ПриватБанка: Украину предупредили об огромных убытках
16:07
Елена Кравец из "Квартала 95" показала фото в купальнике
15:20
Жвачка помогает выявить скрытые заболевания
15:13
Я не сепаратист, нас заставляли - Кернес о попытке создать ХНР
15:10
Украинские пограничники перешли на усиленный режим работы
13:29
Эксперты составили «черный список» косметики
12:52
В Раде готовят самое суровое наказание для пьяных водителей
12:50
В Украине появился новый вид мошенничества: воры «модернизируют» банкоматы
12:47
В Украине запущен масштабный процесс эмансипации от России
12:35
Стоп мясу. Сосиски и котлеты вызывают рак
12:33
Могилевская показала пикантную фотографию из спортзала
08:31
Видеошок: апокалиптическое облако в виде "руки Бога" напугало бразильцев
08:26
У Ани Лорак взлетело платье на пляже в Турции
08:19
Как не заразиться вирусом Petya.A и ему подобными
08:02
Как быстро избавиться от похмелья без таблеток
07:54
Даша Астафьева похвасталась пышной грудью в необычном купальнике
07:48
Девушка с собакой: Появились фото нового заместителя министра Ревы по евроинтеграции
07:44
Россияне завидуют Украине: генерал сделал яркое заявление
07:39
В Запорожье собрали первый украинский вертолет
07:38
"Великое американское затмение" погрузит материк во тьму
07:25
Как очистить кишечник от шлаков
07:25
Снимки Софии Ротару без макияжа облетели весь интернет
21:21
Бороться с целлюлитом поможет кофе и корица
Більше новин

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

0

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ― написал знаменитый физик, ― на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ― написал Хокинг, ― вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ― ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ― появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».


Загрузка...