Новини

21:28
Опубликованы архивные кадры с немецкими нацистами на Красной площади в 1941
21:18
Непристойная тренировка от российской чемпионки возмутила сеть
21:09
Евро мертв: Ле Пен пообещала после своей победы вернуть в оборот старые банкноты
21:06
Эксперт рассказал, как необходимо планировать семейный бюджет
17:48
"Правый сектор" отличился дракой на скандальной стройке в Одессе
17:45
Стивен Хокинг предсказал, от чего погибнет человечество
17:19
МВФ не видит конкретных результатов от антикоррупционной реформы в Украине
14:30
Как Кличко не добил Джошуа: Все нокдауны (видео)
14:30
Перепись населения в Украине: названа "цена вопроса"
13:17
Право на правду. Почему янтарный бизнес до сих пор процветает
13:05
Учеными опровергнута главная теория происхождения человека
12:20
Крымское предательство: в соцсети поразились цифрам
12:14
Андрей Шевченко выдал перл после поражения Кличко
12:08
"ВКонтакте" ввела платную подписку на музыку
11:25
ООН оценила потери России в результате войны с Украиной минимум в 52 млрд долларов
11:17
Найдено новое объяснение молчания инопланетян
11:01
Пополнил счёт – лишился денег: украинцам указали на опасные мошеннические сайты
10:57
Многие пункты меморандума с МВФ противоречат Конституции, — Бессмертный
09:45
Ученые NASA: Наше Солнце рождает новые планеты
09:39
Джамала поделилась снимками с медового месяца
09:29
Минобороны показало мощь украинских танков
09:20
Французский режиссер Люк Бессон призвал голосовать против Ле Пен
09:19
К 9 Мая готовы: крымские оккупанты торгуют останками солдат
08:48
"Нас сейчас ненавидит весь мир только из-за этого упыря": 82-летняя россиянка
08:33
Украинскую певицу устыдили за эротический клип
08:32
Молчать и терпеть: в РФ рассказали, чем украинцы отличаются от россиян
08:29
Компания Vivos Group из Калифорнии строит новейшие бункеры на случай Конца света
08:28
Алла Пугачева исполнила мечту Кристины Орбакайте
08:19
В Славянске мастера изготовили прототип "Ждуна" в образе Юлии Тимошенко
08:10
Обещания, которые Трамп выполнил за 100 дней пребывания у власти
08:08
Ученые назвали главную угрозу для планеты в 2017 году
08:07
Просто цирк: В России в храме устроили шоу с акробатикой
07:55
В 2020 году ученый Канаверо пересадит человеку голову
07:52
Проигрыш Кличко Джошуа: Последние секунды боя (видео)
07:51
Маша Кончаловская пошла на поправку после трех лет комы
07:47
Сети поражены: ведущая полностью разделась на кулинарном шоу
07:46
Microsoft просит пользователей не спешить устанавливать Windows 10 Creators Update
07:39
Трамп не исключил военного удара по Северной Корее
Більше новин

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

0

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ― написал знаменитый физик, ― на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ― написал Хокинг, ― вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ― ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ― появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».


Загрузка...