Новини

11:54
Однако: США, Япония и Китай на 10 лет отстали от России в сфере радиоэлектроники: депутат Госдумы
11:44
Киев потерял место самого дорого города Украины
10:52
Собака, успокаивающая плачущую девочку, растрогала пользователей Сети
09:57
С января в Крыму резко возросли тарифы на коммуналку
09:34
Microsoft рекламирует расширение для Chrome в Windows 10
09:09
67-летняя Пугачева без макияжа восхитила поклонников молодым лицом
09:04
В феврале украинцам обещают временно отключить интернет
08:40
Фото Светланы Лободы без макияжа вызвало восторг фанатов
08:20
В Украине подорожали автомобили: что будет с ценами в 2017
08:17
Расстрел адвоката в Киеве: опубликованы кадры с места преступления
08:11
В Польшу прибыли первые американские крылатые ракеты
08:07
Настя Каменских приятно удивила странным снимком
07:53
Работник липецкого "Рошена": "Жаль что закрыли, нам хорошо платили"
07:50
Надежда Мейхер откровенно рассказала о своей болезни
07:29
Что ждет Украину и украинцев в 2017 году? Предсказание астролога
07:14
Известный украинский футболист поразил своим выступлением на собрании Иеговистов
07:11
Вся в золоте: Мелания Трамп подчеркнула сексуальные формы на званом ужине
21:45
Астронавты засняли в космосе таинственный летающий объект
21:37
В Раде предложили провести тотальную украинизацию
21:10
ВВС сообщил о ранении Трампа при покушении
21:06
Китайцы похищают наши личные данные через приложение для обработки фото
20:54
Саакашвили похвалил президента за закрытие "Рошен"
19:49
Стоимость литра бензина в США упала до 12 центов
18:25
Карты Google назвали здание ФСБ в Калининграде управлением Гестапо
18:15
В Одессе горит Привоз: на месте работают пожарные
18:03
Сколько стоит отопление в Украине, Польше, России и Беларуси
17:17
Улица "Путин нас спас": пранкер потроллил жителей Крыма
16:52
Украина не выполнила 8 из 11 обязательных условий для получения транша МВФ
16:43
Коррупционеры в судах: Людмила Салтан и ее коллеги
16:39
Женщины-депутаты устроили массовую драку в турецком парламенте
16:27
Ле Пен заявила, что Brexit будет иметь эффект домино по всей Европе
16:21
ICU уличила Бахматюка во лжи
16:17
Бахматюк собрался «кинуть» кредиторов на 1,7 млрд долларов
15:54
Саакашвили наблюдал за инаугурацией Трампа из кустов
15:45
Страшное убийство в Киеве: обнародованы кадры с места ЧП
15:40
Команда Кононенко нашла новый источник обогащения
15:28
Украинцы начали активно покупать электрокары
15:25
Снова спасли. «Эксперименты» на Южно-украинской АЭС доведут до «Чернобыля»
Більше новин

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

0

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ― написал знаменитый физик, ― на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ― написал Хокинг, ― вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ― ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ― появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Загрузка...