Новини

22:14
Принят закон об обязательной установке в домах счетчиков тепла и воды
22:10
В Сети смеются над фото намокших Путина и Медведева
21:57
Виталий Кличко представил Киев на Конгрессе Всемирной ассоциации мегаполисов
20:47
Черкассы первыми в Украине запустили в маршрутках электронные билеты с QR-кодом
20:44
Громкий строительный скандал разгорелся в Киеве
20:40
Украинцам пообещали питьевую воду из кранов
16:16
Порошенко: "Северный поток-2" направлен против всего Евросоюза
15:39
Как Савченко начала оголяться в Раде: скандальные фото
15:22
Минутный тест покажет, рискуете ли вы заболеть сахарным диабетом
15:17
Что вы видите на этом изображении? Оптическая иллюзия с попугаем разлетелась по Сети
15:08
Как Добкина-младшего опять "плющит" в Раде
15:05
В БПП назвали условия внесения в Раду законопроекта об отмене АТО
14:55
Ученые назвали самую вероятную причину конца света‍
14:54
Исследование: антибактериальное мыло вредит здоровью
13:49
Украинцы могут вымереть - социолог
13:46
Попытку нападения на офис Ляшко показали на видео
12:40
Объявить войну России является опасным шагом, – Тымчук рассказал подробности завершения АТО
12:36
"Чего ты буянишь? Теперь тебя на передовую заберут", - одесситы успокаивают задержанного дебошира
11:02
Китай ведет переговоры о покупке 50 самолетов "Антонов"
11:01
Лев в сафари-парке "перекусил" запаской (видео)
10:47
Бывший ІТ-директор ПриватБанка выложил код сервиса Папка24 в открытый доступ
10:43
Поклонская развеселила угрозами в адрес россиян, посмотревших "Матильду"
10:41
Невиданный пожар: Дрон заснял сгоревшие машины на португальской дороге
10:29
Население Украины за год уменьшилось на 176 тысяч и сокращается дальше, - Госстат
10:28
Порошенко анонсировал приезд представителей администрации Трампа в Украину
10:16
Как "афроукраинцы" воспитывали донецкую "ватницу"
09:33
Гонка за биткоинами: страну накрыл бум на криптовалюту
09:16
Украинцы покорили американское талант-шоу невероятным выступлением
09:05
Алименты в Украине будут платить по-новому
08:20
Пока Львов утопает в отходах, от дома Садового регулярно вывозят мусор
08:18
СМИ: Сын Виктора Цоя перестал общаться с родней
08:05
В Украине снова подорожает алкоголь
07:53
Конгресс США занялся вопросом Голодомора в Украине
07:51
Анджелина Джоли заметно похорошела после развода
07:25
Фискальная служба подсчитала, сколько граждан уклоняется от налогов
07:23
Номер за $5500 и кортеж за $3000: СМИ подсчитали стоимость американского вояжа Порошенко
07:15
Зрелищная победа украинского боксера над россиянином (видео)
07:05
Победил сам себя: сеть позабавило фото ДТП с военным грузовиком оккупантов в Крыму
Більше новин

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

0

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ― написал знаменитый физик, ― на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ― написал Хокинг, ― вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ― ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ― появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».


Загрузка...